지구의 한계, 바다의 도전, 그리고 우주라는 해답.
인류는 항상 공간이 부족해지면 새로운 곳으로 나아갔습니다. 도시가 좁아지자 바다를 메워 땅을 만들었고, 그 땅도 부족해지자 하늘로 건물을 올렸습니다.
지금 AI 시대의 핵심 인프라인 데이터센터가 똑같은 위기에 처해 있습니다. 땅이 부족하고, 전력이 부족하고, 냉각이 문제입니다.
그래서 일부는 바다로 나갔습니다. 그런데 일론 머스크는 처음부터 훨씬 더 멀리 보고 있었습니다. 그의 답은 우주입니다.
1부의 두뇌(GPU), 2부의 고속도로(기판), 3부의 심장필터(MLCC)까지 모여 드디어 고성능 AI 서버 한 대가 완성되었습니다. 하지만 AI 데이터센터는 서버 한 대만으로 챗GPT 같은 거대 생성형 AI를 돌릴 수 없습니다. 수천, 수만 대의 서버가 ‘하나의 유기체’처럼 동시에 움직여야 합니다.
1부의 두뇌(GPU)와 연료(HBM), 2부의 고속도로(FC-BGA)까지 갖췄다면 이제 AI 서버는 완벽하게 돌아갈까요? 아닙니다. 아무리 좋은 차에 아우토반을 깔아줘도, 엔진에 들어가는 전류가 요동치고 노이즈(불순물)가 가득하다면 엔진은 그 자리에서 폭발하고 말 것입니다.
1부에서 우리는 AI 데이터센터의 무시무시한 두뇌(GPU)와 그 연료인 HBM3E에 대해 알아봤습니다. 하지만 아무리 뛰어난 두뇌가 있고 좋은 연료가 공급되어도, 이들이 앉아있을 ‘기반’이 부실하고 데이터가 오가는 ‘고속도로’가 막히면 아무 소용이 없습니다.
인공지능(AI) 시대가 도래하면서 전 세계는 지금 대규모 ‘AI 데이터센터’ 건설 붐을 맞이하고 있습니다. 기존의 일반 데이터센터와 AI 데이터센터는 내부를 채우고 있는 서버 랙(Server Rack)의 아키텍처부터 근본적으로 다릅니다.
인공지능(AI) 시대, 엔비디아의 GPU가 천재라면 HBM은 그 천재에게 쉴 새 없이 데이터를 공급하는 ‘초고속 도로’입니다. HBM이 무엇인지, 왜 중요한지 핵심만 정리합니다.
