AI 반도체 이야기에서 가장 먼저 떠오르는 메모리는 단연 HBM입니다. 그런데 엔비디아의 차세대 플랫폼 베라 루빈(Vera Rubin)을 뜯어보면, 조금 이상한 숫자가 하나 등장합니다.
HBM4보다 원가 비중이 더 큰 메모리가 있습니다. 바로 SOCAMM2(소캠2)입니다.
소캠2, 대체 뭐길래 화제일까
글로벌 투자은행 UBS가 베라 루빈 수퍼칩의 부품명세서(BOM)를 분석한 결과가 최근 보도됐습니다. 이 분석에 따르면 수퍼칩 전체 원가에서 메모리가 차지하는 비중은 약 62%로 추산됩니다.
세부 내역을 보면 흥미로운 지점이 있습니다. GPU에 탑재되는 HBM4의 원가 비중은 12.7%인 반면, CPU 쪽에 붙는 SOCAMM2는 49.8%로 훨씬 큽니다.
단, 62%·12.7%·49.8%는 엔비디아가 공식적으로 밝힌 제조원가가 아니라 UBS의 BOM 분석에 따른 추산치입니다. 이 점은 계속 염두에 두고 읽어야 합니다.
HBM4와 소캠2, 무엇이 다를까
둘을 이렇게 구분하면 쉽습니다.
HBM4는 GPU가 계산할 때 필요한 초고속 작업 공간입니다. SOCAMM2는 CPU가 많은 데이터를 다루기 위한 대용량 메모리입니다.
여기서 궁금증이 하나 생깁니다. 왜 기존 메모리를 그냥 꽂지 않고, SOCAMM이라는 새로운 모듈 규격을 만들었을까요.
SOCAMM2는 원래 스마트폰이나 노트북에 쓰이던 저전력 D램(LPDDR5X)을 기반으로 만들어졌습니다. 다만 단순히 “스마트폰 메모리를 서버에 옮겨 붙였다”고 보기는 어렵습니다. 서버 환경에 맞춰 모듈 형태로 다시 설계된 결과물이기 때문입니다.
왜 엔비디아는 CPU에도 대용량 메모리를 붙였을까
베라(Vera) CPU는 최대 1.5TB의 LPDDR5X 메모리를 지원합니다. 전작인 그레이스(Grace) CPU의 최대 480GB와 비교하면 3배 이상 늘어난 수치입니다.
단순히 용량이 커진 것만이 포인트는 아닙니다. 엔비디아는 2세대 NVLink-C2C 기술로 베라 CPU와 루빈 GPU를 1.8TB/s 대역폭으로 연결했습니다. 이 연결 덕분에 GPU와 CPU가 서로의 메모리를 더 효율적으로 넘나들며 활용할 수 있게 됩니다.
이렇게 연결하면 긴 문맥을 처리하는 AI 모델의 캐시 데이터를 CPU 쪽 대용량 메모리로 옮겨두거나, 여러 AI 모델을 동시에 효율적으로 돌리는 작업이 한결 수월해집니다.
베라 루빈 한 랙에 들어가는 메모리, 74.7TB의 의미
베라 루빈 NVL72 랙 한 대에는 HBM4 20.7TB와 CPU용 LPDDR5X 54TB, 엔비디아 공식 사양 기준으로 합쳐서 총 74.7TB의 D램이 들어갑니다.
이 숫자를 “SOCAMM2가 HBM을 대체하고 있다”는 식으로 해석하면 곤란합니다. 둘은 역할 자체가 다릅니다.
정확히 말하면, AI 시스템에서 필요한 메모리의 종류와 양이 함께 커지고 있다는 신호에 가깝습니다. HBM 하나만 보던 시대에서, CPU 쪽 대용량 메모리까지 함께 봐야 하는 시대로 넘어가고 있는 겁니다.
그렇다면 국내에서 주목할 기업은 어디일까
SOCAMM2 확산은 메모리를 만드는 기업과, 그 메모리를 담는 기판을 만드는 기업 두 갈래로 나눠서 봐야 합니다.
메모리 자체는 삼성전자, SK하이닉스, 마이크론이 담당합니다. SK하이닉스는 SOCAMM2 192GB 양산을 공식 개시했고, 삼성전자와 마이크론도 관련 제품을 준비 중입니다.
기판 쪽에서는 티엘비가 거론됩니다. 정확히 표현하면, 티엘비는 SOCAMM2 메모리 자체를 만드는 회사가 아니라 SOCAMM2 모듈에 들어가는 기판(PCB)을 공급하는 회사입니다. 글로벌 3대 메모리 제조업체 중 2곳으로부터 SOCAMM2 기판 퀄 테스트를 통과했으며, 현재 양산을 위한 생산라인을 조율하는 단계입니다. 퀄 통과가 곧바로 매출로 이어지는 것은 아니라는 점은 참고할 필요가 있습니다. 관련 기판 공급망에는 다른 국내 업체들도 함께 거론됩니다.
정리하면 이런 흐름입니다. LPDDR5X라는 메모리 기술 → SOCAMM2라는 모듈 규격 → 이를 담는 기판 → AI 서버. 이 흐름 각 단계마다 관련 기업이 존재하는 셈입니다.
투자 포인트
SOCAMM2는 “HBM보다 중요한 메모리”가 아니라, “HBM 곁에서 함께 커지고 있는 또 하나의 메모리 축”으로 이해하는 게 정확합니다.
AI 서버의 메모리 수요가 GPU용 HBM에서 그치지 않고 CPU용 대용량 메모리로까지 확대되고 있다는 점, 그리고 이 흐름이 메모리 3사뿐 아니라 국내 기판 공급망 기업들에도 새로운 기회가 될 수 있다는 점을 눈여겨볼 필요가 있습니다.
🚀 한 줄 요약
HBM만 보면 놓치는 메모리가 있다. 엔비디아 베라 루빈이 쓰는 SOCAMM2, AI 메모리 수요가 넓어지고 있다는 신호다.
AI 서버의 조용한 혁명: SoCAMM2와 티엘비가 만드는 새로운 표준
💬
HBM 외에 또 다른 AI 메모리 수요가 커지고 있다는 이번 이야기, 어떻게 보셨나요?
※ 본 글은 정보 제공을 목적으로 하며, 투자 판단과 그 책임은 투자자 본인에게 있습니다.
답글 남기기