💡 HBM4 웨이퍼 위에 젠슨 황이 남긴 ‘Please make more’
HBM4를 비롯한 AI 메모리가 지금 IT 업계에서 가장 귀한 부품이 됐습니다. 지난해 대만 컴퓨텍스, SK하이닉스 부스에 젠슨 황이 예고 없이 등장해 첫 공개된 HBM4 웨이퍼 위에 ‘Please make more’라고 적고 서명까지 남겼습니다. 세계에서 AI 칩을 가장 많이 파는 회사 CEO가 핵심 메모리 공급사에 남긴 말이 ‘좀 더 만들어 달라’였죠. 😮 실제로 SK그룹은 2034년까지 메모리 생산 능력을 지금의 3배로 키우는 데 약 7,200억 달러를 투자할 계획입니다. 내년 고객이 요구하는 메모리 물량이 올해의 거의 2배인데, 생산 능력을 의미 있게 늘리는 데는 4\~5년이 걸리기 때문입니다. HBM이 그만큼 부족하다는 뜻이죠.
🔍 HBM을 파는 회사도 사는 회사도 ‘HBM 줄이기’에 진심인 이유
여기서 재미있는 반전이 있습니다. HBM을 가장 많이 사는 엔비디아는 GPU 옆 비싼 HBM 대신 일부 데이터를 낸드 플래시에 보관했다가 필요할 때 다시 가져다 쓰는 CMX라는 제품을 내놨습니다. 비싼 HBM을 아껴 쓸 수 있다면 비용이 줄어드니까 이해가 가죠. 🤔 그런데 HBM을 만들어 가장 많이 파는 SK하이닉스도 HBF(하이밴드위드플래시)를 적극 추진 중입니다. 낸드를 여러 장 쌓아 프로세서 가까이 붙이고 HBM에 올라가는 데이터 일부를 맡기려는 기술이죠. HBM이 많이 팔릴수록 돈을 더 버는 회사가 자기 HBM 수요를 갉아먹을 기술을 직접 만드는 셈입니다.
📈 네 살 아이로 비유한 AI…메모리 수요 공식이 달라졌다
최태원 SK그룹 회장은 최근 인터뷰에서 AI를 ‘네 살짜리 아이’에 비유했습니다. 계속 배우고 경험하면서 기억해야 할 것도 점점 많아진다는 뜻이죠. 앞으로 5년간 AI 에이전트 사용량이 현재의 77배, 10년 뒤 전체 메모리 수요는 현재 생산 능력의 약 5배까지 늘어날 수 있다고 전망했습니다. 🚀 대화가 길어질수록 커지는 KV캐시와 모델을 구성하는 웨이트처럼 AI가 계속 들고 있어야 할 데이터는 계속 늘어납니다. 예전엔 PC와 스마트폰 판매량으로 메모리 수요를 가늠했지만, 한 사람이 몇 개의 AI 에이전트를 얼마나 오래 돌릴지는 아직 예측하기 어렵습니다. 내년 고객 요구 물량이 올해의 거의 두 배라는 점이 체감 수요를 보여줍니다.
⚙️ CMX와 HBF, HBM의 일을 어떻게 나눠 가질까
엔비디아의 CMX가 주로 겨냥하는 건 KV캐시입니다. 오래 전 대화의 캐시까지 비싼 HBM에 붙잡아 둘 필요는 없으니, 사용 빈도가 낮아진 데이터는 낸드 플래시로 내려뒀다가 필요할 때 다시 불러오는 방식이죠. HBM이 필요 없어서가 아니라 너무 귀하고 비싸니까 꼭 필요한 데이터만 남겨 두려는 겁니다. 🧩 SK하이닉스의 HBF는 낸드를 8단·16단으로 쌓아 일반 SSD보다 프로세서 가까이에 붙이는 방식입니다. 크기는 크지만 자주 바뀌지 않는 모델 웨이트 같은 데이터가 대표적 후보입니다. 이런 데이터가 HBF로 내려가면 서버 한 대에 필요한 HBM 용량은 줄어들 수 있겠죠.
💰 아이팟을 버린 애플처럼…SK하이닉스가 노리는 다음 시장
2000년대 중반 애플의 히트작은 아이팟이었지만, 애플은 아이폰 안에 음악 플레이어를 넣어 스스로 아이팟 수요를 줄였습니다. 대신 훨씬 더 큰 스마트폰 시장을 가져갔죠. SK하이닉스의 HBF 전략도 이와 비슷합니다. 📌 서버 한 대의 HBM은 줄어들어도 토큰당 비용이 내려가 AI 사용량이 커진다면 전체 메모리 수요는 오히려 더 커질 수 있습니다. HBM4부터는 고객 맞춤형 커스텀 HBM과 TSMC 첨단 로직 공정의 베이스 다이, 장기 공급 계약(LTA), 메모리 용역(MaaS)까지 더해 미리 물량을 확보하는 구조죠. 다만 삼성전자와 마이크론도 동시에 증설 중이라 몇 년 뒤 공급 과잉 가능성은 계속 지켜봐야 합니다. 메모리는 여러 회사가 한꺼번에 공장을 늘렸다가 물량이 쏟아지며 가격이 무너지는 사이클을 반복해 온 산업이니까요.
✅ 핵심 요약 Q&A
Q: 엔비디아와 SK하이닉스가 모두 ‘HBM 줄이기’ 기술을 만드는 이유는? A: HBM이 너무 비싸고 부족하기 때문입니다. 토큰당 비용을 낮춰 AI 서비스가 더 커지면 결국 전체 메모리 수요는 늘어난다는 계산이 깔려 있습니다. Q: CMX와 HBF는 각각 어떤 데이터를 맡나요? A: CMX는 사용 빈도가 낮아진 KV캐시를 낸드 플래시로 내리고, HBF는 크지만 자주 바뀌지 않는 모델 웨이트 같은 데이터를 맡는 것이 목표입니다. Q: HBF가 늘면 HBM 수요는 줄어드나요? A: 서버 한 대 기준으로는 줄어들 수 있습니다. 하지만 비용이 낮아져 AI 사용량이 폭증하면 HBM과 HBF, SSD 전체 수요가 함께 커질 수 있습니다. Q: SK하이닉스가 7,200억 달러를 투자하는 이유는? A: 내년 고객 요구 물량이 올해의 두 배 수준인데 생산 능력 확충에는 4\~5년이 걸리기 때문입니다. 커스텀 HBM과 장기 계약으로 미리 수요를 확보하고 있습니다. Q: 앞으로 주목해야 할 포인트는? A: CMX가 실제 데이터센터에서 얼마나 쓰이는지, HBF가 낸드의 신뢰성과 내구성 문제를 넘어 HBM의 일부 역할을 맡을 수 있는지입니다. 😊
