커스텀 HBM이란? 파운드리가 메모리에 끼어드는 이유

TL;DR

  • 커스텀 HBM은 스택 맨 아래 베이스다이에 고객 전용 회로를 얹은 HBM이다. SRAM을 더 넣거나, 압축 엔진을 붙이거나, 신호 경로를 그 워크로드에 맞춰 고친다.
  • 베이스다이가 로직 칩이 되면서 메모리 회사 혼자로는 만들 수 없게 됐다. 세 회사 모두 파운드리를 끼고 간다.
  • 메모리가 규격품에서 주문품으로 바뀌면 값이 사이클이 아니라 협상으로 움직인다. 이게 이 변화의 핵심이다.
  • 다만 주문품은 팔 곳이 하나뿐이라는 뜻이기도 하다. 메모리 회사에 좋은 것만은 아니다.

한 줄로 답하면

커스텀 HBM은 고객마다 다르게 만든 HBM입니다. 쌓아 올린 D램은 같지만, 맨 아래 베이스다이가 고객이 원하는 회로를 담습니다. 마이크론은 여기에 들어갈 수 있는 것으로 추가 SRAM, 전용 압축 엔진, 튜닝된 신호 경로를 들었습니다. HBM이 정해진 부품이 아니라 부분적으로 설정 가능한 하위 시스템이 되는 셈입니다.

왜 지금 이런 일이 생기나

앞선 글에서 HBM4가 인터페이스를 1024비트에서 2048비트로 넓혔다고 썼습니다. 그 2048개의 배선이 베이스다이 한 장을 통과해야 하는데, 그건 메모리 공정보다 로직 공정이 잘하는 일입니다. 그래서 베이스다이가 로직 칩이 됐습니다.

여기까지는 기술 얘기입니다. 그런데 일단 로직 칩이 되면 그 위에 무엇이든 얹을 수 있습니다. 이게 의도하지 않은 문이 열린 지점입니다. 대역폭을 늘리려고 넓힌 것이 결과적으로 커스터마이즈의 공간을 만들었습니다.

커스텀 HBM 구조 변화도. 지금까지는 JEDEC 규격, 세 회사 중 아무나 제조, 고객 구매의 3단계였고 값이 사이클로 움직였다. HBM4E부터는 고객이 회로를 정하고 파운드리가 베이스다이를 만들고 메모리 회사가 D램을 쌓아 그 고객에게만 맞는 4단계가 되며 값이 협상으로 움직인다.
단계가 하나 늘어난 것이 아니라, 그 단계가 값을 정하는 방식을 바꾼다.

규격품과 주문품의 차이

지금까지 메모리는 규격품이었습니다. JEDEC이 스펙을 정하고 세 회사가 그 스펙에 맞춰 만들었습니다. 그래서 어느 회사 제품이든 같은 자리에 꽂힐 수 있었고, 고객은 값이 싼 쪽을 골랐습니다. 메모리 값이 사이클로 움직여온 이유가 여기 있습니다. 대체 가능하면 값은 수급이 정합니다.

주문품은 다릅니다. 어떤 고객의 가속기에 맞춰 베이스다이를 설계했으면 그 HBM은 그 가속기에만 맞습니다. 다른 고객에게 팔 수 없고, 그 고객도 다른 회사 제품으로 바꾸기 어렵습니다. 이러면 값이 수급이 아니라 협상으로 정해집니다.

그래서 현물가와 장기계약가가 4배에서 5배 벌어지는 지금의 현상은 시작에 불과할 수 있습니다. 커스텀이 본격화되면 애초에 비교할 현물 시장이 없어집니다.

파운드리가 협상 테이블에 앉는다

여기서 힘의 균형이 움직입니다. 예전에는 메모리 회사와 고객 둘이 마주 앉았습니다. 이제 셋입니다.

SK하이닉스는 HBM4 베이스다이를 TSMC의 12나노급 로직 공정으로 만듭니다. 마이크론은 HBM4E 베이스다이 생산을 TSMC에 맡기기로 했고, 2027년 양산을 목표로 합니다. 삼성전자는 자사 파운드리에서 만듭니다.

즉 세 회사 중 두 곳이 같은 파운드리에 의존합니다. 메모리 3강이 서로 경쟁하면서 핵심 부품 하나를 같은 곳에서 받는 구조입니다. TSMC 입장에서는 AI 가속기에 이어 그 가속기에 붙는 메모리의 일부까지 가져가는 셈입니다.

삼성의 자리는 왜 미묘한가

삼성전자는 유일하게 메모리와 파운드리를 다 갖고 있습니다. 로직다이를 자사 4나노 공정에서 만들고 3D 패키징까지 한 회사 안에서 처리합니다. 외부에 맡기지 않아도 되니 일정과 원가를 스스로 통제할 수 있습니다.

그런데 이게 일방적인 강점은 아닙니다. 두 가지 조건이 붙습니다.

첫째, 파운드리 수율이 메모리의 발목이 될 수 있습니다. 외부 파운드리를 쓰면 문제가 생겼을 때 다른 곳을 찾을 수 있지만, 자사 라인이면 그 라인이 곧 상한입니다.

둘째, 고객이 원하지 않을 수 있습니다. 커스텀 베이스다이에는 고객의 설계 의도가 담깁니다. 그 고객이 파운드리 사업에서 삼성과 경쟁하거나 다른 파운드리를 쓰고 있다면, 자기 설계를 삼성 파운드리에 넘기는 것을 꺼릴 이유가 생깁니다.

보도에 따르면 삼성은 커스텀 HBM 로직다이를 2나노 공정으로 옮기는 것을 검토하고, SK하이닉스도 HBM4E 로직다이에 TSMC 3나노를 저울질하는 것으로 전해집니다. 다만 이 대목은 회사 발표가 아니라 보도이므로 확정된 계획으로 읽으면 안 됩니다.

메모리 회사에 좋은 것만은 아니다

커스텀은 보통 좋은 얘기로 소비됩니다. 대체 불가능해지고 값을 더 받고 고객이 떠나기 어려워지니까요. 그런데 반대쪽도 봐야 합니다.

재고를 돌려쓸 수 없습니다. 규격품은 A 고객이 주문을 줄이면 B 고객에게 팔면 됩니다. 주문품은 갈 곳이 없습니다. 그 고객의 프로젝트가 취소되거나 늦어지면 그 물량은 그대로 손실입니다.

개발비가 고객 수만큼 듭니다. 베이스다이를 고객별로 설계하면 설계, 검증, 마스크 비용이 각각 발생합니다. 물량이 충분히 크지 않은 고객은 애초에 커스텀을 받을 수 없고, 그러면 커스텀은 소수의 대형 고객에게만 열립니다.

그리고 그 소수가 이미 힘이 센 쪽입니다. 커스텀을 요구할 만한 물량을 가진 곳은 엔비디아와 대형 하이퍼스케일러입니다. 협상으로 값이 정해지는 구조에서 협상력이 어느 쪽에 있을지는 따로 생각해봐야 합니다.

이 다음에 볼 것

  • 첫 커스텀 계약이 공개되는지: 어느 고객이 무엇을 얹었는지가 드러나면 이 구조가 실재한다는 확인입니다. 지금은 아직 예고 단계입니다.
  • 베이스다이 공정 노드: 12나노에서 3나노나 2나노로 내려가는지. 내려갈수록 파운드리 의존이 깊어지고 원가 구조도 바뀝니다.
  • 커스텀 비중: 전체 HBM 출하에서 커스텀이 차지하는 몫. 소수 고객에게만 열린 옵션으로 남는지, 표준이 되는지가 갈립니다.
  • 삼성 파운드리의 HBM 로직다이 수율: 턴키의 값은 여기서 증명되거나 부정됩니다.

이 글에 나온 말

커스텀 HBM · 베이스다이에 고객 전용 회로를 얹어 특정 가속기에 맞춘 HBM입니다. cHBM으로도 씁니다.

베이스다이 · HBM 스택 맨 아래에서 위쪽 D램과 바깥 사이의 신호를 정리하는 층입니다. HBM4부터 로직 칩이 됐습니다.

SRAM · 아주 빠르지만 용량 대비 면적이 큰 메모리입니다. 자주 쓰는 데이터를 연산 회로 가까이 두는 데 씁니다.

파운드리 · 남의 설계를 받아 칩만 만들어주는 회사입니다.

규격품과 주문품 · 규격품은 대체 가능해서 값이 수급으로 정해지고, 주문품은 대체 불가라서 협상으로 정해집니다.


자주 묻는 질문

커스텀 HBM이란 무엇인가요

고객마다 다르게 만든 HBM입니다. 쌓아 올리는 D램 자체는 같고, 스택 맨 아래 베이스다이가 그 고객이 원하는 회로를 담습니다. 마이크론이 들어갈 수 있는 것으로 든 예는 추가 SRAM, 전용 압축 엔진, 그리고 해당 워크로드에 맞춰 튜닝한 신호 경로입니다. HBM이 정해진 부품에서 부분적으로 설정 가능한 하위 시스템으로 바뀌는 것입니다.

일반 HBM과 무엇이 다른가요

규격품과 주문품의 차이입니다. 지금까지 메모리는 JEDEC이 정한 스펙에 세 회사가 맞춰 만드는 규격품이었고, 그래서 어느 회사 제품이든 같은 자리에 꽂히고 고객은 값이 싼 쪽을 골랐습니다. 커스텀 HBM은 특정 가속기에 맞춰 베이스다이를 설계하므로 그 가속기에만 맞습니다. 대체가 되지 않으면 값은 수급이 아니라 협상이 정합니다.

왜 메모리 회사 혼자서는 만들 수 없나요

베이스다이가 로직 칩이 됐기 때문입니다. HBM4가 인터페이스를 1,024비트에서 2,048비트로 넓히면서 그 2,048개의 배선이 베이스다이 한 장을 통과해야 하는데, 이것은 메모리 공정보다 로직 공정이 잘하는 일입니다. 그래서 세 회사 모두 파운드리를 끼고 갑니다. 대역폭을 늘리려고 넓힌 것이 결과적으로 커스터마이즈의 공간을 만들었습니다.

커스텀 HBM은 메모리 회사에 유리한가요

양면입니다. 값이 사이클이 아니라 협상으로 정해지는 것은 유리합니다. 그런데 주문품은 팔 곳이 하나뿐이라서 수요가 빠지면 재고를 돌릴 데가 없고, 고객별 설계 비용이 붙으니 소수의 대형 고객만 대상이 됩니다. 그리고 그 대형 고객들은 이미 협상력을 쥔 쪽입니다.

같이 읽을 글

출처


안내
이 글은 AI 인프라 산업의 구조를 이해하기 위한 해설입니다. 운영자는 금융투자업 인가를 받은 자가 아니며, 이 사이트는 투자 자문을 제공하지 않습니다. 언급된 기업명은 산업 구조를 설명하기 위한 예시이며 특정 기업에 대한 평가나 권유가 아닙니다. 공정 노드와 커스텀 계획 관련 내용 중 일부는 회사 발표가 아니라 보도된 검토 단계의 사안입니다. 자세한 내용은 고지 사항을 참고하세요.

뉴스레터

AI 인프라 뉴스를 구조로 읽는 법

새 글이 올라오면 메일로 보내드립니다. 그날 뉴스에서 어느 고리가 움직였는지만 짧게 정리합니다.

광고 메일은 보내지 않습니다. 해지는 메일 하단에서 한 번에 됩니다.

댓글 남기기