용어 사전

메모리

HBM이란?해설 있음

HBM은 D램을 여러 장 수직으로 쌓아 연산 칩 바로 옆에 붙인 메모리입니다. 데이터가 지나갈 길의 폭을 극단적으로 넓혀서, 연산 성능이 아니라 데이터 공급이 병목이던 문제를 풉니다. 자세한 해설

HBM4란?

HBM 규격의 최신 세대입니다. 2026년 2분기부터 양산 출하가 시작됐습니다. 세대가 올라갈 때 달라지는 것은 쌓는 층수와 한 번에 흘릴 수 있는 데이터 폭, 그리고 그것을 감당하기 위한 발열 처리 방식입니다.

HBF란?

고대역폭 플래시입니다. HBM처럼 여러 층을 쌓지만 D램 대신 낸드플래시를 씁니다. 속도는 HBM보다 낮은 대신 같은 값에 훨씬 큰 용량을 담습니다. 빠른 기억이 아니라 큰 기억이 필요한 작업을 위한 계층입니다.

TSV란?

실리콘 관통 전극입니다. 쌓아 올린 D램을 위아래로 뚫어 전기적으로 연결하는 미세한 구멍입니다. HBM을 만들려면 반드시 거쳐야 하는 공정이고, 이 때문에 전용 장비와 추가 공정 시간이 듭니다.

LPDDR5X와 LPDDR6란?

스마트폰과 모바일 기기에 들어가는 저전력 D램 규격입니다. 뒤에 붙는 숫자가 클수록 새 세대입니다. 서버용 고부가 메모리로 생산 능력이 쏠리면 가장 먼저 가격이 튀는 품목입니다.

스팟 가격과 고정 거래가의 차이는?

스팟 가격은 그때그때 현물 시장에서 매겨지는 값이고, 고정 거래가는 대형 고객과 미리 정해두는 값입니다. 메모리 가격이 올랐다는 기사를 볼 때 둘 중 어느 쪽인지 확인해야 합니다. 스팟이 먼저 움직이고 고정 거래가가 뒤따라 움직입니다.

패키징과 제조

CoWoS란?

연산 칩과 HBM을 한 기판 위에 나란히 올려 붙이는 TSMC의 첨단 패키징 방식입니다. 이 공정의 처리 물량이 곧 AI 가속기 출하량의 상한이 되기 때문에, 병목이 어디 있느냐를 말할 때 가장 자주 등장합니다.

첨단 패키징이란?

칩을 하나씩 따로 포장하는 대신 여러 칩을 아주 가깝게 붙여 한 덩어리로 묶는 기술을 통칭합니다. 칩을 더 작게 만드는 것이 어려워지면서, 성능을 끌어올리는 무대가 칩 안쪽에서 칩 사이로 옮겨간 결과입니다.

선단 공정이란?

그 시점에 쓸 수 있는 가장 미세한 최신 제조 공정입니다. 생산 능력이 한정돼 있어서, 어떤 제품에 이 공정을 배정하느냐가 곧 공급 우선순위가 됩니다.

파운드리란?

자기 제품을 설계하지 않고 다른 회사의 설계를 받아 칩만 만들어주는 회사입니다. 직접 칩을 설계하는 곳이 늘어날수록 이쪽으로 들어오는 물량이 늘어납니다.

컴퓨트와 추론

커스텀 ASIC이란?해설 있음

범용 GPU 대신 특정 회사의 특정 작업에 맞춰 새로 설계한 칩입니다. 쓸 수 있는 범위가 좁은 대신 그 일에서는 전력당 성능이 좋습니다. 관련 해설

프리필과 디코드는 무엇이 다른가?

AI가 답을 만드는 두 단계입니다. 프리필은 질문 전체를 한꺼번에 읽어들이는 구간이라 연산이 몰리고, 디코드는 답을 한 글자씩 뱉는 구간이라 지연 시간이 중요합니다. 요구 조건이 정반대라서, 요즘은 두 구간에 아예 다른 칩을 쓰는 설계가 나옵니다.

Vera Rubin이란?

엔비디아의 차세대 AI 서버 랙 플랫폼입니다. GPU 하나를 파는 것이 아니라 CPU와 추론 칩, 네트워크, 스토리지를 통째로 묶어 완성된 시스템으로 판다는 점이 특징입니다.

Groq 3 LPX란?

엔비디아와 Groq이 함께 만든 디코드 전용 추론 가속기입니다. Vera Rubin 랙과 나란히 놓여 지연 시간에 민감한 구간을 맡습니다. 서로 경쟁하던 두 회사의 공동 제품이라는 점이 이 분야 경쟁 구도의 변화를 보여줍니다.

에이전틱 워크로드란?

한 번 묻고 답하면 끝나는 대화가 아니라, AI가 스스로 목표를 쪼개고 도구를 불러가며 수십 번씩 반복하는 작업입니다. 사용자 수가 같아도 서버가 감당해야 할 연산량이 훨씬 큽니다.

네트워킹

Spectrum-X란?

AI 클러스터의 연산 칩들을 초고속으로 잇기 위해 엔비디아가 만든 이더넷 기반 네트워킹 실리콘입니다. 다른 회사가 만든 스위치 안에도 이 칩이 들어갑니다.

프런트엔드 패브릭과 백엔드 패브릭이란?

AI 데이터센터에 깔리는 두 종류의 통신망입니다. 백엔드 패브릭은 연산 칩끼리 데이터를 주고받는 내부 고속도로, 프런트엔드 패브릭은 저장장치와 바깥세상을 잇는 진입로에 해당합니다.

셔플박스 배선이란?

서버들을 계층 구조 없이 일부러 거의 무작위로 얽어 연결하는 방식입니다. 특정 경로가 끊겨도 우회로가 많아 튼튼하고, 값비싼 계층형 장비를 덜 써서 비용과 전력을 아낍니다.

실적을 읽을 때

영업이익률과 순이익률은 무엇이 다른가?해설 있음

영업이익률은 본업에서 남긴 몫이고, 순이익률은 이자와 환차손익, 투자자산 손익, 세금까지 모두 반영한 최종 몫입니다. 순이익률이 영업이익률보다 높다면 본업 바깥에서 돈이 들어왔다는 신호이고, 그 부분은 다음 분기에 반복되지 않을 가능성이 큽니다. 관련 해설

ASP란?

평균판매가격입니다. 판 물량이 그대로여도 ASP가 오르면 매출과 이익이 함께 오릅니다. 감가상각비 같은 고정비 비중이 큰 메모리 산업에서는 ASP 변화가 이익률을 크게 흔듭니다.

수율이란?

만든 것 가운데 실제로 쓸 수 있는 제품의 비율입니다. 수율이 낮으면 같은 재료를 넣어도 나오는 완제품이 적어집니다. HBM처럼 여러 층을 쌓는 제품은 한 층만 불량이어도 전체를 버려야 해서 수율이 특히 중요합니다.

NVLink와 NVSwitch란?

엔비디아의 연산 칩끼리를 초고속으로 잇는 기술(NVLink)과 그 교환기(NVSwitch)입니다. 여러 칩의 메모리를 하나처럼 묶어 쓰게 해줍니다. 따로 팔지 않고 랙을 통째로 사야 붙습니다.

UALink란?해설 예정

AMD, 브로드컴, 구글, 마이크로소프트 등이 2024년에 만든 개방형 연결 표준입니다. 특정 회사 칩에 묶이지 않고 여러 업체 하드웨어를 섞어 쓰려는 쪽이 밀고 있습니다.

스케일업과 스케일아웃은 무엇이 다른가?

스케일업은 한 상자(랙) 안에서 칩 여러 개를 초고속으로 묶어 하나의 큰 두뇌처럼 쓰는 방식이고, 스케일아웃은 그런 상자를 수천 대 이어 붙여 규모를 키우는 방식입니다. 두 층에 각각 다른 표준 경쟁이 걸려 있습니다.

---

설명이 틀렸거나 빠진 말이 있으면 watt@infrajang.com으로 알려주세요. 확인해서 고칩니다.