에이전트는 계산보다 기억을 더 쓴다: 아스트라가 인프라에 던진 숙제
아스트라 발표에서 인프라 관점의 핵심 숫자는 벤치마크가 아니라 작업 하나에 약 40분입니다. 작업이 길어지면 KV 캐시가 그만큼 오래 HBM을 붙잡고, 병목은 연산이 아니라 메모리 용량과 대역폭으로 옮겨갑니다.
AI 인프라 밸류체인 해설
아스트라 발표에서 인프라 관점의 핵심 숫자는 벤치마크가 아니라 작업 하나에 약 40분입니다. 작업이 길어지면 KV 캐시가 그만큼 오래 HBM을 붙잡고, 병목은 연산이 아니라 메모리 용량과 대역폭으로 옮겨갑니다.
HPE는 주문이 매출보다 3.5배 빠르게 늘고 있고 제약은 공급이라고 밝혔습니다. 크루소의 기업가치는 11개월 만에 3배가 됐고, AI 서비스 세 개가 같은 날 멈췄습니다. 2026년 9월 4일 AI 인프라 브리핑.
미 상무장관이 표적 관세를 공식화했고, 범위를 칩이 들어간 제품까지 넓히는 것도 검토 중이다. 브로드컴 AI 반도체는 221% 늘었지만 마벨을 보면 커스텀 칩보다 광학이 앞선다. 그리고 병목 얘기가 전력과 냉각으로 내려오고 있다.
AI 인프라의 연결 표준 싸움은 랙 안쪽과 랙 사이 두 층에서 따로 벌어진다. 랙 안쪽에서 엔비디아 NVLink는 압도적이지만 확장성은 개방 표준 UALink가 앞선다. 엔비디아의 대응은 잠그기가 아니라 NVLink Fusion으로 남의 칩을 자기 패브릭에 끌어들이는 것이다.
마벨 매출의 79%가 데이터센터에서 나왔다. 그러나 이번 분기의 진짜 사건은 실적이 아니라 구글에 준 122억 달러 워런트다. 칩을 살수록 고객이 공급사 주식을 살 권리가 커지는 구조가 커스텀 ASIC 사업의 성격을 그대로 보여준다.