AI 데이터센터는 전력을 어디에 쓰나: PUE 하나가 GPU 10만 장을 가른다

최태원 SK 회장이 9월 11일 울산포럼에서 “울산은 거의 900메가까지 다 왔다”고 말했습니다. 지금 짓고 있는 것은 AWS와 함께하는 100메가와트짜리이고, 900메가와트는 여기에 더할 몫입니다. 합치면 1기가와트 규모가 됩니다.

900메가와트가 얼마나 큰지는 감이 잘 오지 않습니다. 그래서 이 글은 반대 방향으로 갑니다. 전력을 GPU로 환산하면 몇 장인가. 답을 먼저 말하면, 32만 장일 수도 있고 42만 장일 수도 있습니다. 같은 900메가와트인데 말입니다.

그 10만 장의 차이를 만드는 것이 무엇인지 보려면, 데이터센터가 전기를 어디에 쓰는지부터 봐야 합니다.

전력은 어디로 가나

국제에너지기구(IEA)가 정리한 현대적 데이터센터의 전력 내역은 이렇습니다.

여기서 읽어야 할 것은 숫자 자체가 아니라 어느 항목이 고정이고 어느 항목이 변수인가입니다.

서버 60%는 거의 고정입니다. 계산을 하려고 데이터센터를 짓는 것이니 이 몫은 줄일 대상이 아닙니다. 스토리지와 네트워킹도 합쳐서 10% 안쪽이라 흔들 여지가 적습니다.

변수는 냉각입니다. 7%와 30%는 4배 이상 차이이고, 이 차이가 곧 같은 전력으로 몇 대를 돌릴 수 있느냐를 정합니다. 냉각에 쓰는 전기는 계산을 한 글자도 하지 않습니다.

PUE란 무엇인가

이 비율을 하나의 숫자로 표현한 것이 PUE(Power Usage Effectiveness, 전력사용효율)입니다. 정의는 나눗셈 하나입니다.

PUE가 1.0이면 들어온 전기가 전부 서버로 갑니다. 이론적인 완벽이고 현실에는 없습니다. PUE가 1.5라면 서버에 1킬로와트를 넣기 위해 시설에 1.5킬로와트를 넣는다는 뜻입니다. 0.5킬로와트는 냉각과 전력 손실로 사라집니다.

그런데 이 숫자의 역사가 이 글에서 가장 중요한 대목입니다. 업타임 인스티튜트가 집계한 세계 평균 PUE는 이렇게 움직였습니다.

7년 만에 2.5에서 1.65로 떨어졌는데, 그 뒤 9년째 1.5대에서 움직이지 않습니다. 쉬운 개선이 다 끝났다는 뜻입니다. 공기 흐름을 정리하고 온도 설정을 올리고 외기를 쓰는 방법은 이미 다 쓰였습니다.

이것이 왜 중요하냐면, 용량을 늘리는 방법이 둘 중 하나인데 한쪽 문이 닫혀 있다는 뜻이기 때문입니다.

• 효율을 올린다: 같은 전력으로 더 많은 서버를 돌린다. 2020년 이후 거의 멈춤.
• 전력을 더 구한다: 부지와 발전과 송전을 확보한다. 지금 벌어지고 있는 일.

멈춘 원전을 다시 켜고, 전력구매계약을 맺고, 회사들이 사업을 기가와트로 설명하기 시작한 이유가 여기 있습니다. 효율 쪽 문이 닫혀서 전력 쪽 문으로 몰린 것입니다.

랙 한 대가 얼마나 먹나

AI가 바꾼 것은 총량만이 아니라 밀도입니다. 엔비디아 GB200 NVL72 랙 한 대의 공개 사양을 보겠습니다.

비교 대상이 있어야 감이 옵니다. 업타임 인스티튜트의 2026년 조사는 최대 랙 밀도 30킬로와트 이상을 보고하는 운영자가 늘고 있다고 적었습니다. 늘고 있다는 표현은 아직 일반적이지 않다는 뜻입니다.

랙 한 대가 기존 고밀도 기준의 4배를 넘어가면 공기로는 열을 뺄 수 없습니다. 액체 냉각으로 넘어간 것은 성능을 더 짜내려는 선택이 아니라 물리적으로 다른 방법이 없어서입니다. 그리고 액체 냉각은 공랭보다 냉각 전력을 크게 줄이기 때문에, PUE를 다시 낮출 수 있는 거의 유일하게 남은 카드이기도 합니다.

900메가와트를 GPU로 환산하면

이제 앞의 두 숫자를 곱하고 나누면 됩니다. 시설 전력을 PUE로 나누면 IT 장비가 쓸 수 있는 전력이 나오고, 그것을 랙 하나의 전력으로 나누면 랙 수가 나옵니다.

시사점

GPU 9만 6천 장은 그 자체로 대형 클러스터 하나입니다. 그것이 칩 공급이나 자본이 아니라 냉각 설계에서 나옵니다.

그래서 전력을 확보하는 경쟁과 냉각 기술 경쟁은 따로 있는 두 개의 경쟁이 아닙니다. 하나입니다. 전력 1기가와트를 새로 확보하는 일은 몇 년이 걸리고 지역 주민 동의까지 필요하지만, PUE를 1.5에서 1.2로 낮추는 일은 이미 확보한 전력에서 같은 크기의 용량을 꺼내는 일입니다.

그래서 병목은 어디에 있나

전력이라는 한 단어 안에 실제로는 서로 다른 병목이 네 개 들어 있습니다.

마지막 층위가 이 블로그가 계속 따라온 이야기와 만납니다. 랙 하나에 HBM이 13.4테라바이트 들어갑니다. 메모리는 용량만 차지하는 것이 아니라 전기를 먹고, 대역폭을 올릴수록 더 먹습니다. HBM4가 전송률 대신 인터페이스 폭을 넓히는 쪽을 고른 이유 중 하나가 이것입니다. 핀 속도를 올리면 전력과 열이 같이 올라가는데, 16단으로 쌓은 스택 안에서는 그 열을 뺄 방법이 없습니다.

정리하면 이렇습니다. 데이터센터 바깥에서는 전기를 구하는 싸움이, 건물 안에서는 그 전기를 서버에 얼마나 많이 주느냐의 싸움이, 랙 안에서는 그 전기를 열로 잃지 않고 칩까지 보내는 싸움이, 칩 안에서는 같은 전력으로 대역폭을 얼마나 뽑느냐의 싸움이 동시에 벌어지고 있습니다. 같은 제약이 층위마다 다른 얼굴로 나타나는 것입니다.

자주 묻는 질문

PUE 1.0은 가능한가요

정의상 불가능합니다. 1.0은 냉각과 전력 변환에 전기를 한 와트도 쓰지 않는다는 뜻인데, 서버가 쓴 전기는 전부 열이 되고 그 열은 반드시 어딘가로 빼야 합니다. 현실에서 잘 지은 액체 냉각 시설이 1.1대를 말하고, 세계 평균은 1.5대입니다. 다만 PUE는 냉각 효율만 보는 지표라 물 사용량이나 전력의 출처는 전혀 반영하지 않는다는 한계가 있습니다.

액체 냉각은 왜 갑자기 필요해졌나요

갑자기가 아니라 밀도가 임계점을 넘었기 때문입니다. 랙 한 대가 10킬로와트일 때는 공기로 뺄 수 있었지만 130킬로와트에서는 불가능합니다. 공기는 열을 실어 나르는 능력이 물보다 훨씬 낮아서, 같은 열을 빼려면 엄청난 양을 아주 빠르게 불어넣어야 하는데 그 송풍에 드는 전기가 다시 PUE를 올립니다. 밀도가 오르면 어느 지점에서 공랭은 물리적으로도 경제적으로도 답이 아니게 됩니다.

데이터센터가 정말 그렇게 전기를 많이 쓰나요

IEA 기준으로 2024년 전 세계 데이터센터 전력 소비는 약 415테라와트시로 세계 전력 소비의 약 1.5%입니다. 아직 압도적인 비중은 아닙니다. 문제는 속도입니다. IEA는 2030년에 약 945테라와트시, 세계 전력의 3% 가까이로 두 배 이상이 될 것으로 봅니다. 그리고 그 순증의 거의 절반을 AI 가속 서버가 만들 것으로 봅니다.

전력을 아끼면 GPU를 더 넣을 수 있나요

정확히 그렇습니다. 그것이 이 글의 계산입니다. 다만 아낄 수 있는 대상은 서버가 아니라 서버 아닌 것입니다. 서버 전력을 줄이면 계산 능력이 그만큼 줄어들지만, 냉각 전력을 줄이면 계산 능력은 그대로인 채 여유가 생깁니다. 그래서 데이터센터 업계가 PUE 소수점 둘째 자리를 두고 다투는 것입니다.

같이 읽을 글

• 삼성전자 5억 달러: 부품을 파는 자리에서 발주를 내는 자리로
• 12개월 정지와 5배 밀도: 전력 병목은 세 층에서 값이 매겨진다
• GPU 가동률 97.9%: 문제는 파는 값이 아니라 사는 값이다
• 2028년 10기가와트: 세는 단위가 칩 개수에서 와트로 바뀌었다
• 멈춘 원전을 2029년에 다시 켠다: 병목이 칩 바깥으로 나갔다
• 메모리 대역폭이란 무엇인가: 용량은 담는 양, 대역폭은 꺼내는 속도
• HBM 16단은 왜 어려운가: 높이가 775마이크로미터로 묶여 있다

참고한 1차 자료: IEA Energy and AI 보고서의 데이터센터 전력 수요 항목, 업타임 인스티튜트의 세계 평균 PUE 추이 및 2026년 세계 데이터센터 조사, 엔비디아 GB200 NVL72 제품 사양, 슈퍼마이크로 GB200 NVL72 슈퍼클러스터 데이터시트, 최태원 SK 회장의 2026 울산포럼 발언(2026년 9월 11일).

글: Watt