당신에게, 그리고 데이터센터에 더 많은 전력을

하이퍼스케일러 (hyperscalers), 클라우드 구축업체, 그리고 AI 모델 구축업체들이 주로 집중되어 있는 미국을 중심으로, 수 기가와트(GW) 규모의 데이터센터들이 버섯처럼 급격히 생겨나는 동시에 전기 요금이 상승하고 있다는 사실에 대해 사람들이 불안해하는 것은 당연한 일입니다.

차세대 생성형 AI (GenAI) 혁명의 가장 큰 병목 현상이 무엇인지에 대한 수많은 논의가 있음에도 불구하고 — 어떤 이들은 전력 가용성을 꼽고, 다른 이들은 다양한 HBM, DRAM, 그리고 플래시 메모리 (flash memory) 공급 부족을 꼽지만 — 상황이 느껴지는 것만큼 나쁘지 않을 수도 있습니다. 적어도 지구상의 83억 명의 사람들과 그들의 고용주들이 소비하는 전력량과 비교한다면 말입니다.

이 상황과 관련하여, Gartner의 시장 조사 연구원들은 전 세계 데이터센터에 할당된 전력 소비량 및 전력 할당량을 방금 조사했습니다. 추정치는 크게 다르지만, 전 세계에는 약 11,500개에서 12,000개 사이의 매우 큰 데이터센터가 있으며, 그 외에 약 700만 개의 엔터프라이즈 및 소버린 (sovereign) 데이터센터와 데이터 클로젯 (dataclosets)이 존재합니다. 이들은 모두 합쳐 지난 60년 동안 상업적 컴퓨팅을 통해 세상을 변화시킨 전자적 판게아 (electronic Pangea)를 형성하는 모든 서버, 스토리지, 그리고 스위칭 장비들을 수용하고 있습니다. 데이터센터의 규모가 폭발적으로 커짐에 따라 소규모 데이터센터의 수는 통합되고 있으며, 이는 현재 우리가 주목하지 않고 있는 흥미로운 현상입니다. 제 추측으로는 하이퍼스케일러, 클라우드 구축업체, 네오클라우드 (neoclouds), HPC 센터, 다양한 국가 기관, 그리고 대기업들이 운영하는 대규모 상업용 데이터센터가 데이터센터에서 소비되는 전력의 약 75%를 차지할 것으로 보입니다. 따라서 그 모든 소규모 시설들을 다 합쳐도 실제로는 그리 큰 비중을 차지하지 않습니다.

물론, 당신이 그 비용을 지불해야 하는 상황이 아니라면 말이죠. IT의 고통과 예산 규모는 비즈니스 규모에 비례하여 커집니다. 21세기에 그 누구도 이를 피할 수는 없습니다.

어쨌든, 다음은 2025년을 기준으로 한 2026년과 2027년의 Gartner 데이터센터 전력 소비 예측치입니다:

이것은 데이터센터에서 전력을 소모하는 기존 서버, AI 서버, 그리고 나머지 장비들을 분리하여 보여준다는 점에서 매우 훌륭합니다. 성장률을 통해 2024년 수치를 추론해낼 수 있으며, 일부 데이터는 2030년 예측치를 포함하고 있어 연평균 성장률 (CAGR)을 계산하고 과거와 미래 사이의 공백을 메울 수 있습니다.

예상하셨겠지만, 저는 아래 표에서 그 작업을 수행했습니다. 또한 전 세계의 전체 전력 소비량 및 발전 용량과 더불어 미국의 동일한 수치들을 수집하여 맥락을 추가했습니다. 제가 추가한 데이터의 대부분은 미국 에너지부 (US Department of Energy)의 통계 및 분석 부서인 에너지 정보국 (EIA)에서 가져왔으나, 일부 예측치는 에너지 컨설팅 업체인 Ember의 자료를 사용했습니다.

이제야말로 정말 제대로 된 표라고 할 수 있겠네요...

현재 데이터센터가 전력 소비량의 어느 정도 비중을 차지하는지, 그리고 할당된 전력 용량의 어느 정도를 흡수하고 있는지에 대해 많은 추측성 논란 (handwaving)이 있습니다. 데이터센터가 엄청난 양을 사용하는 것은 사실이지만, 소비자들 또한 엄청난 양의 전력을 소모하며 제조업 또한 마찬가지입니다.

닷컴 붐 (Dot-Com Boom) 이후 데이터센터가 엄청난 양의 전력을 소비하고 있으며, 당시 Lawrence Berkeley National Laboratory의 스태프 과학자이자 Stanford University의 교수였던 Jonathan Koomey가 내놓았던 미래 예측이 매우 암울했다는 점에 대해 저 또한 똑같은 우려를 했던 기억이 납니다. 제가 The Register에서 근무하던 시절, 저는 Koomey가 2000년대 중반에 정당하게 제기했던 초기 우려 사항들을 다루었으며, 2011년에는 그가 문제를 제기한 것이 IT 인프라에 미친 영향에 대해서도 보도했습니다. 그런데 결과가 어땠을까요? 대침체 (Great Recession) 덕분에 경제가 둔화되면서 서버 점유 면적 (server footprints)이 예상만큼 크게 늘어나지 않았고, 게다가 메인프레임급 서버 가상화 (server virtualization) 기술이 x86 플랫폼에 도입되었으며, Koomey와 다른 이들의 촉구 덕분에 서버들은 더욱 효율적으로 변했습니다. 결과적으로 우리는 데이터센터가 전 세계 전력의 거의 4%를 태워버릴 것이라는 종말론적 시나리오를 피할 수 있었고, 실제로는 2% 미만에 그쳤습니다. 물론, 이는 2000년의 0.5%나 2010년의 1%보다는 여전히 높은 수치였습니다.

지금 계산을 해보면, 전력 생산 속도는 데이터센터 전력 소비 변화 속도를 충분히 따라잡아 왔습니다. 하지만 2010년대의 사례와 마찬가지로, 하이퍼스케일러 (hyperscalers)와 클라우드 (clouds)가 기하급수적으로 성장함에 따라, 데이터센터의 전력 소비는 전 세계의 전력 생산 속도보다 빠르게 증가하고 있습니다. 따라서 위 표에서 볼 수 있듯이, 데이터센터가 차지하는 비중은 점점 더 커지고 있습니다.

데이터센터의 전력 소비량은 2024년에서 2030년 사이에 연평균 성장률 (CAGR) 20.8%를 기록하며, 387 테라와트시 (TWh)에서 최소 1,200 TWh까지 증가할 것으로 예상됩니다. 이는 6년 만에 3.1배 성장하는 수치입니다. 같은 기간 동안 전 세계 전력 소비량은 2024년 30,856 TWh에서 2030년 약 36,500 TWh로, 연평균 성장률 (CAGR) 3%에 그칠 것으로 예상됩니다. 이상하게도, 전 세계 발전 용량(시간 요소를 제외한 기가와트(GW) 단위로 표현)은 연평균 성장률 (CAGR) 5.9%로 거의 두 배 더 빠르게 성장할 것으로 예상됩니다. 데이터센터에 할당된 용량은 해당 7년 동안 2024년 104 GW에서 2030년 290 GW로 연평균 성장률 (CAGR) 18.56%만큼 성장할 것으로 전망됩니다. (이 수치들은 Gartner의 자료입니다. 빈칸은 굵은 빨간색 이탤릭체로 표시된 추정치로 채웠습니다.)

계산을 해보면, 전체 전력 소비량 중 데이터센터의 전력 소비량이 차지하는 비중은 2024년 1.3%에서 2030년에는 아마도 3.3%로 상승할 것입니다. 데이터센터를 위한 전력 할당량 또한 마찬가지로, 2024년에는 전 세계 용량의 1.1%였으나 2030년에는 2.1%까지 성장할 것으로 예상됩니다.

물론, 우리가 이 데이터를 보고 다시 한번 비효율적인 아키텍처(architectures)에서 벗어나 AI 워크로드 (workloads)에 더 정밀하게 조정된 아키텍처를 향해 엔지니어링을 수행한다면 이야기는 달라질 수 있습니다. 사실, 우리는 6년 뒤의 미래를 내다보며 이러한 변화의 시작을 지금 바로 목격하고 있습니다. 아니면, 핵융합 원자로를 확보하게 되어 이 모든 것이 별로 중요하지 않게 될 수도 있겠죠. 개인적으로 저는 세 개의 헬륨 원자를 융합하여 탄소 다이아몬드를 만드는 아이디어를 좋아하지만, 이에 대해 이야기하는 사람은 아무도 듣지 못했습니다. 아마도 그것이 나타내는 '삼체 문제 (three body problem)' 때문일 것입니다. 어쩌면 AI를 사용하여 그 문제를 해결할 수 있을까요? 아닐지도 모르겠습니다.