지난번에는 OSS를 조합하여 작은 CSP(Cloud Service Provider)를 설계했습니다. 그때는 물리 서버에 대해 '빌리는 것' 아니면 '직접 소유하는 것' 중 하나로 다루었기 때문에 깊이 있게 다루지 못했습니다.
이번에는 그 가장 아래층을 살펴보겠습니다. 바로 데이터센터와 전력입니다.
#1에서 AI용 GPU 서버가 늘어난 지금, '전력과 냉각이 클라우드 성장을 결정하는 최대 제약 요인이 되어가고 있다'고 작성했습니다. 소프트웨어는 복사하면 무한히 늘릴 수 있지만, 데이터센터와 전력은 그렇지 않습니다. 건물을 짓고, 송전선을 끌어오고, 발전소와 계약하려면 수년의 시간이 걸립니다.
이 글에서는 데이터센터가 무엇으로 이루어져 있는지 확인하고, AI로 인해 무엇이 바뀌었는지, 그리고 일본에서는 어디에 데이터센터를 건설하려 하는지 정리합니다.
본 기사의 사실 관계는 2026년 11월 시점을 기준으로 확인할 수 있는 정보를 바탕으로 합니다. 전력 수요 전망이나 하드웨어 사양은 발표 시점의 것입니다.
| 설비 | 역할 | 중단 시 영향 |
|---|---|
| 수전 설비 | 전력 회사로부터 높은 전압의 전기를 받아 사용 가능한 전압으로 낮춤 | 전체가 멈춤 |
| UPS (무정전 전원 장치) | 정전 순간에 축전지(배터리)로 전기를 계속 공급함 | 발전기가 가동될 때까지 수십 초수 분을 버틸 수 없음 |
| 비상용 발전기 | 긴 정전 시 전력을 생산함. 연료 비축이 필요함 | 장시간의 정전에 견딜 수 없음 |
| 냉각 설비 | 서버에서 발생하는 열을 외부로 배출함 | 몇 분몇십 분 안에 서버가 과열되어 멈춤 |
| 네트워크 | 여러 통신 사업자의 회선을 끌어옴 | 외부와 연결되지 않게 됨 |
| 물리적 보안 | 출입 관리, 감시 카메라, 랙 잠금장치 등 | 장비나 데이터가 반출될 수 있음 |
#1에서 본 'AZ(Availability Zone)'는 이러한 설비들이 서로 독립된 데이터센터 그룹을 의미했습니다. 전원, 냉각, 네트워크를 분리함으로써 하나의 건물의 화재나 정전이 다른 곳으로 확산되는 것을 막습니다.
데이터센터의 전기는 모든 것이 서버에 사용되는 것은 아닙니다. 냉각이나 전력 변환 과정에서도 전기를 사용합니다. 이 비율을 나타내는 것이 **PUE(Power Usage Effectiveness)**입니다.
PUE = 데이터센터 전체 소비전력 ÷ IT 장비 소비전력
PUE가 1.0이라면, 모든 전기가 IT 장비에 사용되고 있다는 것(이상적)을 의미합니다. 1.5라면, IT 장비가 사용하는 전기 중 절반을 냉각 등에 별도로 사용하고 있다는 뜻입니다.
일본에서도 에너지 절약법 제도 내에서 데이터센터 업계의 목표로 2030 회계연도까지 PUE 1.4 이하를, 나아가 2029 회계연도 이후 신설되는 데이터센터는 PUE 1.3 이하를 요구하는 방침이 제시되었습니다.
다만, PUE는 '설비의 효율'만을 나타냅니다. 서버 자체의 효율이나 냉각에 사용하는 물의 양(WUE)은 별도로 살펴봐야 합니다.
국제에너지기구(IEA)는 2025년 보고서 「Energy and AI」에서 전 세계 데이터센터의 전력 소비에 대해 다음과 같은 전망을 제시했습니다.
| 항목 | 수치 |
|---|
| 2024년 소비량 | 약 415 TWh (세계 전력 소비의 약 1.5%) |
| ... | |
일본에서도 지난 20년간 감소 추세였던 전력 수요가 데이터센터나 반도체 공장 신설 등으로 인해 증가세로 전환될 전망입니다. 전력광역운영추진기구의 수요 예상치에서도 각 전력 회사가 개별적으로 데이터센터의 수요를 반영하게 되었습니다.
더 큰 변화는 바로 랙당 전력량입니다.
| 랙 종류 | 1랙당 전력량 기준 |
|---|
| 기존 일반 서버 랙 | 10 kW 미만 |
| ... | |
기존 대비 10배 이상, 계획 중인 시설에서는 60배 이상입니다. 이는 데이터센터의 설계 자체를 변화시킵니다.
| 변하는 것 | 내용 |
|---|
| 냉각 방식 | 공기로만 식히는(공랭) 방식으로는 따라잡기 어려워 액체로 직접 식히는(액냉) 것이 필요해짐 |
| 건물 구조 | 액냉 배관, 무거운 랙을 지탱하는 바닥, 대규모 전력을 끌어오는 설비가 필요함 |
| 기존 데이터센터 | 공랭식을 전제로 만들어진 건물에서는 AI용 랙을 배치할 수 없는 경우가 생김 |
| 전력 인입 | 하나의 건물에서 수십~수백 MW(중규모 발전소 1기 규모에 가까운 규모)의 전력이 필요하게 됨 |
즉, AI 시대에는 '데이터센터가 있으면 무엇이든 배치할 수 있는' 상황이 아니게 되었다는 것입니다.
냉각 방식으로 열을 외부로 배출하는 것은 사용 방법에 따라 자원이 될 수 있습니다.
사쿠라 인터넷의 이시카리 데이터센터(홋카이도)는 추운 기후를 활용한 외기 냉각 방식을 채택하고 있습니다. 보도에 따르면, 폐열을 도로 제설이나 난방에 사용하여 난방비가 거의 들지 않는다고 합니다.
북유럽 등에서는 데이터센터의 폐열을 지역난방에 사용하는 시도도 있습니다. 폐열을 지역에서 활용할 수 있는지 여부는 데이터센터 입지를 선택하는 이유 중 하나로 떠오르고 있습니다.
| 방식 | 원리 | 적합한 랙 |
|---|
| 공랭 (Air Cooling) | 차가운 공기를 서버에 분사하고, 따뜻해진 공기를 외부로 배출함 | 기존 서버(약 ~20 kW 이하) |
| 외기 냉각 (Outside Air Cooling) | 한랭지 외부의 공기를 그대로 또는 보조적으로 사용함 | 한랭지의 데이터센터 |
| 후면 도어 냉각 (Rear Door Cooling) | 랙 뒷면에 냉수 코일을 부착함 | 중급 밀도 |
| 직접 액체 냉각 (Direct-to-Chip) | CPU나 GPU에 냉각판을 부착하고 액체를 순환시킴 | AI용 고밀도 랙 |
| 침수 냉각 (Immersion Cooling) | 서버 전체를 전기 전도가 안 되는 액체에 담금 | 매우 높은 밀도, 실험적인 도입 사례 다수 |
냉각 방식 외에도 데이터센터 입지를 결정하는 주요 요소들이 있습니다.
| 조건 | 고려 사항 |
|---|
| 전력 (電力) | 대규모 전력을 안정적이고 합리적인 가격으로 끌어올 수 있는지 여부. 재생 가능 에너지 사용 가능성 |
| 토지 (土地) | 면적, 지반 상태, 비용 |
| 통신 회선 | 여러 통신 사업자의 회선 확보 여부, 해저 케이블 상륙 지점과의 근접성 |
| 재해 (災害) | 지진, 쓰나미, 홍수, 화산 등의 위험 요소 |
| 기후 (氣候) | 추울수록 냉각에 필요한 전력을 적게 사용할 수 있음 |
| 지연 (遅延) | 사용자 또는 다른 데이터센터와의 거리 |
| 인재 (人材) | 운영 및 유지보수를 담당할 인력 확보 여부 |
| 지역과의 관계 | 소음, 경관, 물 사용량, 고용 창출 등. 지역 사회의 수용 가능성 |
일본의 데이터센터는 지금까지 도쿄권과 오사카권에 집중되어 왔습니다. 이용자가 많고, 통신 회선이 밀집해 있으며, 운영 인력도 풍부하기 때문입니다.
하지만 도심 지역에는 다음과 같은 문제점들이 존재합니다.
- 대규모 전력을 새로 끌어올 여유가 적음
- 토지 가격이 높음
- 수도 직하 지진 등의 재해가 발생할 경우, 동시에 영향을 받을 위험이 큼
이에 주목받고 있는 개념이 바로 **와트-비트 연계(Watt-Bit Linkage)**라는 사고방식입니다. 2025년 3월에는 총무성(総務省)과 경제산업성(経済産業省)이 공공 및 민간 간의 간담회를 개최하고 있습니다.
기본적인 발상은 다음과 같습니다.
전기(와트, Watt)를 먼 도시까지 운반하는 것이 아니라, 전기가 남는 지역에 데이터센터를 배치하고, 데이터(비트, Bit)를 광케이블로 운반하는 것입니다.
보도에 따르면, 홋카이도는 전력 수요 피크 시간대에도 최대 4 GW 정도의 여유 전력이 있다고 합니다. 이 전기를 본토로 보내기 위해서는 새로운 송전선을 건설하는 데 510년, 수천억수조 엔이 걸리는 반면, 광케이블을 이용할 경우 2~3년, 수백억 엔 규모로 충분하다는 비교 자료도 소개되었습니다.
| 운반 대상 | 필요한 설비 | 시간 및 비용 (보도에서 제시된 추정치) |
|---|
| 전기(와트) | 송전선 | 510년, 수천억수조 엔 |
| 데이터(비트) | 광케이블 | 2~3년, 수백억 엔 규모 |
물론 모든 처리를 지방으로 옮길 수는 없습니다. 지연 시간이 문제가 되는 처리(거래, 실시간 통신 등)는 이용자 가까이에 위치해야 합니다. 반면, AI 학습처럼 지연 시간보다 전력이 중요한 처리는 전력이 풍부한 곳에 배치하는 것이 합리적입니다.
| 처리 종류 | 배치 고려 사항 |
|---|
| AI 학습, 대규모 배치 처리 | 전력과 냉각 여유가 있는 지방 지역으로 |
| ... | |
| 대형 CSP(Cloud Service Provider)들은 데이터센터의 전력을 확보하기 위해 발전 사업자와 **장기 전력 구매 계약(PPA: Power Purchase Agreement)**을 체결하는 추세입니다. | |
| 전원 | CSP의 움직임 예시 |
|---|
| 재생 가능 에너지 (태양광・풍력) | 발전소와 장기 계약을 맺고, 새로운 발전소 건설을 촉진함 |
| 원자력 (기존 발전소) | Microsoft는 가동 중단되었던 Three Mile Island 1호기의 재가동에 맞춰 전력 구매 계약을 체결함(2024년). Amazon도 Talen Energy의 원자력 발전소로부터 전력을 공급받기로 계약함 |
| 원자력 (SMR: 소형 모듈 원자로) | Google은 Kairos Power의 SMR로부터 전력 구매 계약을 발표함(2024년) |
태양광이나 풍력은 시간이나 날씨에 따라 발전량이 변동합니다. 반면, 데이터센터는 24시간 거의 일정한 전력을 사용합니다. 이 **'언제든 사용할 수 있는 전력'**을 확보하기 위해 원자력, 축전지(배터리), 지열 등에 대한 관심이 높아지고 있습니다.
제작하는 입장에서 전력은 가장 시간이 오래 걸리는 부품입니다.
| 부품 | 준비에 필요한 예상 시간 |
|---|
| 소프트웨어 기능 | 수 주 ~ 수 개월 |
| ... | |
| #1에서 클라우드의 '신속한 탄력성'이 CSP(Cloud Service Provider)가 미리 대규모 설비를 갖추고 있기 때문에 가능하다는 점을 언급했습니다. AI 시대에는, 그 '미리 준비하는 것' 자체가 수년 전의 전력 확보에서 시작되고 있다는 의미입니다. | |
데이터센터와 전력에 대한 이야기는 사용하는 측면에도 관련이 있습니다.
| 사용자가 인지하는 부분 | 배경에 깔린 제작자의 사정 |
|---|
| GPU 인스턴스가 특정 리전에서만 사용 가능하거나 재고가 없음 | GPU를 배치할 수 있는 전력과 냉각 시설을 갖춘 데이터센터가 제한적임 |
| 리전별로 요금이 다름 | 전기료, 토지 비용, 세금의 차이 |
| 새로운 리전이 예상치 못한 곳에 생김 | 전력이 확보되는 장소를 우선시함 |
| CSP가 전력 및 배출량 데이터를 공개함 | 이용자의 탈탄소 보고(Scope 3 배출량)에 필요로 함 |
'클라우드와 조직 #3'의 의존 부채라는 말로 표현하자면, 전력 제약은 CSP의 가격이나 제공 범위 등을 통해 사용자에게도 '가격형', '체제형'의 부채로 나타날 가능성이 있습니다.
이 연재에서는 '제작하는 쪽'의 시점에서 데이터센터와 전력을 정리합니다.
| 관점 | 제작자 입장에서의 의미 |
|---|
| 가장 느린 부품 | 소프트웨어나 서버보다 전력과 건물이 훨씬 많은 시간이 걸림 |
| 가장 큰 투자 | 건물, 수전/냉각 설비, 전력 계약. 다음 '경제학'에서 다룰 진입 장벽의 핵심 |
| 입지가 전략이 됨 | 전력·기후·회선·지역과의 관계 속에서 어디에 지을 수 있는지가 경쟁력을 결정함 |
| AI로 전제가 바뀜 | 랙당 전력이 차원이 높아져 기존 건물로는 부족해짐 |
지난번에는 Ubicloud처럼 물리 기반 시설을 빌려 클라우드를 만드는 사례를 소개했습니다. 이번 내용을 바탕으로 보면, 그만큼 큰 부분을 타사에 의존하고 있다는 것을 알 수 있습니다. 반대로 말하면, 자체적으로 데이터센터와 전력을 보유하는 것은 대형 CSP의 큰 강점입니다.
- 데이터센터는,
수전(受電)·UPS·발전기·냉각·네트워크·물리적 보안으로 구성되어 있습니다. 효율 지표는 PUE(Power Usage Effectiveness)입니다. IEA는 전 세계 데이터센터의 전력 소비가
2024년 약 415 TWh에서, 2030년에는 약 945 TWh로 증가할 것으로 전망합니다. AI용 랙은
1개당 120kW 이상, 계획 중인 것은 약 600kW입니다. 공랭식에서 액냉식으로, 건물의 설계 자체가 바뀝니다. - 일본에서는 도심 집중이 과제입니다.
**와트-비트 연계(Watt-bit linkage)**를 통해 전력이 있는 지방에 데이터센터를 배치하고 데이터를 광섬유로 운반하는 방식이 진행되고 있습니다. - CSP는
재생에너지나 원자력의 장기 계약으로 전력을 확보하고 있습니다. - 제작자에게 전력은
가장 시간이 오래 걸리고, 가장 큰 투자가 필요한 부품입니다. 이것이 사용자에게는 GPU 재고나 리전 차이로 나타납니다.
다음 편은 연재의 마지막 회차입니다. 지금까지 다뤄온 부품·OSS·데이터센터·전력을 토대로, 왜 클라우드가 소수의 기업에 집중하는지를 경제적 시각에서 생각해 보겠습니다.
| # | 주제 |
|---|
| 1 | 클라우드는 무엇으로 이루어져 있는가 |
| ... | |
- Energy and AI (IEA)
- Global data center power demand to double by 2030 on AI surge: IEA (S&P Global)
- 데이터센터의 에너지 절약과 전력 수요 (산업통상자원부)
- Nvidia GTC: Jensen Huang on data center rack density (DatacenterDynamics)
- Interop Tokyo 2026 와트-비트 연계 관련 기사 (ITmedia)
- 전국 및 공급 구역별 수요 예상 (전력거래소)
【클라우드 구축 과정 #1】 클라우드는 무엇으로 구성되어 있을까 ― 사용자에게는 보이지 않는 부품들의 전반적인 모습
【클라우드 구축 과정 #2】 CSP는 OSS와 어떻게 공존해 왔을까 ― 관리형 서비스화(Managed Service), 독자 인프라, 그리고 OSS 기여
【클라우드 구축 과정 #3】 자체적으로 프라이빗 클라우드를 구축하기 ― Proxmox VE, OpenStack, KubeVirt를 이용해 CSP와 차별화하는 방법
【클라우드 구축 과정 #4】 만약 직접 CSP를 만든다면 ― Kubernetes와 Crossplane을 활용하여 '우리만의 클라우드 API'를 만드는 방법
【클라우드 구축 과정 #5】 데이터센터와 전력 ― AI로 인해 랙당 120kW를 초과하는, 클라우드의 가장 느린 부품 (본 기사)
【클라우드 구축 과정 #6】 CSP의 경제학 ― 클라우드가 소수 기업에 집중되는 이유와, 그럼에도 불구하고 개발자들이 경쟁할 수 있는 영역은?
(참고: 본 내용은 '클라우드를 만드는 쪽' 시리즈 목차입니다.)
