AI 시대를 위한 데이터센터 전력 공급 계층 설계

AI 가속기(AI accelerators)에 대한 수요로 인해 랙 전력 밀도(rack power density)가 급격히 증가하고 있으며, 2027년까지 배포당 1MW에 육박할 것으로 전망됩니다. 이는 데이터센터 전력 공급 설계자들에게 중대한 과제를 안겨줍니다. 전력 밀도가 높아짐에 따라, 다른 목표 밀도를 위해 설계된 데이터센터는 전력을 유휴 상태(strand power)로 만들 수 있습니다. 즉, 공급 계층(delivery hierarchy)이 준비한 모든 전력을 사용하지 못할 수 있다는 의미입니다. 설계는 긴 데이터센터 수명 주기와 여러 하드웨어 세대에 걸쳐 효율성을 유지해야 합니다. AI 시대에는 그리드 전력 용량(grid power capacity)이 희소한 자원이므로 전력 활용도(Power utilization)가 특히 중요합니다. 장기적으로 효율적인 전력 공급 계층을 설계하는 것은 어렵습니다. 왜냐하면 랙 배치 가능성(rack placement feasibility), 워크로드 영향(workload impact), 비용(cost)이 전기적 토폴로지(electrical topology), 배포 입도(deployment granularity), 배치 정책(placement policy), 전력 초과 할당(power oversubscription), 워크로드 혼합(workload mix)에 공동으로 의존하기 때문입니다. 더욱이, 이러한 각 요소는 시간이 지남에 따라 진화하고, 여러 자원 차원에 걸쳐 상호 의존성을 가지며, 일반적으로 폐쇄형 분석(closed-form analysis)을 적용하기 어렵습니다. 이 과제를 해결하기 위해, 우리는 현실적인 도착(arrival), 초과 할당(oversubscription), 폐기(decommissioning) 시퀀스에 대해 처리량(throughput), 전력(power), 비용(cost) 지표를 사용하여 데이터센터 전력 공급 설계를 평가하는 프레임워크를 개발했습니다. 이 프레임워크는 GPU, 컴퓨팅(compute), 스토리지(storage) 배포에 대한 예측 모델과 Microsoft Azure의 운영 데이터를 기반으로 한 운영 요소를 결합합니다. 우리의 연구 결과는 다중 자원 유휴 상태(multi-resource stranding)가 배포 가능 용량(deployable capacity), 유효 자본 지출(effective capital expenditure), 전달된 성능(delivered performance)을 실질적으로 변화시킨다는 것을 보여주며, 랙 및 포드 규모(rack- and pod-scale) AI 시스템으로부터 발생하는 밀도 상승이 이러한 결과들을 어떻게 형성하는지 정량화합니다. AI 데이터센터 설계를 위한 관련 계획 목표는 설치된 메가와트(installed megawatts)가 아니라, 시간에 따른 배포 가능 용량(deployable capacity over time)입니다.