AI 기반의 랙 밀도(Rack densities)로 인해 2027년까지 새로운 하이퍼스케일(Hyperscale) 구축 시 액체 냉각(Liquid cooling) 도입률이 50%를 넘어설 것으로 보이지만, 비용과 전문 지식은 여전히 장벽으로 남아 있습니다.

AI 워크로드에 의해 주도되는 랙 밀도는 전력 밀도를 공랭식(Air cooling)의 한계 너머로 밀어붙이고 있습니다. 예측에 따르면 2027년까지 새로운 하이퍼스케일 데이터 센터의 절반 이상이 액체 냉각 방식을 사용할 것입니다.

주요 사실 (Key facts)

• 2027년까지 새로운 하이퍼스케일 데이터 센터의 50% 이상이 액체 냉각을 사용할 것으로 예측됨.
• AI 랙 밀도는 40KW를 초과하며, 이는 공랭식의 한계를 넘어섬.
• Lenovo RDHX는 좁은 공간에서 30KW 랙을 처리함.
• 비용과 전문 지식이 도입의 주요 장벽임.
• GRC 침전식 탱크(Immersion tanks)는 레이아웃 문제에 직면함.

AI의 부상은 데이터 센터 냉각의 근본적인 변화를 강요하고 있습니다. 훈련(Training) 및 추론(Inference)을 위한 GPU 클러스터가 랙당 수십 킬로와트(kW)를 소모함에 따라 랙 밀도가 급증했으며, 이는 기존 공랭식이 효율적으로 처리할 수 있는 10-20KW 범위를 훨씬 초과합니다. Reddit의 r/datacenter 토론에 따르면, 운영자들은 오랫동안 틈새 솔루션이었던 액체 냉각이 이제 표준이 되어야 하는지에 대해 직면하고 있습니다.

밀도 임계값 (The Density Threshold)

공랭식은 대략 20-30KW까지의 랙에는 잘 작동하지만, AI 클러스터는 통상적으로 랙당 40KW 이상을 요구합니다. 이러한 밀도에서 공랭식은 거대한 공기 흐름, 더 높은 팬 전력, 그리고 더 넓은 바닥 면적을 필요로 하며, 이는 고밀도 컴퓨팅의 목적을 저해합니다. 칩 직접 냉각(Direct-to-chip) 또는 침전식(Immersion) 방식의 액체 냉각은 더 낮은 에너지 오버헤드로 랙당 100KW 이상을 처리할 수 있습니다. 전환점은 이미 와 있습니다. 예측에 따르면 2027년까지 새로운 하이퍼스케일 구축의 50% 이상이 액체 냉각을 채택할 것입니다.

장애물: 비용, 전문 지식 및 개보수 (Hurdles: Cost, Expertise, and Retrofits)

논의 과정에서 운영자들은 비용과 전문 지식을 주요 장벽으로 지목합니다. 기존의 공랭식 (Air-cooled) 시설을 액체 냉각 (Liquid cooling) 방식으로 개보수 (Retrofitting)하는 것은 비용이 많이 들며 종종 비현실적입니다. 신규 구축 (New builds)의 경우 처음부터 액체 냉각을 통합할 수 있지만, 초기 자본 (Upfront capital)이 더 높습니다. [동일한 Reddit 스레드에 따르면], Lenovo의 리어 도어 수동 열교환기 (Rear door passive heat exchangers, RDHX)는 공간이 제한된 환경에서 30KW 랙을 처리할 수 있지만, 이는 완전한 액체 루프 (Full liquid loops)가 아닌 하이브리드 솔루션입니다. Motivair, APC, Vertiv는 고밀도를 위한 능동 냉각 (Active cooling) 시스템을 제공하며, GRC의 침전식 탱크 (Immersion tanks)는 멋진 기술로 언급되지만 레이아웃 구성의 어려움에 직면해 있습니다.

또 다른 장벽은 전문 지식입니다. 액체 냉각은 대부분의 시설 팀이 부족한 배관 (Plumbing), 누수 탐지 (Leak detection) 및 유지보수 교육을 필요로 합니다. 업계는 여전히 인재 풀 (Talent pool)을 구축하는 단계에 있습니다.

공랭식 (Air Cooling)은 아직 죽지 않았다

이러한 추진력에도 불구하고, 대다수의 데이터 센터에서는 여전히 공랭식이 지배적입니다. 50%라는 수치는 오직 신규 하이퍼스케일 (New hyperscale) 구축에만 적용되는 것이며, 이는 전체 용량의 극히 일부에 불과합니다. 대부분의 엔터프라이즈 데이터 센터는 밀도 임계값 (Density threshold)보다 훨씬 낮은 수준에서 운영되고 있으며, 공랭식은 그곳에서 수년간 실행 가능한 상태로 유지될 것입니다. 진짜 핵심은 이분화 (Bifurcation)입니다. 하이퍼스케일은 액체 냉각으로 가고, 나머지는 모두 공랭식에 머무는 것입니다. 이는 AI와 전통적인 워크로드 (Workloads) 사이의 컴퓨팅 분기 (Compute divergence)를 반영합니다.

주목해야 할 점

Dynamic cooling solutions: How hybrid systems meet AI’s ever-changing ...

하이퍼스케일러 (Hyperscaler)의 조달 발표를 주시하십시오. Microsoft, Google, AWS 모두 액체 냉각 배치를 진행 중입니다. 또한 공급업체의 실적 발표도 추적하십시오. Vertiv와 Schneider Electric은 액체 냉각 매출 성장을 보고할 것입니다. 2027년 예측은 2026년 구축 수치에 의해 검증될 것입니다.

출처: reddit.com

[hpcwire을 통해 05월 06일 업데이트]

CoolIT Systems는 이전의 단상 직접 액체 냉각 (Single-phase Direct Liquid Cooling, DLC) 설계보다 성능을 거의 4배 향상시킨 15kW 콜드플레이트 (Coldplate)를 개발했습니다 [HPCwire 인용]. 이러한 돌파구는 단상 DLC가 미래의 초고밀도 GPU 및 AI 가속기 (AI Accelerators)의 열 요구 사항을 충족할 수 있도록 확장 가능하다는 것을 입증하며, 이 기술의 생존 가능성을 2030년 이후까지 크게 확장합니다.

원문 출처: gentic.news