AI GPU 제조사인 Nvidia는 물과 전력 사용량을 줄일 수 있다고 주장하는 "온수 욕조보다 뜨거운" 액체 냉각 시스템을 방금 발표했습니다. 회사에 따르면, 이 새로운 솔루션은 75%의 물과 25%의 프로필렌 글리콜 (propylene glycol)로 구성된 냉각제를 113°F (45°C)에서 작동시킵니다. 이에 비해 온수 욕조의 물은 100104°F (3840°C) 사이를 유지합니다. 이는 직관에 어긋나는 것처럼 느껴지지만, 회사는 이 "차가운" 물이 Nvidia의 Rubin 칩에서 발생하는 열을 처리하기에 충분하며, 시스템을 나갈 때는 131°F (55°C)가 된다고 설명합니다.

전통적인 수냉 (water-cooling) 방식, 특히 칠러 (chillers)를 사용하는 방식은 종종 데이터 센터 전력 소비의 거의 40%를 차지합니다. 그 외에도 이러한 시스템은 증발을 통한 수분 손실을 처리해야 하는 경우가 많습니다. 반면, 공랭식 (air-cooled) 시설 또한 상당한 양의 전기를 사용하며, 소음 공해를 유발하기도 합니다. 반면, Nvidia는 이 새로운 솔루션이 더 높은 기본 온도 덕분에 훨씬 적은 자원을 사용한다고 말합니다.

113°F는 종종 주변 온도 (ambient temperature)보다 높기 때문에, 데이터 센터는 단순히 실외 드라이 쿨러 (dry coolers)에 의존하여 열을 환경으로 배출할 수 있습니다. 이는 또한 폐쇄 루프 (closed-loop) 시스템입니다. Nvidia는 물 소비량을 최대 100%까지 줄일 수 있다고 주장하며, "한 번 채우면 시설의 수명 동안 폐쇄된 상태로 작동합니다"라고 밝혔습니다. 이 솔루션은 기후가 서늘한 지역에서 가장 효과적이지만, 주변 온도가 113°F 미만이라면 더 따뜻한 지역에서도 여전히 효과적일 것입니다.

이 한계치를 초과하는 간헐적인 온도 변화에 직면한 데이터 센터(Data centers)는 여전히 칠러(Chillers)를 가동해야 할 수도 있습니다. 그럼에도 불구하고, 이는 일 년에 몇 번만 가동하면 되기 때문에 자원 소비를 줄여줄 것입니다. 그 외에도, 칠러가 목표 온도에 도달하기 위해 과도하게 작동할 필요가 없으므로 시스템을 더 효율적으로 운영할 수 있게 해줍니다. 칠러 플랜트(Chiller plant)의 목표 온도를 1.8°F(1°C) 높이면 전기 비용이 4% 절감될 것으로 추정됩니다. Vertiv에 따르면, 이는 데이터 센터가 칠러 유닛의 설정을 기존 칠러가 작동하는 7075°F(2124°C)에서 Nvidia가 Rubin 칩에 권장하는 113°F(45°C)로 설정할 경우 전력 소비를 크게 절감할 수 있음을 의미합니다.

이 솔루션은 올해 초 75개 이상의 데이터 센터 건설이 지연되는 원인이 되었던 많은 지방 정부의 문제점 중 몇 가지를 해결합니다. 하지만 이 냉각 시스템이 신규 및 기존 프로젝트에 보급되기까지는 시간이 걸릴 것으로 보이므로, Nvidia의 액체 냉각(Liquid cooling) 시스템이 널리 채택될 때까지 지연과 저항은 계속될 것으로 예상됩니다. 더욱이, 이는 데이터 센터 자체의 물 사용량 문제만을 다룰 뿐이며, GPU 서버 자체는 여전히 막대한 양의 전력을 필요로 합니다.

불행히도, 적어도 미국 내에서 데이터 센터가 사용하는 전력의 대부분은 화석 연료 발전소에서 공급되는데, 이 발전소들 또한 막대한 양의 물을 소비합니다. 그리드 (Grid)에 연결되지 않고 천연가스 터빈으로부터 전력을 공급받는 개발 방식은 물을 그만큼 많이 필요로 하지 않을 수도 있지만, 주민들은 그들이 생성하는 오염에 대해 우려하고 있습니다. 그럼에도 불구하고, 이 새로운 냉각 솔루션은 AI를 더욱 지속 가능하게 만드는 데 도움이 되는 올바른 방향으로의 한 걸음입니다.