DGX 냉각 방법 발견

요약

본 기사는 DGX 시스템에서 Qwen3.5-122b-a10B 모델을 구동할 때 탭 물(수돗물)을 냉각재로 사용한 실험 결과를 보고합니다. 이 조건 하에서 GPU는 95% 활용률을 유지하며 온도는 섭씨 68도 이하를 안정적으로 유지했습니다. 메모리 사용량은 110GB, 컨텍스트 창은 80k이며, 초당 18.77 토큰의 연속적인 비전 분석 성능을 달성했습니다.

핵심 포인트

• 수돗물(Tap water)을 냉각재로 사용하여 DGX 시스템의 GPU 온도를 안정적으로 관리할 수 있음을 시사합니다.
• Qwen3.5-122b-a10B 모델을 80k 컨텍스트 창으로 구동하며 높은 성능(초당 18.77 토큰)과 효율성(95% GPU 활용률)을 입증했습니다.
• 이 시스템은 110GB의 메모리 사용량에도 불구하고 안정적인 고부하 운영이 가능합니다.