Blackwell Ultra의 등장: AI 추론 성능과 전력 효율성 혁신

요약

MLPerf v6.0 테스트에서 차세대 AI 인프라 Blackwell Ultra가 6개월 전 대비 토큰 처리량(Token Throughput)을 무려 2.7배 향상시킨 것이 주요 내용입니다. 이는 GPU 추론 성능 경쟁의 새로운 기준점을 제시하며, 데이터센터의 냉각 및 전력 관리 시스템에 근본적인 변화를 요구하고 있습니다. 또한, 차세대 Rubin GPU가 소비전력을 Blackwell 대비 절반 수준으로 낮추면서 고성능과 효율성을 동시에 잡는 방향으로 기술 발전이 가속화되고 있음을 보여줍니다.

핵심 포인트

• MLPerf v6.0 벤치마크에서 Blackwell Ultra가 토큰 처리량을 이전 대비 2.7배 향상시키며 GPU 추론 성능의 새로운 기준을 제시했습니다.
• 차세대 AI 인프라 설계는 고성능과 함께 전력 효율성을 핵심 과제로 삼고 있으며, Rubin GPU와 같은 아키텍처가 주목받고 있습니다.
• Blackwell 대비 소비전력을 획기적으로 낮춘 차세대 Rubin GPU의 등장은 데이터센터 냉각 및 전력 인프라 전체를 재정비할 필요성을 시사합니다.