EnergAIzer: AI 워크로드 전력 예측을 위한 빠르고 정확한 프레임워크

요약

데이터센터의 AI 워크로드 증가로 GPU 전력 관리가 중요해지면서, 기존의 전력 모델들은 하드웨어 활용률 입력값 확보에 어려움을 겪었습니다. 본 논문은 이러한 확장성 병목 현상을 해결하기 위해 EnergAIzer를 제안합니다. EnergAIzer는 AI 커널의 구조적 패턴을 분석하여 메모리 트래픽과 실행 타임라인 같은 활용률 입력값을 빠르고 정확하게 예측하는 경량화된 솔루션입니다. 이를 통해 전력 추정 시간을 수 시간에서 몇 초 단위로 단축하며, NVIDIA Ampere GPU에서 8%의 낮은 전력 오차를 달성했습니다. 이 프레임아

핵심 포인트

• EnergAIzer는 AI 워크로드의 구조적 패턴을 분석하여 활용률 입력값을 예측함으로써, 전력 추정 시간을 수 시간에서 몇 초로 단축합니다.
• 이 방법론은 성능 모델에 이러한 패턴을 분석적 골격(analytical scaffold)으로 사용하여 경험적 데이터 피팅을 수행하며 모듈 레벨 활용률까지 노출합니다.
• EnergAIzer는 NVIDIA Ampere GPU에서 8%의 전력 오차를 달성하여, 복잡한 사이클 레벨 시뮬레이션이나 하드웨어 프로파일링 기반 모델과 경쟁할 만한 성능을 보여줍니다.
• H100 같은 최신 아키텍처에 대해서도 단 7%의 오차로 전력 예측이 가능함을 입증하며, 전력 인식 설계 탐색(power-aware design explorations)의 기반을 마련합니다.