현대 GPU 아키텍처 간 마이크로벤치마크 기반 분석 성능 모델링

요약

본 논문은 최신 GPU 아키텍처(NVIDIA Blackwell B200 및 AMD CDNA3 MI300A)의 복잡한 성능 특성을 포착하기 위해 마이크로벤치마크 기반 분석 성능 모델을 개발했습니다. 이 모델은 각 아키텍처의 핵심 요소(예: TMEM, Infinity Cache, 텐서 코어 등)를 반영하여 설계되었으며, 기존의 단순한 이론적 모델(Roofline)보다 훨씬 높은 정확도를 보여주었습니다. 또한, 이 모델은 다른 세대 GPU(H200, MI250X)에도 쉽게 적용 가능함을 입증했습니다.

핵심 포인트

• 최신 GPU 아키텍처의 성능 분석을 위해 마이크로벤치마크 기반의 정교한 성능 모델이 개발되었다.
• 개발된 모델은 NVIDIA Blackwell (B200)과 AMD CDNA3 (MI300A) 등 최신 칩셋의 복잡한 메모리 및 연산 구조를 정확하게 포착한다.
• 기존의 단순한 Roofline 기반 성능 예측 모델 대비 월등히 높은 정확도(MAE 1.31% vs >95%)를 달성했다.
• 모델은 HBM 대역폭, 캐시 파라미터 등으로 업데이트만 하면 다른 세대 GPU에도 쉽게 확장 적용 가능하다.