KroQuant: Diffusion Transformers의 효율적인 사후 훈련 양자화(PTQ)를 위한 Kronecker 구조 블록 변환

요약

Diffusion Transformers(DiTs)의 W4A4 양자화 시 발생하는 품질 저하 문제를 해결하기 위해 Kronecker 구조 블록 변환을 사용하는 KroQuant를 제안합니다. 이 방법은 낮은 추론 비용과 높은 양자화 정확도를 동시에 달성하며, 기존 방식보다 효율적인 연산이 가능합니다.

핵심 포인트

• Kronecker 구조를 활용해 DiT의 활성화 함수 이상치 문제를 해결
• SmoothQuant 대비 적은 파라미터와 높은 추론 속도 제공
• MI350 GPU 환경에서 기존 커널 대비 최대 14% 빠른 성능
• PixArt-Σ, FLUX.1 등 주요 모델에서 우수한 이미지 품질 유지