모든 스케일에 능한: MXFP 정밀도를 위한 다용도 FPGA 텐서 블록

요약

최신 딥러닝 워크로드가 요구하는 저정밀도 마이크로 스케일 부동소수점(MXFP) 형식에 대한 FPGA 구현 방안을 연구했습니다. 본 논문은 Altera Agilex-5 FPGA에서 MXFP 내적 구현의 다양한 전략을 분석하고, 텐서 모드의 산술 밀도를 평가합니다.

핵심 포인트

• 딥러닝 워크로드는 효율성을 위해 저정밀도 MXFP 형식(MXFP8, MXFP6, MXFP4)에 의존한다.
• 기존 FPGA DSP 블록은 이러한 MXFP 형식에 대한 네이티브 지원이 제한적이다.
• 텐서 모드가 높은 산술 밀도를 보이나, 특정 MXFP 정밀도 구현에는 한계가 있다.