정밀도가 아닌 범위: Apple Silicon에서의 Block-Floating-Point 반정밀도 FFT 및 SAR 이미징
요약
Apple Silicon에서 FP16을 활용한 고성능 FFT 및 SAR 이미징 구현 방법을 제안합니다. 단순 FP16 사용 시 발생하는 오버플로 문제를 Block-Floating-Point(BFP) 스케줄링으로 해결하여, FP32 수준의 품질을 유지하면서도 처리량을 2.2배 향상시켰습니다.
핵심 포인트
- FP16의 동적 범위는 레이더 신호 처리에 충분함
- BFP 스케줄링을 통해 FP16의 오버플로 문제 해결
- FP32 대비 2.2배 높은 306 GFLOPS 성능 달성
- FP8은 SQNR 저하로 인해 현재 레이더용으로 부적합함
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기