ZTA-Q: 정확한 양자화 CNN 추론을 위한 오픈소스 RISC-V 플랫폼

저정밀도 추론은 계산 비용과 메모리 사용량을 줄이기 위해 엣지 AI 분야에서 광범위하게 채택되고 있습니다. 하지만 기존의 오픈소스 가속기 플랫폼들은 표준 TensorFlow Lite 정수(integer) 추론 방식을 따르는 CNN에 대한 제한적인 엔드투엔드 지원을 제공합니다. 본 논문은 정확한 TensorFlow Lite INT8 모델 배포를 가능하게 하는 오픈소스 RISC-V 기반 플랫폼인 ZTA-Q를 제시합니다. ZTA-Q는 연산자(operator) 지원 확장 외에도, 감소된 승수 정밀도(reduced multiplier precision), 공유 시프트 스케일링(shared shift scaling), 단순화된 반올림(simplified rounding)을 포함한 회로 수준의 근사치들이 모델 정확도에 어떻게 영향을 미치는지 연구할 수 있도록 구성 가능한 후처리 데이터 경로(post-processing datapath)를 제공합니다. 제안된 시스템은 Digilent Arty A7-100T FPGA에 구현되었으며 83.3 MHz에서 작동합니다. 대표적인 CNN 모델들에 대한 평가 결과, 각각 LUT, 레지스터, DSP 오버헤드가 26.3%, 12.6%, 150%인 ZTA-Q는 top-1 및 top-5 정확도의 저하를 각각 0.25 퍼센트 포인트 이내로 제한하는 것을 보여줍니다.