맞춤형 DNN 가속기에서 양자화된 비단조 및 미세 그레인 활성화 함수를 위한 다중 임계값 연산 컴파일

요약

본 논문은 효율적인 하드웨어 가속을 위해 양자화된 비단조 및 미세 그레인 활성화 함수를 다중 임계값 연산으로 구현하는 방법을 제안합니다. 기존의 단조 증가 함수와 1차원 제한을 넘어, 다차원 임계값 표현식까지 확장하여 범용성을 높였습니다. ONNX 기반 컴파일러 인프라에 대수적 규칙을 통합하고 FINN 프레임워크를 확장하여 맞춤형 FPGA 가속기 합성에 적용 가능함을 입증했습니다.

핵심 포인트

• 양자화된 비단조/미세 그레인 활성화 함수를 다중 임계값 연산으로 구현.
• 다차원 임계값 표현식과 ONNX 기반 컴파일러 통합을 통해 범용성 확보.
• FINN 프레임워크 확장을 통해 맞춤형 FPGA 가속기 합성에 적용 가능.
• 양자화 인식 훈련(QAT) 단계에서 다중 임계값 표현식 사용 가능성을 제시.