근사 행렬 분해를 활용한 TinyML용 CNN 가속기 공동 설계

요약

본 연구는 자원 제약이 엄격한 TinyML 환경에서 CNN 추론의 지연 시간을 최적화하기 위한 새로운 프레임워크를 제시합니다. 이 프레임워크는 근사 행렬 분해(Approximate Matrix Decomposition)를 활용하여 주어진 CNN 모델을 하드웨어 구현에 맞게 최적화하며, 재학습이나 미세 조정 과정 없이도 작동하는 것이 특징입니다. 유전 알고리즘 기반의 접근 방식을 통해 FPGA 타겟용 곱셈기 없는 CNN 가속기를 설계하고, 기존 방식 대비 높은 효율성을 입증했습니다.

핵심 포인트

• TinyML 환경은 엄격한 자원 및 에너지 제약으로 인해 지연 시간 최적화가 필수적이다.
• 본 연구는 근사 행렬 분해를 활용하여 훈련 데이터셋 접근 없이 모델을 최적화하는 프레임워크를 제안한다.
• 유전 알고리즘 기반의 탐색 과정을 통해 FPGA 타겟에 적합한 곱셈기 없는 CNN 가속기를 설계한다.
• 제안된 방법은 기존 심층 배열 기반 FPGA 가속기에 비해 평균 33%의 지연 시간 개선과 낮은 정확도 손실(1.3%)을 달성했다.