근사 행렬 분해 기반 CNN 가속기 설계로 TinyML 성능 최적화

요약

본 논문은 자원 제약이 심한 온디바이스 AI 환경인 TinyML(Tiny Machine Learning)을 위한 새로운 CNN 가속기 설계 프레임워크를 제시합니다. 기존의 최적화 방식들은 훈련 데이터 접근이나 재학습 과정이 필요하여 민감한 데이터를 다루는 현장 적용에 어려움이 있었습니다. 본 연구는 근사 행렬 분해(Approximate Matrix Decomposition) 기법을 활용하여, 사전 학습된 CNN 모델 자체를 하드웨어 효율적으로 변환하고 최적화합니다. 이 프레임워크는 유전 알고리즘(Genetic Algorithm)을驅

핵심 포인트

• TinyML 환경은 자원 및 에너지 제약이 심해 온디바이스 추론 속도 최적화가 필수적입니다.
• 데이터 민감성 때문에 훈련 데이터에 의존하지 않고 사전 학습 모델을 직접 최적화하는 접근법이 필요합니다.
• 제안된 프레임워크는 근사 행렬 분해를 이용해 CNN 가속기를 설계하며, 재학습이나 미세 조정 과정이 없습니다.
• 평가 결과, 기존 시스토릭 배열(systolic array) 기반 FPGA 가속기 대비 평균 33%의 지연 시간 개선과 낮은 정확도 손실을 달성했습니다.