압축에서 배포까지: 초저사양 마이크로컨트롤러(Microcontrollers)를 위한 실시간 및 에너지 효율적 FastGRNN

현대 머신러닝 (Machine Learning)의 지배적인 궤적은 모델 규모 확대, 가속기 확대, 메모리 예산 확대와 같이 규모를 키우는 방향이었습니다. 그러나 수년간 지속된 글로벌 반도체 공급 제약과 상시 온라인 추론 (Inference)에 따른 에너지 및 탄소 비용의 증가는 이러한 궤적의 취약성을 드러냈으며, 그 반대 방향의 동기를 부여했습니다. 즉, 웨어러블, 센서, 에지 가전 (Edge appliances)에서 이미 대량 생산되고 있는 작고 어디에나 있는 마이크로컨트롤러 (Microcontrollers)에 맞게 AI 및 ML 알고리즘을 재구성하는 것입니다. 우리는 컴팩트한 게이트 순환 셀 (Gated recurrent cell)인 FastGRNN을 두 가지 베어메탈 (Bare-metal) 타겟인 8비트 Arduino (ATmega328P)와 16비트 MSP430 (하드웨어 곱셈기 없음; 16 KB Flash; 512 B SRAM)에 배포한 엔드 투 엔드 (End-to-end) 오픈 소스 재현 연구를 제시합니다. 우리의 압축 파이프라인 (Compression pipeline)은 저계수 가중치 인수분해 (Low-rank weight factorization), 반복적 하드 임계값 희소화 (Iterative hard-thresholding sparsity), 그리고 명시적 활성화 보정 (Activation calibration)을 포함한 텐서별 Q15 사후 훈련 양자화 (Post-training quantization)를 결합합니다. 배포된 모델은 566 바이트의 가중치를 차지하며, HAPT 테스트 세트에서 macro F1 = 0.918 (seed 0; 5개 시드 Q15 평균 0.853±0.107)을 달성합니다. 이는 3,399개의 테스트 윈도우 (Test windows) 전체에서 PyTorch 레퍼런스와 100% 예측 일치율을 보입니다 (MCU seed 0; 5개 시드 전체에서 99.91-100% C-equivalent). 두 플랫폼 모두 실시간 50 Hz 스트리밍 추론을 유지하며 (Arduino에서 샘플당 9.21 ms, MSP430에서 13 ms), 256개 항목의 sigmoid/tanh 룩업 테이블 (Look-up table, LUT)은 곱셈기가 없는 MSP430에서 30.5배의 속도 향상을 제공합니다. 네 가지 기여가 기존 FastGRNN 논문을 확장합니다: (i) 교차 플랫폼 비트 동일 결정론적 추론 (Cross-platform bit-equivalent deterministic inference); (ii) 순환 웜업 지연 시간 (Recurrent warm-up latency) 특성 분석 (중앙값 74 샘플, 1.48 s; 100개 테스트 윈도우 중 최악의 경우 125 샘플, 2.50 s); (iii) 곱셈기가 없는 임베디드 타겟을 위한 배포 가능한 룩업 테이블 레시피; (iv) 활성 추론 전력 17.7 mW, 유휴 전력(Idle power) <0.09 mW, 그리고 LUT 사용 시 96.7%의 에너지 절감을 보여주는 하드웨어 에너지 특성 분석입니다.