SPINE: 누적 결함 상황에서의 양자화된 신경망(Quantized Neural Networks)을 위한 결함 주입 프로파일러

에지(edge) 환경에 심층 신경망(deep neural networks)을 배포하려면 엄격한 비용 및 전력 제약 조건 하에서 효율적인 추론(inference)이 요구됩니다. 양자화된 신경망(Quantized neural networks)은 부동 소수점(floating-point) 파라미터를 저정밀도 정수(low-precision integers)로 대체함으로써 이러한 요구 사항을 해결하지만, 이들의 가중치(weights)는 추론 과정에서 방사선으로 인한 비트 플립(bit-flips)에 지속적으로 노출됩니다. 결함 주입(Fault Injection)을 사용하여 이러한 환경을 시뮬레이션할 수 있지만, 기존 연구들은 누적된 업셋(upsets)이 실제 메모리 레이아웃(memory layouts) 하에서 어떻게 오예측(mispredictions)으로 이어지는지 특성화하는 데 실패했습니다. 본 논문은 모델 재학습이나 코드 수정 없이도 레이어별 결함 프로파일(fault profiles)을 생성하며, 에지 CPU의 타겟 바이너리(target binary)에 누적된 가중치 비트 플립을 직접 주입하는 GDB 기반 프로파일링 프레임워크를 제시합니다. 다양한 토폴로지(topologies), 양자화 노력(quantization efforts) 및 메모리 레이아웃(memory layouts)에 대해 평가한 결과, 신경망을 효과적으로 보호하기 위해 선택적 경화(hardening) 전략이 어떻게 적용되어야 하는지를 보여줍니다.