스펙트럼 회귀 분석을 통한 Trojan이 삽입된 DNN 탐지

요약

본 논문은 미세 조정(Fine-tuning) 과정에서 삽입될 수 있는 Trojan(트로이 목마) 공격을 탐지하기 위한 새로운 프레임워크인 MIST를 제안합니다. MIST는 트리거를 직접 찾는 대신 활성화 전 스펙트럼(Pre-activation spectra)의 변화를 분석하여, 정상적인 모델의 진화 경로에서 벗어나는 업데이트를 회귀 분석을 통해 식별합니다.

핵심 포인트

• MIST는 오염된 데이터나 특정 트리거에 대한 사전 지식 없이도 Trojan을 탐지할 수 있습니다.
• 활성화 전 스펙트럼(Pre-activation spectra)의 편차를 활용하여 모델 업데이트를 회귀 문제로 접근합니다.
• 단 한 번의 업데이트만으로도 기존 최첨단(SOTA) 탐지 기술을 능가하는 정확도를 보여줍니다.
• 다단계 미세 조정 과정에서도 성능 저하가 완만하며 안정적인 탐지 성능을 유지합니다.