딥 신경망에서 통계적으로 탐지 불가능한 백도어
요약
본 논문은 적대적 모델 트레이너가 대규모 깊은 피드포워드 신경망에 통계적으로 탐지 불가능한 백도어를 심을 수 있음을 이론적으로 증명했습니다. 이 백도어는 화이트박스 설정에서도 원본 모델과 구별하기 어려우며, 입력의 변동성을 조작하여 특정 출력으로 매핑하는 능력을 제공합니다.
핵심 포인트
- 적대적 트레이너가 탐지 불가능한 백도어를 심을 수 있음.
- 백도어 삽입 모델과 원본 모델은 통계적으로 구별하기 어려움.
- 이 백도어는 입력에 대한 강력한 변동성 조작 능력을 가짐.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기1