언어 전환 트리거는 언어 모델의 잠재적 우회 경로를 통해 작동한다

요약

본 연구는 8B 파라미터 자기회귀 언어 모델에서 특정 라틴어 트리거가 영어 출력을 프랑스어로 강제 전환하는 백도어 공격의 내부 메커니즘을 분석했습니다. 연구 결과, 트리거 신호가 초기 레이어에서 합성되어 중간 레이어의 직교 서브스페이스를 통해 전파된 후 마지막 레이어의 MLP를 통해 특정 언어의 로짓으로 변환되는 3단계 회로를 식별했습니다.

핵심 포인트

• 라틴어 트리거가 모델의 언어 정체성 방향과 직교하는 서브스페이스를 통해 신호를 전달함을 발견
• 초기 레이어의 어텐션 헤드가 트리거 토큰을 마지막 시퀀스 위치로 합성하는 과정 확인
• 중간 레이어의 직교 잠재 인코딩 특성으로 인해 기존의 언어 기반 방어 기제가 트리거를 탐지하기 어려움
• 전체 회로가 단일 위치의 직렬 병목(Serial bottleneck)을 통해 흐르며, 해당 위치 오염 시 트리거 완화와 모델 성능 저하가 동시에 발생