MetaBackdoor: LLM의 백도어 공격 표면으로서 위치 인코딩 (Positional Encoding) 활용

요약

본 연구는 기존 콘텐츠 기반 트릭커(trigger)가 아닌, 텍스트 내용 수정 없이 모델의 내부 구조적 특성인 '위치 인코딩(Positional Encoding)'을 활용하여 LLM에 백도어 공격을 가하는 새로운 방식인 MetaBackdoor를 제안합니다. MetaBackdoor는 Transformer 기반 LLM이 순서 정보를 처리하기 위해 토큰 위치를 사용하는 점을 이용하며, 길이 조건만으로 민감한 내부 정보 공개나 악의적인 도구 호출을 유도할 수 있습니다. 이 공격은 기존 방어 체계가 간과했던 공격 표면을 밝혀내며, LLM 보안 모델에 새로운 위협 요소를 제시합니다.

핵심 포인트

• MetaBackdoor는 텍스트 콘텐츠 수정 없이 위치 정보(Positional Information)를 트리거로 활용하는 백도어 공격 방식이다.
• Transformer 기반 LLM의 순서 처리 특성(토큰 위치 인코딩)을 이용하며, 길이 조건만으로 활성화가 가능하다.
• 공격은 민감한 시스템 프롬프트 공개나 악의적인 도구 호출 유도로 이어질 수 있다.
• MetaBackdoor는 기존 콘텐츠 기반 공격과 직교(orthogonal)하여 더욱 정밀하고 탐지하기 어려운 위협을 생성한다.