요약

본 연구는 대규모 언어 모델(LLM)이 사전 학습 데이터 오염을 통해 보안 위험에 노출될 수 있음을 보여줍니다. 공격자는 포이즈닝 기법으로 에이전트 내 원격 코드 실행(RCE) 백도어를 심을 수 있으며, 이는 사용자의 장치에서 악성 명령을 실행하게 할 수 있습니다. Qwen3 모델을 대상으로 0.1%의 오염만으로 높은 공격 성공률(ASR)을 달성하며 LLM 보안에 중대한 위협이 될 수 있음을 입증했습니다.

핵심 포인트

• 사전 학습 포이즈닝은 에이전트 내 RCE 백도어를 심는 경로가 됩니다.
• 단지 0.1%의 코퍼스 오염만으로 높은 공격 성공률(ASR)을 달성했습니다.
• 모델 규모가 클수록 ASR이 증가하며, 4B 모델은 약 92%에 도달합니다.
• 백도어는 트리거 입력 시에만 작동하여 정상적인 환경에서는 탐지하기 어렵습니다.