자연스러운 스타일 기반의 은밀한 LLM 백도어 공격 프레임워크 (BadStyle)

요약

본 논문은 안전 필수 영역에서 사용되는 대규모 언어 모델(LLMs)에 대한 심각한 보안 위협인 백도어 공격을 다룹니다. 기존의 백도어 공격 방식들은 명시적인 트리거 패턴으로 인해 자연스러움이 떨어지고, 긴 형식 생성 시 페이로드 주입이 불안정하며, 실제 위협 모델 반영도가 낮다는 문제점을 가집니다. 이를 해결하기 위해 'BadStyle' 프레임워크를 제안합니다. BadStyle은 LLM 자체를 활용하여 의미론과 유창성을 유지하면서도 감지 불가능한 스타일 수준의 트리거가 포함된 은밀하고 자연스러운 오염 샘플을 생성합니다. 또한, 보조

핵심 포인트

• BadStyle 프레임워크는 LLM을 이용해 자연스러우면서도 은밀한 스타일 기반 백도어 공격을 수행할 수 있게 합니다.
• 제안된 보조 타겟 손실(auxiliary target loss)은 오염 입력에 대한 페이로드 활성화 안정성을 크게 높여, 평균 ASR을 약 30% 개선합니다.
• LLaMA, Phi, DeepSeek, GPT 시리즈 등 7개 피해 LLM에서 높은 공격 성공률(ASR)과 강력한 은밀성을 입증했습니다.
• BadStyle은 프롬프트 유도 및 PEFT 기반 주입 전략 모두에 적용 가능하며, 알려지지 않은 다운스트림 배포 시나리오에서도 효과적입니다.