VATS: 체계적인 변이를 통한 오류 경로 주입(Error-Path Injection) 내 암묵적 권위 활용

요약

MCP 환경에서 도구 오류 메시지의 암묵적 권위를 악용하는 '오류 경로 주입(Error-Path Injection)' 공격을 분석합니다. VATS 프레임워크를 통해 프런티어 모델들을 테스트한 결과, 오류 컨텍스트를 활용한 공격이 기존 간접 프롬프트 주입보다 훨씬 높은 성공률을 보임을 입증했습니다.

핵심 포인트

• 도구 오류 메시지가 모델의 안전 휴리스틱을 우회하는 권위를 가짐
• VATS 프레임워크를 통한 체계적인 변이 기반 공격 분석 수행
• 오류 컨텍스트 내 지침 삽입(Sandwiching)이 가장 효과적인 공격 벡터
• 프런티어 모델 대상 공격 성공률이 기존 IPI 대비 최대 3배 증가