Attention을 이용한 야생 환경에서의 악성 에이전트 기술 탐지

요약

LLM 에이전트의 '기술(skills)' 패키지를 통한 공격 표면을 방어하기 위한 2단계 탐지 프레임워크인 Locate-and-Judge를 제안합니다. 어텐션 메커니즘을 활용해 고위험 스팬을 선별하고 정밀 조사함으로써, 비용을 10배 절감하면서도 높은 탐지 성능을 확보했습니다.

핵심 포인트

• LLM 에이전트용 기술(skills) 패키지가 새로운 공격 표면으로 부상
• Locate-and-Judge: 어텐션 기반의 2단계(Locator-Judge) 탐지 방식
• 기존 LLM 스캐닝 대비 비용을 약 10배 절감하며 확장성 극대화
• 기존 보안 도구가 놓친 실제 악성 기술들을 높은 정밀도로 식별
• 연구 결과물로 라벨링된 데이터셋 공개