Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AgentSnare는 자율 침투 에이전트의 공격을 방어하기 위해 동적으로 미끼 환경을 구축하는 궤적 적응형 기만 시스템입니다. 에이전트의 상호작용 이력을 분석하여 사실적인 미끼 아티팩트를 생성함으로써 공격을 지연시키고 무력화합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델 (LLM) 에이전트는 도구(tools)에 의해 반환된 관찰(observations)을 기반으로 행동을 선택하는 관찰-행동 루프(observation-action loop)를 통해 침투 테스트(penetration testing)를 자동화합니다. 이러한 의존성 덕분에 방어자는 에이전트의 의사 결정 과정을 오도할 수 있는 기만적인 관찰(deceptive observations)을 주입할 수 있습니다. 그러나 기존의 방어 체계는 공격 전에 환경에 배치된 정적이고 고립된 아티팩트(artifacts)에 크게 의존합니다. 고도화된 에이전트는 이러한 아티팩트를 점진적으로 인식하고 우회하여, 궁극적으로 실제 타겟에 대한 공격 시도를 다시 집중시킬 수 있습니다. 이 문제를 해결하기 위해, 우리는 침투 에이전트를 실제 타겟으로부터 지속적으로 멀어지게 하기 위해 미끼 환경(decoy environment)을 동적으로 펼치는 궤적 적응형 기만 시스템인 AgentSnare를 소개합니다. 구체적으로, AgentSnare는 에이전트의 상호작용 이력과 미끼 상태를 조건으로 후보 아티팩트를 구축하는 아티팩트 구축 정책 모델(artifact-construction policy model)을 채택합니다. 그런 다음 AgentSnare는 이러한 후보들을 검증하고 유효한 아티팩트를 사실적으로 일관된 미끼 환경에 점진적으로 통합합니다. 이를 통해 에이전트의 도구 호출(tool calls)을 흡수하여 공격을 지연시키고, 침투 후의 궤적을 미끼 내부로 유인하며, 미끼 증거에 기반한 완료 보고(completion reports)를 유도함으로써 공격을 무력화합니다. 15개의 CVE-Bench 웹 애플리케이션과 3개의 공격자 모델을 대상으로 실험한 결과, AgentSnare는 에이전트 도구 호출의 46.8%를 미끼로 흡수하고 침투 후 행동의 55.9%를 미끼 내에 유지했으며, 완료 시도의 90.0%가 미끼 증거에 기반했습니다. 전체 45개의 공격자-CVE 쌍에 대해, pass@3 기준 실제 타겟이 성공적으로 공격된 사례는 없었습니다.