LLM Agent를 모델이 아닌 시스템으로 감사하여, 정적 모델링부터 샌드박스 동적 검증까지 제공하는 엔드투엔드(End-to-End) 보안

LLM Agent를 모델이 아닌 시스템으로 감사하여, 정적 모델링(Static Modeling)부터 샌드박스(Sandbox) 동적 검증까지 제공하는 엔드투엔드(End-to-End) 보안 평가 프레임워크를 제공합니다.

AgentStalker는 AI Agent 보안을 다른 각도에서 접근합니다. 모델 자체를 테스트하는 것이 아니라, Agent를 하나의 전체 시스템으로 간주하여 감사합니다. 이는 네 단계로 진행됩니다. 먼저 소스 코드를 오염원 그래프(Taint Graph)로 추출하고, 이 오염원 그래프를 기반으로 공격 체인(Attack Chain)을 합성하며, 그 다음 샌드박스 내에서 공격 경로를 재현(Replay)한 뒤, 마지막으로 판정 보고서를 생성합니다. 이 프레임워크는 Python 및 Rust의 주요 Agent 프레임워크(LangChain, AutoGen, CrewAI 등)를 지원하며, 13가지 유형의 페이로드(Payload)와 10가지 멀티턴(Multi-turn) 공격 체인 템플릿을 내장하고 있습니다.