X-AgentRed: 진화하는 다중 서비스 생태계에서 개인 에이전트 레드팀 테스트

요약

본 글은 개인 에이전트가 여러 서비스에 걸쳐 상호작용하며 발생할 수 있는 의도치 않은 유해한 결과(구성적 실패)를 사전에 탐지하는 새로운 프레임워크 X-AgentRed를 제안합니다. 이 시스템은 도구 의존성 그래프를 구축하고 실행 피드백을 활용하여, 에이전트가 취약점을 발견할 수 있는 다양한 교차 서비스 경로를 체계적으로 찾아냅니다.

핵심 포인트

• X-AgentRed는 구성적 실패(compositional failures) 탐지에 초점
• 도구 의존성 그래프를 통해 유해한 도구 호출 경로 식별
• 실행 피드백을 이용해 취약 경로를 다양화하며 자체 개선 가능
• 기존 방법 대비 높은 유해 경로율과 다양한 도구 커버리지 입증