Cisco, AI 에이전트 행동의 의심스러운 시퀀스를 탐지하는 규칙 기반 및 ML 지원 시스템 'Project Quarry' 오픈소스화

요약

Cisco가 AI 에이전트의 행동 전반(도구 사용 및 다중 턴 대화 포함)에서 의심스러운 시퀀스를 탐지하는 시스템 'Project Quarry'를 오픈소스로 공개했습니다. 이 시스템은 런타임, 스캐너, SDK 등 다양한 구성 요소를 갖추고 있어 AI 에이전트의 보안 모니터링에 활용될 수 있습니다.

핵심 포인트

• Cisco가 Project Quarry를 오픈소스화하여 공개함.
• AI 에이전트 행동 전반에서 의심스러운 시퀀스를 탐지하는 것이 목적임.
• 도구 사용 및 다중 턴 대화를 포함한 광범위한 행동 모니터링을 지원함.
• 시스템은 런타임, 스캐너, SDK 등 다양한 구성 요소로 이루어져 있음.