멀티 에이전트 AI 시스템을 위한 오픈 소스 신뢰성 테스터를 구축했습니다

각 에이전트의 신뢰도가 95%이고, 이들이 14단계로 체인(chain)되어 연결된 멀티 에이전트 시스템(multi-agent system)의 엔드 투 엔드(end-to-end) 신뢰도는 약 49%에 불과합니다. 0.95^14 ≈ 0.49. 에이전트를 추가할 때마다 실패 표면(failure surface)은 배가됩니다. 그리고 표준 테스트는 이를 놓치기 쉬운데, 왜냐하면 실패가 단일 에이전트 내부에 존재하는 것이 아니라 에이전트들이 연결되는 방식에 존재하기 때문입니다.

저는 이러한 연결성을 테스트하기 위해 swarm-test를 구축했습니다. 오픈 소스이며 무료이고, CrewAI, LangGraph, AutoGen 및 커스텀 오케스트레이터(custom orchestrators)에서 모두 작동합니다. 실시간 LLM 호출이 없습니다. 에이전트 토폴로지(agent topology)에 대한 정적 분석(static analysis) 방식이므로 밀리초 단위로 실행되며 실행당 비용이 전혀 들지 않습니다.

이 도구는 시스템을 유향 그래프(directed graph)로 모델링하고 8가지 구조적 테스트를 수행합니다: 연쇄 실패(cascade failure), 단일 장애점(single points of failure, blast radius), 컨텍스트 누출(context leakage), 의도 드리프트(intent drift), 공모(collusion), 타임아웃 회복력(timeout resilience), 계약 위반(contract violations), 그리고 민감 데이터 스캐닝(sensitive-data scanning). 사용자는 0–100 사이의 Swarm Score를 받게 되며, 시스템은 각 에이전트의 역할(오케스트레이터(orchestrator), 검증자(validator), 게이트웨이(gateway), 워커(worker) 등)을 분류하여 문맥에 따라 심각도를 해석합니다. 예를 들어, 폭발 반경(blast radius)이 큰 오케스트레이터는 예상 가능한 범위이지만, 폭발 반경이 큰 워커는 설계상의 결함(design smell)입니다.

다음은 제가 만든 실제 14개 에이전트 파이프라인입니다. 오케스트레이터가 빨간색으로 표시되는데, 이는 모든 것이 통과하는 단일 장애점(single point of failure)임을 나타냅니다:

이 사진 한 장에 모든 가치가 담겨 있습니다. 콘솔 테이블에서는 이러한 병목 현상을 볼 수 없지만, 그래프에서는 명확히 보이며, swarm-test는 이를 자동으로 심각한 문제로 표시합니다.

또한 실행 간의 신뢰성을 추적하고(추세선, 수정된 사항 vs 퇴보한 사항의 차이), CI에서 PR을 제어하기 위한 GitHub Action을 제공하며, 토폴로지를 Mermaid/DOT/PNG로 내보낼 수 있습니다.

pip install swarm-test
swarm-test run my_crew.py --open

GitHub: github.com/surajkumar811/swarm-test

솔직히 말해서, 주요 한계점은 다음과 같습니다: 이 도구는 런타임 시맨틱스 (runtime semantics)가 아니라 구조에 대해 추론합니다. 에이전트가 틀린 답을 내놓았다고 알려주는 것이 아니라, 토폴로지 (topology)에 취약점이 있다는 점만을 알려줍니다. 만약 프로덕션 환경에서 에이전트를 실행 중이라면, 정적 분석 (static analysis)이 놓칠 수 있는 상호작용 수준의 실패 (interaction-level failures) 사례를 실제로 겪으신 내용이 무엇인지 진심으로 듣고 싶습니다.