멀티 에이전트 AI 시스템을 위한 오픈 소스 신뢰성 테스터 구축 — 탐지 결과 공개

각 에이전트의 신뢰도가 95%이고 14단계로 체이닝(chaining)된 멀티 에이전트 시스템(multi-agent system)의 경우, 엔드 투 엔드(end-to-end) 신뢰도는 약 49%에 불과합니다. 0.95^14 ≈ 0.49. 에이전트가 추가될 때마다 실패 표면(failure surface)은 배가되며, 표준 테스트는 단일 에이전트 내부의 실패만 잡아낼 뿐 에이전트 간의 '상호작용(interaction)'에서 발생하는 실패는 잡아내지 못합니다.

저는 이러한 상호작용을 테스트하기 위해 swarm-test를 구축했습니다. 이는 오픈 소스(open source)이며 무료로 사용할 수 있고, CrewAI, LangGraph, AutoGen 및 커스텀 오케스트레이터(custom orchestrators)에서 작동합니다. 주요 기능은 다음과 같습니다.

신뢰성 점수 산정 (0-100)

모든 시스템은 8가지 구조적 혼란 테스트(structural chaos tests)를 통해 Swarm Score를 부여받습니다:

• cascade_failure — 한 에이전트의 실패가 다른 에이전트들을 무너뜨리는가
• blast_radius — 어떤 에이전트가 단일 장애점(single points of failure)인가
• context_leakage — 민감한 데이터가 흐르지 말아야 할 곳으로 흐르는가
• intent_drift — 에이전트가 할당된 역할에서 벗어나는가
• collusion_detection — 에이전트들이 긴밀한 파벌(cliques)을 형성하는가
• timeout_resilience — 취약한 단일 상위 의존성(single-upstream dependencies)
• contract_violation — 에이전트 간의 출력 스키마(output schema) 불일치
• sensitive_data — 에이전트 페이로드(payloads) 내의 비밀 정보 및 개인정보(PII)

깨끗한 시스템은 높은 점수를 받습니다. 취약한 시스템은 낮은 점수를 받습니다. 이 점수가 핵심 지표가 됩니다.

에이전트 역할 분류

swarm-test는 그래프 내 위치에 따라 각 에이전트를 오케스트레이터(orchestrator), 워커(worker), 검증자(validator), 게이트웨이(gateway), 애그리게이터(aggregator), 모니터(monitor)로 분류하며, 이에 따라 리스크를 읽는 방식을 조정합니다. blast radius가 90%인 오케스트레이터는 설계상 예상되는 부분이며, 재설계가 아닌 폴백(fallback)이 필요합니다. 반면 blast radius가 90%인 워커는 설계 결함(design smell)입니다. 검증자(validators)와 같이 보안에 민감한 역할은 심각도가 자동으로 상향 조정됩니다.

이력 추적

모든 실행 기록을 저장하고 이전 실행과 비교합니다:

Swarm Score: 31/100 — 위험(AT RISK)
추세(Trend): ↑ +19 (이전 12) — 개선 중
최근 기록: 12 → 12 → 31
✓ 지난 실행 이후 6개의 발견 사항(findings) 해결됨

발견 사항은 안정적인 ID를 사용하여 차이점(diff)을 비교하므로, 동일한 실행은 변화가 0으로 표시되고 실제 수정이 이루어지면 무엇이 해결되었는지 정확히 보여줍니다. 이를 통해 단순한 스냅샷을 피드백 루프(feedback loop)로 전환합니다.

실제 워크플로우를 위해 구축됨

• PR(Pull Request)을 제한하고 발견된 사항을 주석으로 달아주는 GitHub Action
• 출력 계약 검증 (에이전트별 JSON 스키마 (JSON schemas))
• D3 에이전트 그래프, 히트맵 (heatmap), 트렌드 차트 (trend chart)가 포함된 대화형 HTML 보고서
• Mermaid, DOT 또는 PNG로 그래프 내보내기 — 토폴로지 (topology)를 README에 바로 붙여넣기 가능
• 커스텀 테스트를 위한 플러그인 시스템
• 임계값 (thresholds) 및 CI 동작 설정을 위한 YAML 설정

사용해 보기

pip install swarm-test
swarm-test run my_crew.py

GitHub: github.com/surajkumar811/swarm-test

저는 저의 14개 에이전트 여권 사진 파이프라인 (pipeline)에서 이를 테스트했습니다. 첫 번째 실행에서 제가 인지하지 못했던 15개의 심각한 연쇄 실패 (cascade failures)가 드러났습니다. 만약 여러분이 프로덕션 (production) 환경에서 에이전트를 운영 중이라면, 이 도구가 아직 다루지 못하는 어떤 실패 모드 (failure modes)를 경험하셨는지 진심으로 듣고 싶습니다.