문제점

저는 멀티 에이전트 파이프라인 (multi-agent pipeline)을 실행 중이었는데, 그중 하나의 에이전트가 조용히 실패했습니다. 제가 받은 유일한 알림은 "일일 손실 한도 도달 (daily loss limit reached)"였는데, 이는 완전히 오해의 소지가 있었습니다. 실제 원인은 에이전트가 전혀 보고하지 않은 파일 누락이었습니다.

저는 어떤 에이전트가 실제로 무엇을 했는지에 대해 가시성 (visibility)이 전혀 없었습니다.

내가 만든 것

AgentLens — AI 에이전트 거버넌스 (governance)를 위한 Python SDK입니다. 세 가지 모듈로 구성됩니다:

• 감사 추적 (Audit trail) — 모든 LLM 호출 및 도구 사용 (tool use)이 SQLite에 자동으로 기록됩니다.
• 권한 부여 (Authorization) — 정책 기반 게이트 (policy-based gates)를 통해 에이전트가 승인된 항목만 호출할 수 있도록 합니다.
• 이상 탐지 (Anomaly detection) — 베이스라인 (baseline) + 임계값 (threshold) 설정을 통해 행동이 벗어날 때 알림을 보냅니다.

한 줄 통합

Anthropic을 위한 드롭인 (Drop-in) 방식:

from agentlens.integrations.anthropic import TracedAnthropic
...