여러분, 안녕하세요.
며칠 전, 제가 사용하던 CrewAI 에이전트 중 하나가 밤사이에 재귀적인 도구 호출(tool-calling) 루프에 빠졌습니다. 에이전트가 계속해서 동일한 오류가 있는 JSON을 반복해서 스스로에게 입력하고 있었던 것입니다. 다행히 제가 발견했지만, 이를 통해 하드웨어 회로 차단기(circuit breaker) 없이 자율 에이전트(autonomous agents)를 실행하는 것이 얼마나 위험한지 깨달았습니다.
이 문제를 해결하기 위해, 저희는 오픈 소스 프로젝트인 AgentAutopsy에 대규모 업데이트를 배포했습니다.
저희는 실시간 폭주 루프 탐지기(Runaway Loop Detector) 및 비용 킬 스위치(Cost Kill Switch)를 구축했습니다. 주요 기능은 다음과 같습니다:
- 무한 루프 탐지 (Infinite Loop Detection): 모든 LLM 페이로드(payload)의 암호화 지문(cryptographic fingerprint)을 추적합니다. 정확히 동일한 페이로드가 반복되거나, 진전 없이 동일한 도구가 연속으로 3회 호출되는 것이 감지되면 에이전트를 즉시 강제 종료(hard-kill)합니다.
- 비용 회로 차단기 (Cost Circuit Breaker): API 한도를 1.00달러로 엄격하게 설정할 수 있습니다. 에이전트가 이 한도를 넘어서는 즉시 프로세스를 종료하고 트레이스(trace)를 저장합니다.
- 컨텍스트 절단 (Context Truncation): 컨텍스트 윈도우(context window)를 실시간으로 모니터링하며, 시스템 프롬프트(system prompt)가 예산의 90%를 차지하여 조용한 절단(silent truncation)을 유발할 경우 경고를 보냅니다.
이 프로젝트는 완전히 오픈 소스입니다. 코드 한 줄만 추가하면 바로 적용할 수 있습니다.
저장소(Repo): https://github.com/Abhisekhpatel/AgentAutopsy
만약 에이전트를 관리자 없이 실행하고 있다면, 반드시 킬 스위치(저희 것이 아니더라도)를 사용하세요. 500달러짜리 청구서를 받으며 잠에서 깨지 마시길 바랍니다. AST 해싱(AST hashing)이 어떻게 작동하는지에 대해 궁금한 점이 있다면 기꺼이 답변해 드리겠습니다!
submitted by /u/Laddoo_22212015 to r/OpenAI
[link] [comments]