폭주하는 AI 코드 리뷰 에이전트, 적대적 의견 불일치 루프에서 4만 1천 달러를 낭비하다

포렌식 요약 (Forensic Summary)

가설적이지만 기술적 근거를 갖춘 한 사고 보고서는, 의심스러운 악성 패키지를 두고 두 개의 경쟁하는 AI 코드 리뷰 에이전트가 통제 불능의 의견 불일치 루프(disagreement loop)에 빠져, 인간의 개입이 있기 전까지 340개의 댓글을 생성하고 41,255달러의 추론 비용(inference costs)을 발생시킨 상황을 묘사합니다. 이 시나리오는 멀티 에이전트 에이전틱 파이프라인(multi-agent agentic pipelines)에서 과도한 자율성(agency), 회로 차단기(circuit-breakers)의 부재, 그리고 비용 기반 서비스 거부(cost-based denial-of-service)의 실제 위험을 보여줍니다. 비록 허구의 시나리오이지만, 이는 실제 운영 중인 AI 시스템과 공급망 보안 워크플로에서 문서화된 실패 모드(failure modes)를 직접적으로 반영합니다.

Grid the Grey에서 전체 기술 심층 분석을 읽어보세요: https://gridthegrey.com/posts/runaway-ai-code-review-agents-burn-41k-in-adversarial-disagreement-loop/