Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
LLM 에이전트의 루프, 도구 오류, 목표 이탈 등의 실패를 실시간으로 탐지하고 복구하는 효율적인 모니터링 시스템을 제안합니다. 마이크로초 단위의 저비용 모니터와 결정론적 검증을 결합하여, 추가적인 LLM 호출 비용을 최소화하면서도 에이전트의 작업 성공률을 크게 향상시켰습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기LLM 에이전트들은 에피소드 중간에 루프에 빠지거나, 도구 오류가 연쇄적으로 발생하거나, 목표에서 벗어나거나, 결과를 조작하거나, 혹은 오염된 콘텐츠를 조용히 흡수하는 등 실패를 겪습니다. 그리고 두 번째 LLM으로 매 단계를 판단하는 표준적인 해결책은 에이전트 자체보다 더 많은 비용이 듭니다. 본 연구에서는 단계당 마이크로초(microseconds) 단위의 비용이 드는 모니터를 사용하고 정상적인 실행(healthy runs) 데이터로만 학습했을 때, 관찰 가능한 단계별 텔레메트리(telemetry)만으로 어느 정도의 탐지가 가능한지 질문합니다. 세 가지 프레임워크, 세 가지 로컬 모델(qwen2.5 7b/3b, llama3.1 8b) 및 상용 API(gemini-2.5-flash)에 걸친 2,823개의 확정된 에이전트 에피소드를 대상으로, CUSUM 알람을 갖춘 단일 클래스 에코 상태 네트워크(one-class echo-state-network) 앙상블은 5%의 오탐(false-alarm) 예산 내에서 실패의 0.71을 탐지합니다 (AUROC 0.872). 메모리가 없는 베이스라인(memoryless baseline) 대비 이 모델의 장점은 실패 발생 후 경과 시간(post-onset horizon)에 따른 단조 함수로 나타나며(3단계 이하에서 +0.09, 9단계 이상에서 +0.40), AFTraj-2K 데이터셋에서 미학습 데이터(out of sample)에 대해 자신의 실패 영역을 예측합니다. 재학습 없이 다른 그룹의 두 코퍼스(AFTraj-2K 0.745, ATBench 0.779)로의 순위 전이(Ranking transfers)도 확인되었습니다. 모니터는 두 가지 부담을 안고 있습니다: 배포 시마다 정상적인 영(null) 데이터가 필요하다는 점(전이되지 않음 — 재교정 전 AUROC 0.527 대 재교정 후 0.885)과 잔여 오탐률입니다. 우리는 이 두 가지 부담이 없는 계층을 추가했습니다: 바로 결정론적 검증(deterministic verification)으로, 이는 실제로 수신한 도구 결과로부터 실행의 명시된 총합을 재계산하고 필요한 모든 호출이 이루어졌는지 확인합니다. 직접 비교 결과, 모니터가 17% 오탐률에서 54%의 오탐을 기록할 때, 결정론적 검증은 63개의 오탐 중 0개를 기록하며 실패의 60%(커버리지 확인 시 96%)를 잡아냅니다. 이는 llama3.1:8b로도 변함없이 전이되며(10개 중 0개의 오탐으로 110개 중 110개 탐지), 1825개의 정상 에피소드에서는 단 한 번도 작동하지 않았습니다. 탐지는 이후 복구(repair)로 이어집니다: 플래그가 지정된 각 실행은 롤백(rolled back)되어 실시간으로 재실행되며, 16%의 재샘플링 대조군(p=0.0005) 대비 45%의 실패를 복구하고, 실행당 약 1회의 추가 모델 호출만으로 작업 성공률을 52%에서 73%로 높입니다. 이 시스템은 단계당 약 200 마이크로초로 작동하며, 이는 판사(judge) 호출보다 3자릿수(three orders of magnitude)나 낮습니다. 코드, 추적(traces) 및 결과가 공개됩니다.