에이전트가 멈추지 않을 때: LLM 에이전트에서의 무한 에이전트 루프(Infinite Agentic Loops) 규명
요약
LLM 에이전트가 피드백 제한 없이 모델 호출과 도구 사용을 반복하며 발생하는 '무한 에이전트 루프(IAL)' 문제를 규명합니다. 이를 탐지하기 위해 에이전트 코드를 추상화하여 분석하는 정적 분석 도구인 IAL-Scan을 제안합니다.
핵심 포인트
- 무한 에이전트 루프(IAL)는 비용 고갈 및 서비스 거부(DoS)를 유발함
- IAL-Scan은 에이전트 IR과 의존성 그래프(ALDG)를 통해 루프를 탐지함
- 6,549개 리포지토리 평가 결과 91.9%의 높은 정밀도를 달성함
LLM 에이전트(LLM agents)는 계획(planning), 도구 사용(tool use), 상태 업데이트(state updates), 그리고 에이전트 협업(agent collaboration)을 통해 작업을 해결하기 위해 반복적인 실행(iterative execution)에 점점 더 많이 의존하고 있습니다. 이러한 설계는 유연한 자동화를 가능하게 하지만, 새로운 유형의 실패를 초래하기도 합니다. 즉, 피드백 경로(feedback path)가 효과적으로 제한되지 않을 경우 에이전트가 모델 호출(model calls), 도구(tools), 워크플로 전환(workflow transitions), 또는 에이전트 핸드오프(agent handoffs)를 반복적으로 실행할 수 있습니다. 우리는 이 문제를 무한 에이전트 루프(Infinite Agentic Loops, IALs)라고 부릅니다. IAL은 일반적인 프로그래밍 루프가 아닙니다. 이는 에이전트 로직(agent logic), 프레임워크 의미론(framework semantics), 런타임 관찰(runtime observations), 그리고 종료 메커니즘(termination mechanisms) 사이의 상호작용에서 발생합니다. 이러한 실패는 단일 요청을 장시간 실행되는 모델 및 도구 실행으로 증폭시켜, 비용 고갈(cost exhaustion), 모델 서비스 거부(model denial of service), 컨텍스트 성장(context growth), 그리고 반복적인 외부 부작용(external side effects)을 유발할 수 있습니다. 우리는 실제 LLM 에이전트 프로젝트에서 IAL 실패를 탐지하기 위한 정적 분석 도구인 IAL-Scan을 제안합니다. IAL-Scan은 이질적인 에이전트 코드를 프레임워크에 독립적인 에이전트 IR(Agent IR)로 추상화하고, 명시적 및 프레임워크 유도 피드백 경로(framework induced feedback paths)를 복구하기 위해 에이전트 루프 의존성 그래프(Agentic Loop Dependence Graph, ALDG)를 구축하며, 이러한 경로가 효과적인 제한 없이 비용이 많이 들거나 상태를 성장시키는 작업에 반복적으로 도달할 수 있는지 확인합니다. 우리는 6,549개의 LLM 에이전트 리포지토리(repositories)에서 IAL-Scan을 평가했습니다. 그 결과 74개의 잠재적 발견 사항을 보고하였으며, 이 중 수동 검토를 통해 47개 프로젝트에서 68개의 IAL 실패를 확인하여 91.9%의 정밀도(precision)를 달성했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기