성공의 흐름에서 에이전트적 실패 추적
요약
본 논문은 LLM 기반 에이전트 시스템의 실패 원인 규명(Failure attribution) 문제를 다루며, 기존 방식의 높은 비용과 낮은 확장성 문제를 해결하고자 합니다. 연구진은 성공적인 궤적만을 사용하여 학습하고 추론 시점에 오류 단계를 식별하는 비지도 접근법 OAT를 제안했습니다. OAT는 신경 제어 미분 방정식 기반 원클래스 학습을 통해 잠재 공간에서 정상 동역학 패턴을 모델링하여, 실패 궤적이 이 패턴에서 얼마나 벗어났는지로 이상치 점수를 계산합니다.
핵심 포인트
- OAT는 성공적인 궤적만으로 학습하는 비지도 방식입니다.
- 신경 제어 미분 방정식을 활용한 원클래스 학습 기법을 사용했습니다.
- 기존 프롬프팅 기반 방법보다 훨씬 빠르고 정확도가 높습니다.
- 에이전트 시스템의 실패 진단 및 디버깅에 유용합니다.
LLM 기반 에이전트 시스템의 실패 원인 규명(Failure attribution), 즉 실패 궤적(failure trajectory)에서 어떤 단계가 작업을 실패하게 했는지 식별하는 것은 이러한 시스템을 디버깅하고 개선하는 데 매우 중요합니다. 기존 접근 방식들은 계산 비용이 많이 드는 프롬프팅 기반 파이프라인에 의존하거나, 단계별 오류 주석(step-level error annotations)이 필요한 실패 궤적에 대한 사후 학습(post-training)을 요구하는데, 이는 수집하기 어렵고 확장성이 떨어지는 문제가 있습니다. 우리는 실용적인 실패 원인 규명 모델은 가볍고 실패 데이터에 대해 단계별 감독(step-level supervision) 없이 학습 가능해야 한다고 주장합니다. 이를 위해, 우리는 비지도 실패 원인 규명(unsupervised failure attribution), 즉 성공적인 궤적만을 사용하여 학습하고 주어진 실패 궤적을 통해 추론 시점에 오류 단계를 식별하는 문제에 접근합니다. 우리는 OAT를 제안하며, 이 문제를 신경 제어 미분 방정식(neural controlled differential equations)을 이용한 원클래스 학습(one-class learning)으로 간주하여 잠재 공간(latent space)에서 성공적인 궤적의 동역학적 패턴을 모델링합니다. 추론 시점에 실패 궤적의 각 단계는 성공적인 궤적에서 학습된 동역학으로부터의 편차를 기반으로 이상치 점수(anomaly score)가 할당되며, 이를 통해 오류 단계들의 집합이 형성됩니다. 단지 100개의 성공적인 궤적만을 가지고 학습한 실험 결과, OAT는 프롬프팅 기반 기준선보다 200배에서 5000배 더 빠르며, 동시에 인-도메인(in-domain) 및 아웃-오브-디스트리뷰션(out-of-distribution) 데이터셋 모두에서 각각 +20%, +7%의 F1 점수로 일관되게 성능을 능가하여, OAT가 에이전트 시스템 실패 진단에 유망하고 효율적인 방향임을 입증합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기