성공의 흐름에서 에이전트적 실패 추적

요약

본 논문은 LLM 기반 에이전트 시스템의 실패 원인 규명(Failure attribution) 문제를 다루며, 기존 방식의 높은 비용과 낮은 확장성 문제를 해결하고자 합니다. 연구진은 성공적인 궤적만을 사용하여 학습하고 추론 시점에 오류 단계를 식별하는 비지도 접근법 OAT를 제안했습니다. OAT는 신경 제어 미분 방정식 기반 원클래스 학습을 통해 잠재 공간에서 정상 동역학 패턴을 모델링하여, 실패 궤적이 이 패턴에서 얼마나 벗어났는지로 이상치 점수를 계산합니다.

핵심 포인트

• OAT는 성공적인 궤적만으로 학습하는 비지도 방식입니다.
• 신경 제어 미분 방정식을 활용한 원클래스 학습 기법을 사용했습니다.
• 기존 프롬프팅 기반 방법보다 훨씬 빠르고 정확도가 높습니다.
• 에이전트 시스템의 실패 진단 및 디버깅에 유용합니다.