GIST-CMTF: LLM 에이전트를 위한 인과적 최소 도구 필터링을 위한 목표 상태 추론

도구 증강 LLM 에이전트(Tool-augmented LLM agents)는 각 단계에서 어떤 도구가 보여야 할지를 결정하기 위해 런타임 필터링(runtime filtering)에 의존합니다. 인과적 최소 도구 필터링 (Causal Minimal Tool Filtering, CMTF)은 인과적으로 필요한 다음 도구 프런티어(frontier)만을 노출함으로써 도구 선택의 혼란을 줄이지만, 이는 사용자 요청이 이미 기호적 목표 상태(symbolic goal state)로 매핑되었다고 가정합니다. 실제로 "내 약속을 처리해줘" 또는 "이 이메일을 처리해줘"와 같은 요청은 여러 가지 가능한 목표에 대응할 수 있습니다. 이는 에이전트가 의도하지 않은 목적을 위해 유효한 인과적 도구 경로를 따르는 잘못된 목표 실행(wrong-goal execution)을 초래합니다. 우리는 CMTF에서 사용하는 것과 동일한 상태 전이 어휘(state-transition vocabulary)를 사용하여 후보 기호적 목표를 예측하고, 모호성을 추정하며, CMTF를 적용하거나 누락된 목표 또는 상태 변수를 생성하는 인과적 행동으로서 명확화(clarification)를 노출하는 목표 상태 추론 계층인 GIST-CMTF를 소개합니다. 우리는 7개의 모델 백엔드, 6개의 필터링 방법, 120개의 통제된 도구 사용 태스크에 대해 GIST-CMTF를 평가했습니다. GIST-CMTF는 top-goal CMTF의 80.1%, semantic-goal CMTF의 82.9%와 비교하여 97.0%의 태스크 성공률을 달성했습니다. 이는 top-goal CMTF 하에서의 19.4%였던 잘못된 목표 실행을 2.5%로 줄이는 동시에, 인과적 필터링의 단일 도구 노출 특성을 유지하며 모든 도구를 노출하는 방식보다 훨씬 적은 토큰을 사용합니다. 이러한 결과는 신뢰할 수 있는 도구 증강 에이전트가 외부 행동을 노출하기 전에 도구의 관련성뿐만 아니라 목표 상태를 검증해야 함을 시사합니다.