LLM 에이전트의 도구 환각에 대한 폐쇄 세계 해결책

요약

본 논문은 LLM 에이전트가 존재하지 않는 도구를 호출하거나 스키마에 없는 인수를 전달하는 '도구 환각(Tool Hallucination)' 문제를 다룹니다. 기존의 방어책들이 이 구조적 사각지대를 해결할 수 없음을 증명하며, 폐쇄 세계 해결사 및 새로운 벤치마크를 제시합니다.

핵심 포인트

• 도구 환각은 선택/게이팅 방식으로는 막을 수 없는 근본적인 문제임.
• 폐쇄 세계 해결사는 '무엇을 계산하는가'보다 '어디에 위치해야 하는가'에 초점을 맞춤.
• 환각 방어는 모든 인과적 게이트보다 선행되어야 함을 증명함.
• Hallucinated-Tools Benchmark (HTB)를 공개하여 연구 커뮤니티의 비교 가능성을 높임.