거부할 것인가 호출할 것인가: LLM 도구 호출 평가 및 최적화 프레임워크

에이전티 AI(도구 기반) 아키텍처는 외부 도구를 추가하여 LLM의 강력한 능력을 개방합니다. 그러나 도구 사용은 항상 유익한 것은 아닙니다; 일부 호출은 불필요하거나 심지어 해로울 수 있습니다. 따라서 효과적인 도구 사용은 핵심 LLM 결정, 즉 작업을 수행할 때 도구를 호출할 것인가를 호출하지 않을 것인가에 달려있습니다. 이 결정은 특히 웹 검색 도구에서 더 어려우며, 외부 정보의 혜택은 모델의 내부 지식과 잠재적으로 노이즈가 있는 도구 응답을 통합하는 능력에 의존합니다. 우리는 의사결정 이론에 영감을 받은 원칙적인 프레임워크를 소개하여 세 가지 핵심 요소인 필요성, 유용성, 그리고 비용 효율성을 기준으로 웹 검색 도구 사용 결정을 평가합니다. 우리의 분석은 두 개의 보완적인 렌즈를 결합합니다: 최적의 도구 호출 할당에서 진정한 필요성과 유용성을 추론하는 규범적 관점과 관찰된 행동에서 모델의 자기 인식된 필요성과 유용성을 추론하는 기술적 관점. 우리는 모델의 도구 호출에 대한 인식된 필요성과 유용성이 종종 그들의 진정한 필요성과 유용성과 불일치함을 발견합니다. 이 프레임워크를 바탕으로, 모델의 숨겨진 상태 (hidden states) 에 기반한 필요성과 유용성의 경량 추정기를 훈련시킵니다. 우리의 추정기는 세 가지 작업과 여섯 개의 모델을 통해 자기 인식된 설정보다 결정 품질을 개선하고 더 강력한 작업 성능을 이끌어냅니다.