도구는 고립된 섬이 아니다: 쿼리 조건부 하이퍼엣지 예측을 통한 LLM 에이전트용 세트 수준 도구 검색
요약
LLM 에이전트가 수천 개의 도구 중 최적의 조합을 선택할 수 있도록 돕는 HYSET 프레임워크를 제안합니다. 기존의 개별 도구 점수 방식 대신 하이퍼그래프를 활용해 도구 세트 전체의 결합 유용성을 평가하여 검색 성능을 극대화했습니다.
핵심 포인트
- 하이퍼그래프 기반의 쿼리 조건부 하이퍼엣지 예측 방식 도입
- 도구 간의 상호작용과 크기 의존적 호환성 포착
- 다운스트림 에이전트 수정 없이 사용 가능한 사전 선택 모듈
- ToolBench 실험 결과 기존 SOTA 모델 대비 높은 작업 성공률 입증
- 제로샷/퓨샷 전이를 통한 미학습 도메인 일반화 능력 보유
대규모 언어 모델 (LLM) 에이전트는 실제 세계의 작업을 완료하기 위해 외부 도구를 호출하는 것에 점점 더 의존하고 있습니다. 따라서 에이전트가 행동하기 전에 수천 개의 도구 라이브러리에서 작업과 관련된 작은 하위 집합을 선택하는 도구 검색 (Tool retrieval)은 LLM 에이전트 파이프라인의 핵심 구성 요소가 되었습니다. 그러나 기존의 검색기들은 각 도구를 개별적으로 점수를 매기거나 도구 세트를 순차적으로 구성하기 때문에, 후보 세트의 결합 유용성 (joint utility)을 전체로서 평가하지 못합니다. 본 논문에서는 HYperedge-based SEt-level Tool retrieval의 약자인 HYSET을 제안합니다. 우리의 기여는 세 가지입니다: (i) 우리는 도구 공동 호출 하이퍼그래프 (tool co-invocation hypergraph) 상에서 쿼리 조건부 하이퍼엣지 예측 (query-conditioned hyperedge prediction)으로 도구 검색을 공식화하며, 이 구조 하에서 도구 세트 자체가 점수 산정의 단위가 되어 대부분의 기존 검색 패러다임이 제한된 사례로 축소됩니다; (ii) 우리는 기수성 특화 상호작용 (cardinality-specific interactions)을 통해 크기 의존적인 도구 호환성을 포착합니다; (iii) 우리는 다운스트림 에이전트에 대한 수정이 필요 없는 사전 선택 모듈로서 HYSET을 설계합니다. ToolBench에서의 실험을 통해 HYSET이 도구 검색 성능과 엔드투엔드 (end-to-end) 작업 성공률 모두에서 최첨단 (state-of-the-art) 베이스라인들을 일관되게 능가함을 입증했습니다. 도메인 내 (in-domain) 설정을 넘어, HYSET은 제로샷/퓨샷 (zero-shot/few-shot) 전이를 추가로 지원하여, 최소한의 감독만으로 제외된 도구/카테고리 및 미학습 도메인으로 일반화됩니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기