Tool Attention Is All You Need: 동적 도구 게이팅 및 지연 스키마 로딩을 통한 MCP/Tools Tax 제거를 위한 확장 가능한 에이전트 워크플로우

요약

기존 LLM 에이전트 워크플로우에서 외부 도구 연결을 위해 사용되던 Model Context Protocol (MCP)은 매 턴마다 방대한 스키마 정보를 로드해야 하는 'Tools Tax' 문제를 안고 있습니다. Tool Attention은 이 문제를 해결하기 위해 어텐션(Attention) 패러다임을 도구 게이팅으로 확장한 미들웨어 레이어입니다. Intent Schema Overlap (ISO) 점수, 상태 인식 게이팅 함수, 2단계 지연 스키마 로딩을 결합하여, 필요한 도구의 전체 JSON 스키마를 최소화하고 컨텍스트 사용량을

핵심 포인트

• 기존 MCP 기반 에이전트 시스템은 매 턴마다 수만 토큰에 달하는 'Tools Tax'로 인해 운영 비용 및 추론 성능 저하 문제를 겪습니다.
• Tool Attention은 어텐션 메커니즘을 도구 게이팅으로 확장하여, 필요한 도구의 스키마를 효율적으로 관리하고 컨텍스트 오버헤드를 대폭 줄입니다.
• 시뮬레이션 결과, Tool Attention은 매 턴 사용되는 도구 토큰 수를 95.0% (47.3k $ ightarrow$ 2.4k)까지 직접 감소시키고, 유효 컨텍스트 활용률을 24%에서 91%로 끌어올렸습니다.
• 이 연구는 에이전트 시스템의 확장성 제약 요인이 단순히 컨텍스트 길이 자체가 아니라 '프로토콜 레벨의 효율성'에 있음을 시사합니다.