MCP 도구 표면(tool surface)에 토큰 청구서가 있습니다 — 읽는 방법

만약 MCP 서버를 구축하고 있다면, 놓치기 쉬운 비용이 하나 있습니다: 노출하는 모든 도구는 호출할 때마다 모델로 다시 전송됩니다.

시작 시 한 번이 아닙니다. 매번. 단 한 번의 턴(turn)마다요. 도구의 이름, 설명, 그리고 전체 JSON 입력 스키마가 모두 모델이 무엇을 할지 결정할 때마다 컨텍스트에 들어갑니다. 상세한 스키마를 가진 30개의 도구를 노출하면, 에이전트가 유용한 일을 하나도 하기 전에 도구 정의만으로 천 개 이상의 토큰을 소모할 수 있습니다. 게다가, 더 크고 잡음이 많은 도구 메뉴는 측정 가능하게 도구 선택 정확도를 저하시킵니다 — 모델은 혼란스러워할 거의 동일한 옵션이 더 많기 때문입니다.

우리 대부분은 이것이 비용으로 얼마가 드는지에 대한 피드백 없이 MCP 서버에 도구를 추가합니다. 그래서 저는 이 청구서를 눈에 보이게 만들기 위해 작은 CLI를 만들었습니다.