지난주, 중견 스타트업의 엔지니어링 리드가 우리에게 팀의 코딩 에이전트 비용이 2분기 만에 6배나 늘었다고 이야기했습니다. 업무가 6배 더 어려워져서가 아니었습니다. 아무도 지켜보지 않았기 때문입니다.

Uber는 2026년 전체 AI 예산을 4개월 만에 소진했습니다. Microsoft는 부서별로 Claude Code 라이선스를 취소하고 있습니다. Salesforce는 3억 달러 규모의 Anthropic 청구서를 마주하고 있습니다.

'토큰 최대화(tokenmaxxing)' 이후의 여파

2026년 초, 코딩 에이전트 사용량이 폭증하면서 팀들은 지출을 성과로 여기기 시작했습니다. 토큰을 많이 소비했다는 것은 더 많은 작업이 수행되었고, 더 많은 레버리지를 얻었으며, AI 투자가 결실을 맺고 있다는 증거라고 여겼습니다. 불과 몇 달 후, 우리는 청구서가 폭발적으로 늘어나고 비용 관리가 AI 워크로드를 확장하는 데 매우 중요해지는 흐름을 목격하고 있습니다.

그렇다면 어디서 지출을 줄여야 할지 어떻게 파악할 수 있을까요? 단일 기능이라도 초기 구현에는 Claude Code를, 인라인 편집에는 Cursor를, 팀원 검토에는 Copilot Chat을 사용할 수 있으며, 이 각 도구들은 자체적인 형식으로 활동 기록을 남깁니다. '이 기능을 만드는 데 실제로 얼마를 썼으며, 그만한 가치가 있었는가?'라고 물어도 대부분의 팀은 답할 수 없습니다.

바로 이때 토큰 최대화(tokenmaxxing)는 단계가 아니라 부채로 변모합니다. 측정 단위가 서로 통신하지 않는 도구들에 분산되어 있기 때문에, 그것이 제값을 하고 있는지 확인할 만한 신뢰할 수 있는 방법이 없는 것입니다.

실제 문제: 데이터 부족이 아닌 파편화(fragmentation)

모든 코딩 도구는 어떤 비용 가시성은 노출합니다. Copilot은 OpenTelemetry 스팬을 방출하고, OpenCode는 세션 훅을 가지고 있으며, Pi는 확장 기능을 사용하고, Cursor는 훅을 사용합니다. Claude Code에서의 도구 호출과 Cursor에서의 도구 호출은 같은 방식으로 기록되지 않기 때문에, 이들을 나란히 놓고 어느 것이 돈 대비 더 많은 가치를 창출하는지 물어볼 수 없습니다.

이러한 파편화는 팀이 하나의 도구를 넘어 확장되기 전까지는 눈에 띄지 않습니다. 그런데 그 시점은 거의 즉각적입니다. 그렇다면 팀이 실제로 사용하는 모든 에이전트에서 일관된 단일 뷰를 얻으려면 어떻게 해야 할까요?

가시성(visibility)에서 통제(control)로

팀들과 이 문제에 대해 깊이 파고들면서 하나의 패턴이 나타났습니다. 해결책은 단지 한 가지 문제가 아니라, 순환 과정의 일부라는 것입니다.

사용 비용 확인: 다섯 개의 대시보드와 다섯 가지 형식 대신, 팀이 실제로 사용하는 모든 코딩 에이전트에서 일관된 단일 뷰를 원할 것입니다. LangSmith는 이제 Claude Code, Codex, Cursor, GitHub Copilot Chat, Pi, OpenCode 등에서 발생한 세션을 동일한 추적 모델로 추적합니다. 어떤 도구가 세션을 실행했는지에 관계없이 동일한 메타데이터와 동일한 쿼리 구문을 사용합니다. 마침내

지출 통제하기: 당사의 LLM 게이트웨이는 사용자, 팀, 조직 수준에서 비용 상한선(cost caps)을 설정하고 관리하며, 곧 적합한 경우 오픈 소스 모델로 라우팅할 수 있게 될 것입니다. 오픈 소스 모델들은 충분히 좋고 저렴해져서 모든 에이전트 하네스(agent harness)의 옵션으로 포함되어야 합니다. 이는 전방위적 지능(frontier intelligence)을 요구하지 않는 대부분의 작업에 대한 기본값으로서, 전방위 모델을 완전히 대체하는 것이 아니라 말입니다. 서브 에이전트(subagents)도 마찬가지입니다. 저렴한 모델들이 범위가 한정된 서브 태스크를 처리함으로써 스마트 모델이 잡무(grunt work)에 전방위 수준의 비용을 소모하는 것을 막아줄 수 있습니다.

이러한 각 단계는 다음 단계를 가능하게 합니다. 가시성(Visibility)은 최적화할 곳을 알려주고, 최적화는 거버넌스(Governance)가 가장 엄격해야 할 곳을 알려줍니다. 거버넌스는 이익을 보호하여, 다음 라운드의 가시성이 새로운 낭비 대신 실제 진전을 보여주도록 합니다.

이 솔루션은 여러 개의 코딩 에이전트를 운영하는 팀을 위해 구축되었으며, 고객들로부터 들은 바에 따르면 이는 채택 후 몇 달 안에 대부분의 팀이 경험하게 될 상황입니다. 만약 귀사의 조직이 단일 도구로 완전히 표준화되어 있고 해당 도구의 네이티브 대시보드가 이미 질문에 답하고 있다면, 아직 두 번째 계층(second layer)이 필요하지 않을 수 있습니다. 하지만 두 번째 도구가 투입되는 순간, 네이티브 대시보드는

• 사용자 및 어시스턴트 턴(User and assistant turns)
• 토큰 사용량 및 비용이 포함된 모델 호출(Model calls with token usage and cost)
• 도구 호출 및 셸 명령어(Tool calls and shell commands)
• MCP 활동 및 서브 에이전트 호출(MCP activity and subagent invocations)
• 오류 및 타이밍(Errors and timing)

추적 기록은 공통 모델(루트 세션, 턴, 도구 호출, 메타데이터)로 정규화되어 있어 동일한 필드를 사용하여 여러 에이전트를 가로질러 쿼리할 수 있습니다. thread_id, 모델, 제공업체 또는 도구 이름으로 필터링하세요. 비용이 많이 드는 세션을 찾고, 실패하는 도구 호출을 찾고, 컨텍스트를 전환하지 않고도 Cursor와 Copilot 간의 동작을 비교할 수 있습니다.

시작하기 (Getting Started)

각 도구마다 설정 방법이 다릅니다: Claude Code, Codex, OpenCode, Cursor, GitHub Copilot, Pi 또는 dcode에 대한 단계를 찾아보세요.

저희는 이 문제를 직접 겪었기 때문에 이것을 만들었습니다. 청구서가 계속 올라갔지만, 실제로 어떤 작업에 비용을 지출할 가치가 있는지 명확하게 알지 못했습니다. 엔지니어링 팀은 결코 하나의 에이전트로 표준화하지 않을 것입니다(그리고 그럴 필요도 없습니다!) 왜냐하면 그들은 항상 작업에 가장 적합한 것을 선택할 것이기 때문입니다. 따라서 관찰 가능성(observability)은 그들이 있는 곳에서 만나야 합니다: 다양한 에이전트, 다양한 이벤트 형식, 모든 것을 이해할 수 있는 한 곳.

LangSmith는 팀이 모든 코딩 에이전트에 걸쳐 세션을 디버그하고 측정할 수 있는 단일 장소를 제공합니다. 사용하려는 도구를 찾고 시작하세요.