두 가지 도구와 온보딩 위자드를 제거하여, 모든 턴의 토큰 사용량을 4% 줄였습니다.
요약
Atlarix 15.11 업데이트는 코딩 에이전트의 효율성을 높이기 위해 불필요한 시스템 프롬프트, 도구 정의 및 온보딩 위자드를 제거했습니다. 이 최적화를 통해 모든 요청에서 약 4%에 달하는 토큰 사용량을 절감하여 모델 호출 비용을 크게 줄였습니다.
핵심 포인트
- 불필요한 모바일/이미지 도구를 제거하여 시스템 오버헤드를 줄임.
- 온보딩 위자드 등 비핵심 요소를 삭제해 토큰 소모를 최소화함.
- 전체 요청의 토큰 사용량이 약 4.2% 감소하는 측정 가능한 성과를 달성함.
- 기능 유지 여부는 실제 사용자 필요성과 모델 작업 수행에 필요한 경우로 결정됨.
코딩 에이전트가 보내는 모든 요청에는 동일한 부담(baggage)이 실립니다. 바로 시스템 프롬프트(system prompt)와 모델이 호출할 수 있는 모든 도구에 대한 정의입니다. 이 정보는 캐시되므로 재전송 비용은 저렴하지만, 여전히 컨텍스트 윈도우(context window)를 채우고 토큰을 소모합니다. Atlarix 15.11에서는 아무도 사용하지 않는 것을 찾아내어 삭제했습니다. 그 결과는 작지만, 이 포스팅의 요점은 바로 이것입니다. 영원히 모든 턴마다 약 4%가 줄어든 것입니다.
무엇이 변경되었나
모바일 도구(The mobile tools). Atlarix에는 휴대폰 에뮬레이터 또는 시뮬레이터를 구동하는 두 가지 도구가 있었습니다. 이 도구들은 거의 호출되지 않았으며, 모델은 일반적인 명령어(예: Android 에뮬레이터의 경우 adb)를 통해 run_command로 입력하거나 view_image로 스크린샷을 보는 방식으로 동일한 작업을 수행할 수 있습니다. 따라서 특별한 도구는 제거하고 일반적인 도구만 남겼습니다.
시각화가 불가능한 모델을 위한 이미지 도구(Image tools for models that can't see). 이미지를 반환하는 도구들은 이제 이미지를 수용하는 모델에게만 제공됩니다. 텍스트 전용 모델이 사용할 수 없는 도구를 보여주고 있었습니다.
온보딩(Onboarding). 첫 실행 위자드, 안내 투어, 코치마크(coachmarks), 순환되는 팁 등은 앱, CLI, 확장 기능에서 모두 사라졌습니다. 분석 선택 항목만 여전히 가장 먼저 표시됩니다. 이 부분은 토큰을 절약하지 못합니다. 대신 소수의 사용자만이 완료하는 코드와 화면들을 제거했습니다.
추정치가 아닌 측정치로 확인하다
저희는 CLI 환경에서 Claude Haiku 4.5를 통해 Anthropic의 형식으로, 빌드 모드(Build-mode) 턴이 요청을 보내기 전과 후의 토큰 사용량을 계산했습니다.
| Tokens per request | Tools offered | |
|---|---|---|
| Before (15.10) | 10,802 | 33 |
| After (15.11) | 10,350 | 31 |
이는 모든 요청에서 452 토큰과 두 개의 도구가 줄어든 것으로, 약 4.2%의 절감입니다. 또한 텍스트 전용 모델은 이미지 도구도 제거하므로, 그 절감 폭은 조금 더 큽니다.
작은 변화가 가치 있는 이유
4%는 반올림 오차처럼 들릴 수 있지만, 이는 모델 호출마다 지불되는 비용이며, 에이전트가 도구 결과를 처리하는 과정에서 단일 메시지만으로도 이 비용이 많이 발생합니다. 더 작은 모델들은 이를 두 배로 느낍니다: 지침 토큰(instructions tokens)이 적고, 선택할 수 있는 도구가 줄어들기 때문인데, 바로 이곳에서 약한 모델들이 잘못된 호출을 합니다. 그리고 모든 도구 정의는 계속 작동해야 하는 약속입니다. 필요하지 않은 것을 삭제하는 것은 우리가 더 이상 비용을 지불하지 않는 유지보수 작업입니다.
우리가 사용한 규칙
기능은 사람들이 사용하거나 모델이 작업을 수행하는 데 필요할 때 유지됩니다. 일반 도구가 이미 해당 경우를 포괄한다면, 특수 도구는 제거됩니다. 우리는 먼저 사용량을 확인하고, 그 다음 삭제한 후, 소스 코드가 아닌 실제 요청에서 측정했습니다. 왜냐하면 모델에 도달하는 것이 유일하게 중요한 수치이기 때문입니다.
이 변경 사항은 컴퓨터 사용 및 상호 작용하는 세션과 함께 Atlarix 15.11에 배포되었습니다. 하네스(harness)는 그것이 운반하는 것이 아니라, 당신이 그것을 사용할 수 있느냐가 중요합니다. 전체 목록은 changelog에서 확인할 수 있습니다.
원문 출판: atlarix.dev.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기