매달 저는 OpenAI 청구서를 보고 깜짝 놀라곤 했습니다.

엄청난 금액은 아니었지만, 사용량 대시보드(usage dashboard)를 열어 차트를 뚫어지게 쳐다보고, 어떤 프로젝트가 그 많은 토큰(tokens)을 다 써버렸는지 기억해내려 애쓰다가 결국 포기할 정도였습니다. 대시보드는 총액만 보여줍니다. 어떤 프로젝트가 가장 많은 비용을 발생시켰는지, 어떤 모델(model)이 작업을 수행했는지, 혹은 GPT-4를 사용한 리팩터링(refactoring) 세션이 Claude보다 실제로 더 저렴했는지 등을 이해하는 데는 도움이 되지 않습니다.

그래서 저는 AICostTracker를 만들었습니다. API 호출을 기록하고 프로젝트 및 모델별로 비용 내역을 보여주는 로컬 CLI(Command Line Interface)입니다.

작동 방식

호출을 수행한 후 기록하세요:

aicost log myapp gpt-4o 1500 800 "generated README"
aicost log agentspec claude-3.5-sonnet 2000 1200 "test run"

그 다음 지출 내역을 확인하세요:

aicost summary

출력 결과:

  AI Cost Tracker — Summary
  ══════════════════════════════════════════════════
  Total entries:    2
...

왜 로컬 우선(Local-first)인가요?

계정과 대시보드가 필요한 또 다른 SaaS(Software as a Service)를 원하지 않았습니다. 데이터는 ~/.aicost/usage.jsonl에 저장됩니다. 호출당 하나의 JSON 라인(JSON line)으로 구성되어 있어, grep으로 검색 가능하고, 휴대 가능하며, 온전히 당신의 것입니다.

OpenAI (gpt-4o, o1, gpt-4-turbo, gpt-3.5), Anthropic (claude-3.5-sonnet, claude-3-opus, haiku), Google (gemini-1.5), 그리고 로컬/Ollama 모델 (비용: $0)의 가격 정보가 내장되어 있습니다.

설치

npm install -g @ozperium/aicost-tracker
aicost log myproject gpt-4o 1000 500 "first entry"
aicost summary

다음 단계

당연한 다음 단계는 자동 기록(automatic logging)입니다. API 호출을 가로채는 래퍼(wrapper)를 만들어 수동으로 기록할 필요가 없게 만드는 것이죠. 현재로서는 수동 기록만으로도 중요한 패턴을 파악하기에 충분합니다.

여러 AI API를 사용 중이고 돈이 실제로 어디로 가고 있는지 알고 싶다면, 한번 사용해 보세요.

GitHub: https://github.com/Ozperium/aicost-tracker

또한 사용 중인 스택에는 AI 에이전트(agent) 동작 테스트를 위한 AgentSpec과, 속도 제한(rate limits)에 걸리기 전에 이를 추적하기 위한 quota가 포함되어 있습니다.