Originally published on NextFuture

이번 달 Claude Code 청구서가 수천 USD로 급증한 가운데, 비용 절감을 위해 사용했던 저렴한 API였던 DeepSeek이 모든 서비스에 대한 가격 인상을 발표했습니다. 만약 팀이 모든 작업에 기본 모델을 Opus로 유지한다면, 아무도 알아차리지 못하는 사이에 비용은 계속해서 상승할 것입니다. 이 글에서는 모델 선택부터 LLM 자체 호스팅까지, 이번 달에 AI 비용을 통제할 수 있는 3가지 구체적인 레버(lever)를 제시합니다.

가격 인상 신호: DeepSeek이 더 이상 가장 저렴한 API가 아니다

DeepSeek은

Llama 3.3 70B 셀프 호스팅 (Self-host): 비용은 절감되지만 트레이드오프 (trade-off)를 명확히 이해해야 함

또 다른 가이드는 월 $12의 DigitalOcean GPU Droplet (NVIDIA H100) 또는 월 $10 (L40S) 환경에서 vLLM과 dynamic LoRA routing을 결합하여 Llama 3.3 70B를 배포(deploy)하는 방법을 설명합니다. 저자는 이 시스템이 50개 이상의 동시 요청 (concurrent request)을 처리할 수 있으며, 500K 토큰 추론 (inference) 테스트 비용이 $1 미만으로 들었다고 주장합니다. 입력 토큰 1M(백만) 개당 $15인 Claude Opus와 비교했을 때, 저자는 셀프 호스팅 시스템의 비용을 입력 토큰 1M 개당 약 $0.11로 계산했습니다. 이 "135배 저렴하다"는 주장은 독립적인 벤치마크 (benchmark)를 거치지 않은 개인 블로그의 자체 측정 수치이므로, 대규모 워크로드 (workload)와 민감도가 높지 않은 데이터를 처리할 때 참고용 신호로만 간주해야 하며, 일상 업무에서 Claude Code를 완전히 대체할 수 있는 수치로 보아서는 안 됩니다.

이번 주에 해야 할 3가지 일

• Anthropic Console에서 최근 2~4주간의 API 키별 사용량 (usage per-API-key)을 확인하고, CLAUDE.md에서 Sonnet을 기본값 (default)으로 설정하세요. Opus는 복잡한 추론 (reasoning) 작업에만 사용하십시오.

• 월 예산 수준에서 하드 지출 한도 (hard spend cap)를 설정하고, 70% 지점에서 소프트 알림 (soft alert)을 설정하세요. 이는 자동화된 루프 (automated loop)나 에이전트 모드 (agent mode)가 너무 오래 실행되어 토큰 비용이 갑자기 폭증하는 리스크를 방지하기 위함입니다.

• 팀에 배치 (batch) 작업이나 오프피크 (off-peak) 시간대의 대량 워크로드 (데이터 합성 (data synthesis), 오프라인 인덱싱 (offline indexing))가 있다면, 프로덕션 (production) 트래픽을 완전히 전환하기 전에 Llama 셀프 호스팅을 테스트하거나 배치 작업을 DeepSeek의 오프피크 시간대로 전환하는 것을 시도해 보세요.

이 기사는 원래 NextFuture에 게시되었습니다. 더 많은 풀스택 (fullstack) 및 AI 엔지니어링 (AI engineering) 콘텐츠를 보려면 저희를 팔로우하세요.