상업적 이용 가능 및 레이트 제한이 있는 모델 - Claude Code의 ANTHROPIC_API_URL만 대체하면 OpenRouter를 통해 사용 가능합니다. 모델 선정, 폴백(fallback) 설정, 캐시 활용 3가지 요소를 통해 비용을 대폭 절감할 수 있습니다.
- 실제 Opus 모델을 투입하기 전 프로토타이핑은 거의 무료로 진행할 수 있습니다.
LLM을 이용한 자동화 도구나 에이전트를 시제품으로 만들 때 첫 번째 장벽은 API 비용입니다. Claude 3.5 Sonnet을 하루에 100번만 호출해도 월 수천 원의 비용이 발생합니다.
OpenRouter는 여러 LLM 프로바이더로 연결되는 통합 게이트웨이이며, 모델명 끝에 :free를 붙이면 **무료 사용량(Free Tier)**으로 호출할 수 있습니다. 2026년 현재 기준으로 qwen/qwen3-235b-a22b:free나 meta-llama/llama-3.3-70b-instruct:free 등 다수의 모델이 상시 무료 사용량을 제공하고 있습니다.
본문에서는 Claude Code (Anthropic 공식 CLI 에이전트)와 OpenRouter를 결합하여 프로토타입 개발 비용을 거의 제로에 가깝게 만드는 5가지 설정을 소개합니다.
| 용어 | 설명 |
|---|
| OpenRouter | https://openrouter.ai의 게이트웨이 API입니다. OpenAI 호환 엔드포인트를 통해 각 사의 모델을 호출할 수 있습니다. |
:free 모델 | <provider>/<model>:free 형식입니다. RPM/일별 토큰 상한선이 있으며, 상업적 이용이 가능합니다. |
| Claude Code | Anthropic 공식 터미널 에이전트 (npm i -g @anthropic-ai/claude-code)입니다. |
ANTHROPIC_API_URL | Claude Code가 호출하는 엔드포인트를 변경할 수 있는 환경 변수입니다. |
Claude Code는 내부적으로 Anthropic의 Messages API를 호출합니다. ANTHROPIC_API_URL을 덮어쓰면 임의의 프록시로 연결할 수 있습니다.
export ANTHROPIC_API_URL="https://openrouter.ai/api/v1"
export ANTHROPIC_API_KEY="sk-or-v1-xxxxxxxxxxxx" # OpenRouter API 키
이것만으로 claude 명령어가 OpenRouter를 통해 작동하게 됩니다. 다만 Claude Code는 모델 식별자 검증을 수행하기 때문에, claude-3-5-sonnet-20241022와 같은 Anthropic 이름이 아니면 오류가 발생하는 경우가 있습니다. 이 경우에는 후술할 '모델 매핑'으로 회피해야 합니다.
주의: OpenRouter 키는 .env 파일이나 셸의 history에 남기지 마십시오. direnv나 pass와 같은 시크릿 관리 도구를 사용하십시오.
Claude Code는 프로젝트 루트의 .claude/settings.json에서 모델을 지정할 수 있습니다.
{
"model": "anthropic/claude-3.5-sonnet",
"apiUrl": "https://openrouter.ai/api/v1"
...
}
OpenRouter에서는 anthropic/claude-3.5-sonnet 형식으로도 호출할 수 있지만, 무료 사용량에는 포함되어 있지 않습니다. 프로토타입 단계에서는 Qwen3나 Llama3를 사용하고, 실제 PR 리뷰 시에만 Sonnet으로 전환하는 운영 방식이 현실적입니다.
{
"model": "qwen/qwen3-235b-a22b",
"apiUrl": "https://openrouter.ai/api/v1"
...
}
포인트: qwen3-235b-a22b는 2025년에 공개된 Qwen3 MoE 모델입니다. 235B 파라미터임에도 불구하고 실효 22B 분의 활성 가중치(active weight)로 작동하여 코딩 작업 품질이 높습니다.
OpenRouter에는 route 매개변수가 있어, 주력 모델을 사용할 수 없을 때 대체 모델로 자동 전환될 수 있습니다. 이는 직접 API를 호출하는 스크립트에서 유효합니다.
import anthropic
import os
client = anthropic.Anthropic(
...
폴백(Fallback)은 OpenRouter Dashboard의 Routing 설정 또는 요청 시 models 배열(OpenAI 호환 형식)로 지정할 수 있습니다.
from openai import OpenAI
client = OpenAI(
...
:free 모델이 모두 실패(레이트 제한)하더라도 마지막 방어선으로 유료 모델을 넣어두면 안심할 수 있지만, 비용 상한선을 설정해 두는 것이 중요합니다 (OpenRouter Dashboard > Limits).
OpenRouter를 통해 Anthropic 모델을 호출하는 경우에도 **프롬프트 캐싱(prompt caching)**이 유효합니다. 긴 시스템 프롬프트를 캐시하는 것만으로도 입력 토큰 소비가 최대 90%까지 줄어들 수 있습니다 (Anthropic 공식 사양).
response = client.messages.create(
model="anthropic/claude-3-5-haiku-20241022",
max_tokens=512,
...
cache_control을 지정한 시스템 텍스트는 5분 동안 캐시됩니다. 배치 처리나 에이전트 루프에서는 루프 외부에서 단 한 번만 시스템 프롬프트를 구성하고, 매 턴마다 messages 내용만 업데이트하는 것이 효과적입니다.
개발, 스테이징, 프로덕션 환경에서 모델을 전환할 때는 direnv가 편리합니다.
export ANTHROPIC_API_URL="https://openrouter.ai/api/v1"
export ANTHROPIC_API_KEY="$(pass show openrouter/dev-key)"
...
export ANTHROPIC_API_URL="https://api.anthropic.com"
export ANTHROPIC_API_KEY="$(pass show anthropic/prod-key)"
...
direnv allow를 실행하면 cd만으로 환경이 전환됩니다. 키를 직접 코딩하지 않는 것이 가장 중요합니다.
| 모델 | 강점 | 코딩 적합성 | 한국어 대응 |
|---|
qwen/qwen3-235b-a22b:free | 고성능 MoE・사고 모드 지원 | ◎ | ◎ |
meta-llama/llama-3.3-70b-instruct:free | 균형 잡힌 성능・영어 강점 | ○ | △ |
google/gemma-3-27b-it:free | Google 제작・경량화 | ○ | ○ |
mistralai/mistral-7b-instruct:free | 초경량・응답 속도 빠름 | △ | △ |
deepseek/deepseek-r1:free | 추론 특화・수학/코드 | ◎ | ○ |
주의: :free 슬롯의 제공 상황 및 모델명은 변경될 수 있습니다. 최신 목록은 https://openrouter.ai/models?q=:free를 확인하세요.
필자(지모랩)는 여러 자동화 스크립트를 OpenRouter :free로 전환한 결과, 프로토타입 단계의 LLM API 비용을 95% 이상 절감할 수 있었습니다 (운영 환경에서는 계속 Sonnet/Haiku를 사용).
주요 활용 사례로는 코드 리뷰 코멘트 생성, 이슈 트리아지(issue triage), 간이 문서 생성 등이 있습니다. 이러한 작업들은 GPT-4 급의 정밀도를 요구하지 않는 경우가 많아 Qwen3로도 충분합니다.
ANTHROPIC_API_URL을 OpenRouter를 가리키도록 설정하면 Claude Code를 무료 모델로 사용할 수 있음 -.claude/settings.json에서 모델을 명시하고, direnv로 개발/운영 환경을 전환함 -- 폴백 설정을 통해 레이트 제한에 대비함
cache_control로 시스템 프롬프트를 캐싱하여 토큰 소비를 줄임 -- 비용 상한선을 OpenRouter Dashboard에서 반드시 설정함
“우선 작동하는 것을 만든 후 유료 모델로 전환한다”는 사이클이 LLM 앱 개발의 현실적인 비용 관리 전략입니다.
- OpenRouter Docs — 빠른 시작 가이드 (Quick Start)
- OpenRouter — 무료 모델 (Free Models)
- Anthropic Docs — 프롬프트 캐싱 (Prompt Caching)
- Claude Code Docs — 설정 (Configuration)
- direnv — .profile 정리하기 (Unclutter your .profile)
- Qwen3 기술 보고서 (Qwen Team, 2025)
✍️ 본문 작성자: 지모라보 주식회사 (合同会社ジモラボ)
지모라보는 하치오지(八王子)를 거점으로 AI를 활용한 SaaS를 다수 개발하고 있습니다. 본문의 기술 검증 내용 역시 그러한 개발 과정의 부산물입니다.
관심을 가져주시면 각 SNS 팔로우도 부탁드립니다!
| 체크 항목 | 결과 |
|---|
| 4-A~4-D 해당 기술 없음 | ✅ YES |
| ... | |
추천 태그 (Qiita): OpenRouter | |
/ Claude
/ LLM
/ 비용 절감
/ AI 에이전트
