만약 여러분이 Claude Code, Codex, Antigravity, OpenCode 등 무엇이든 선택한 CLI 또는 GUI를 통해 매일 AI 코딩 어시스턴트 (AI coding assistants)를 사용한다면, 작업 도중에 공포의 "할당량 제한 도달 (Quota Limit Reached)" 화면을 거의 확실히 마주해 보았을 것입니다.

속도 제한 (rate limit)이 걸리기에 가장 최악의 타이밍입니다. 흐름(flow)을 타고 세 번째 파일까지 리팩터링 (refactor)을 진행하던 중, 갑자기 어시스턴트가 침묵해 버리기 때문입니다.

저는 한동안 이 문제를 해결하기 위해 다음과 같은 해결책을 실행해 왔습니다: 9Router, 무료 오픈 소스 (open-source) 로컬 AI 프록시 (local AI proxy)입니다. 이것이 무엇을 하는지, 그리고 어떻게 연결하는지에 대한 상세 내용을 설명하겠습니다.

9Router란 무엇인가?

9Router는 여러분의 AI 코딩 도구와 실제 모델 제공업체 (OpenAI, Anthropic, Gemini 등) 사이에 위치하는 로컬 프록시 서버 (local proxy server)입니다.

Claude Code, Cursor 또는 Codex를 제공업체에 직접 연결하는 대신, 9Router를 향하도록 설정합니다. 이는 여러분의 기기에서 실행되며 표준 **OpenAI 호환 API (OpenAI-compatible API)**를 노출합니다:

거의 모든 현대적인 AI 도구는 기본 API URL을 재정의 (override)할 수 있게 해주므로, 이는 포크 (forking)나 커스텀 SDK (custom SDKs) 없이도 거의 보편적인 호환성을 의미합니다.

핵심 기능

1. 스마트 3단계 폴백 (Smart 3-Tier Fallback)

이것이 바로 할당량 문제를 해결하는 핵심 기능입니다. 여러 계정/제공업체를 세 가지 단계로 풀링 (pool)합니다:

• Tier 1 — 구독/프리미엄 (Subscription/Premium): 유료로 사용하는 Claude Pro, ChatGPT Plus 등
• Tier 2 — 저렴한 API (Cheap API): 백업용 종량제 키 (pay-as-you-go keys) (Haiku, GPT-4o-mini)
• Tier 3 — 무료 티어 (Free Tier): 무료 모델 또는 본인 하드웨어의 로컬 모델 (local models)

Tier 1의 속도 제한이 걸리거나 연결이 끊기면, 9Router는 자동으로 Tier 2를 거쳐 Tier 3로 넘어갑니다. 수동으로 키를 교체하거나 세션을 재시작할 필요가 없습니다.

2. RTK (Rust Token Killer) 토큰 절약 기능

AI 코딩 도구는 대화량이 많습니다. git diff, grep을 실행하거나 파일을 읽을 때 엄청난 양의 공백, 주석, 중복된 메타데이터가 모델로 전송됩니다.

RTK는 요청이 나가기 전에 이러한 불필요한 데이터 (bloat)를 손실 없이 제거하여, 출력 품질에 측정 가능한 영향을 주지 않으면서 입력 토큰 (input tokens)을 20–40% 절감합니다.

3. 원시인 모드 (Caveman Mode)

이름 그대로 군더더기 없는, 핵심 코드만 포함된 간결한 출력을 강제합니다. 모델의 자체적인 설명이 필요하지 않을 때 유용합니다. 출력 토큰 (output tokens)을 최대 **65%**까지 절감할 수 있습니다.

설정 방법 (Setting It Up)

CLI 도구 (CLI tools)

Base URL을 로컬 9Router 인스턴스로 지정하세요:

저는 개인적으로 다음 도구들로 테스트를 완료했습니다:

• Claude Code
• Codex
• Antigravity
• OpenCode

GUI 도구 (GUI tools)

원리는 동일합니다. 앱의 API/연결 설정(API/connection settings)을 열고 기본 엔드포인트 (default endpoint)를 9Router URL로 교체하세요. 다음 도구들에서 테스트를 마쳤으며 정상 작동합니다:

• Codex (ChatGPT Desktop App)
• Antigravity GUI
• OpenCode GUI

이것은 즉시 사용 가능한 OpenAI 호환 엔드포인트 (OpenAI-compatible endpoint)이므로, Cursor, VS Code, Cline과 같은 에디터에도 동일하게 적용할 수 있습니다.

작동 여부 확인 (Verifying it's working)

통합이 활성화되었는지 확인하는 두 가지 방법이 있습니다:

1. 터미널 로그 (Terminal logs) — 도구가 9Router에 쿼리를 보낼 때, 9Router 프로세스가 실시간 요청 로그 (request logs), 상태 코드 (status codes), 라우팅 결정 (routing decisions)을 출력합니다.
2. 대시보드 할당량 추적기 (Dashboard quota tracker) — 로컬 대시보드(http://localhost:20128/dashboard)를 열고 토큰 사용량 (token usage) 및 요청 통계 (request stats)가 실시간으로 업데이트되는 것을 확인하세요.

여러 계정 풀링 (Pooling Multiple Accounts)

제공자(provider)당 하나의 키만 사용할 필요는 없습니다. 만약 두 개의 ChatGPT Codex 계정을 가지고 있다면, 둘 다 추가하세요. 9Router가 이들 사이에서 라운드 로빈 (round-robin) 방식으로 요청을 분배하거나, 하나가 시간당 제한 (hourly limit)에 도달하면 자동으로 전환합니다. 결과적으로 해당 제공자에 대한 일일 처리량 (daily throughput)을 두 배로 늘릴 수 있습니다.

대시보드 내부 (Inside the Dashboard)

로컬 대시보드(localhost:20128/dashboard)에서는 다음 기능을 제공합니다:

• 제공자 연결 (Provider connections) — 40개 이상의 제공자에 걸친 키 관리
• 콤보 라우팅 (Combo routing) — 설정 파일을 수정하지 않고 폴백 시퀀스 (fallback sequences) 구축
• 실시간 할당량 추적 (Real-time quota tracking) — 각 계정이 제한에 얼마나 근접했는지 확인
• 통합 사용량 지표 (Combined usage metrics) — 토큰 소비, 요청 및 비용 절감에 대한 실시간 그래프
• RTK / Caveman 토글 (RTK / Caveman toggles) — 클릭 한 번으로 전환

9Router vs Omnirouter

두 가지를 모두 검토 중이라면 알아둘 가치가 있습니다:

• **Omnirouter (OmniRoute)**는 사실 9Router의 포크(fork) 또는 재작성(rewrite) 버전입니다.
• 9Router는 GUI 우선(GUI-first) 방식으로 설계되어 빠르고 심플한 대시보드 경험에 최적화되어 있습니다.
• OmniRoute는 TypeScript로 재작성되었으며, 더 큰 규모의 통합(integration)을 목표로 합니다. 또한 9Router의 프로세스를 내부적으로 래핑(wrap)하여, 더 깊은 시스템 수준의 제어가 필요한 파워 유저(power users)에게 더 적합합니다.

대부분의 개인 개발자에게는 9Router의 단순함이 승리합니다. 이를 기반으로 무언가를 구축하는 팀에게는 OmniRoute가 더 나은 기반이 될 수 있습니다.

마무리하며 (Wrapping Up)

AI 코딩 워크플로우에서 할당량(quota)을 빠르게 소진하거나 불필요한 토큰 비용을 지불하고 있다면, 9Router와 같은 로컬 프록시(local proxy)는 꽤 적은 노력으로 해결할 수 있는 방안입니다. 계정을 풀링(pool)하고, 토큰을 압축하며, 속도 제한(rate limits) 때문에 몰입 상태(flow state)를 놓치는 일을 방지할 수 있습니다.

대시보드 및 라우팅 설정 스크린샷이 포함된 전체 원문 글은 여기에서 확인할 수 있습니다.

본인의 AI 코딩 설정에서 할당량 제한 문제에 부딪힌 적이 있나요? 다른 사람들은 어떻게 해결하고 있는지 궁금합니다. 여러분만의 해결책은 무엇인가요?