The Problem

저는 AI API에 매달 $50 이상 지출하고 있었습니다. OpenRouter, OpenAI, Anthropic 등 여러 서비스를 이용하다 보니 비용이 빠르게 쌓였습니다.

개발자로서 저는 더 나은 해결책이 필요했습니다. 무료로 사용 가능하고, 자체 호스팅(self-hosted)이 가능하며, 특정 공급업체에 종속되지 않는 솔루션이었습니다.

The Solution: MiniRouter

저는 MiniRouter를 구축했습니다. 이는 16개 이상의 무료 클라우드 AI 제공업체를 하나의 OpenAI와 호환되는 API로 통합하는 자체 호스팅 LLM 게이트웨이입니다.

비용: 영원히 $0.

What It Does

MiniRouter는 사용자의 애플리케이션과 AI 제공업체 사이에 위치합니다. 따라서 OpenAI에 직접 호출하는 대신 MiniRouter를 호출하게 됩니다. 그러면 MiniRouter가 요청을 이용 가능한 최고의 무료 제공업체로 라우팅(route)합니다).

Your App → MiniRouter → Gemini (free)
                     → Groq (free)
                     → Mistral (free)
...

Features

• 16+ Free Providers: Gemini, Groq, Mistral, Cerebras, SambaNova, Together, HuggingFace, OpenRouter, Cloudflare, DeepSeek, xAI, Cohere, Moonshot, Zhipu, Baidu, Alibaba
• OpenAI Compatible: 어떤 OpenAI 라이브러리(Python, JavaScript, Go 등)와도 작동합니다.
• User Management: 계정 생성, 일일 제한 설정, 사용량 추적 기능 제공
• Smart Failover: 하나의 제공업체가 다운되면 자동으로 다음 제공업체로 전환됩니다.
• Health Dashboard: 제공업체 상태 확인, 사용량 분석, 비용 절감액 등을 확인할 수 있습니다.
• Docker Support: 단일 명령어로 배포가 가능합니다.

Quick Start

1. Clone and Run

git clone https://github.com/ujjwalchaudhary/mini-router.git
cd mini-router
python -m src

2. Get Free API Keys

• Gemini: https://aistudio.google.com/apikey
• Groq: https://console.groq.com
• Mistral: https://console.mistral.ai

3. Add Keys to config.json

{
  

| 기능 | OpenRouter | MiniRouter |
| :--- | :--- | :--- |
| 월별 비용 | $10+ | **$0** |
| ... | 
## 사용 사례 (Use Cases)

-   **스타트업**: 무료 AI 인프라를 사용하여 운영 자금(runway) 절약
-   **헬스케어**: 자체 호스팅(Self-hosted)을 통해 환자 데이터가 서버를 벗어나지 않음
-   **교육**: 예산 승인 없이 학생들에게 AI 접근성 제공
-   **개인 프로젝트**: 월별 비용 없이 AI 앱 구축

## 아키텍처 (Architecture)

┌─────────────────────────────────────────┐
│ MiniRouter 서버 │
│ (순수 Python, 의존성 없음) │
...

## 다음 계획 (What's Next)

-   더 많은 제공업체 추가
-   향상된 분석 기능(analytics)
-   비기술적 사용자를 위한 웹 UI
-   에이전트별 기능 (도구 캐싱, 메모리)

## 사용해 보기 (Try It)

GitHub: [https://github.com/ujjwalchaudhary/mini-router](https://github.com/ujjwalchaudhary/mini-router)

유용하다고 생각되면 별점을 눌러주세요!

_비싼 AI API에 지친 개발자가 ❤️로 만들었습니다._