한 개의 API 키로 600 개 이상의 AI 모델을 전환하는 방법 [Hermes Agent + API 게이트웨이]

AI 모델을 일상적으로 사용하는 개발자는 많을 것입니다.

• 코딩에는 Claude - 번역에는 GPT - 추론에는 DeepSeek - 빠른 질문에는 Gemini

각기 특화 분야가 있으므로, 모두 사용하고 싶습니다. 하지만 현실은:

• Anthropic 계정 생성 → API 키 획득
• OpenAI 계정 생성 → API 키 획득
• Google 계정 생성 → API 키 획득
• DeepSeek, Mistral……同上

키 관리만으로도 지치겠습니다.

최근 이 문제를 깔끔하게 해결할 수 있는 구성을 발견했으므로 공유합니다. 오픈소스 AI Agent + API 게이트웨이를 사용하여 한 개의 키로 모든 모델에 접근할 수 있게 되었습니다.

Hermes Agent 는 Nous Research 가 개발한 오픈소스 AI Agent 입니다. 터미널에서 작동하지만 완성도가 높고 실용적입니다.

터미널 경험이 좋습니다. 멀티라인 편집, 자동완성, 스트리밍 출력을 지원합니다. 조작감이 매끄럽습니다.

멀티플랫폼 지원. CLI 외에도 Telegram, Discord, Slack, WhatsApp 와 연동 가능합니다. VPS 에서 gateway 프로세스를 시작하면, 스마트폰에서 Telegram 을 통해 조작할 수 있습니다.

학습 기능 보유. 반복적인 동작을 "스킬" 로 자동으로 축적하고, 다음부터 재사용합니다.

경량형. GPU 는 불필요함. 월 $5 의 VPS 만으로 충분합니다.

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

Linux, macOS, WSL2, Android Termux 를 지원합니다.

Hermes Agent 는 여러 모델 제공자를 지원하지만, 설정 방식은 "1 제공자 = 1 API 키"입니다.

개인이라면 4~5 개의 키를 관리하는 것은 아직 견딜 수 있습니다. 하지만 팀을 사용할 경우, 모든 구성원이 각 제공자의 키를 설정해야 하며, 비용의 통합 관리도 불가능합니다.

Hermes Agent 는 훌륭한 설계를 가지고 있습니다——OpenAI API 호환 임의의 엔드포인트에 연결할 수 있다는 것입니다.

즉, API 게이트웨이를 한 개 끼우면, Base URL 과 API 키를 한 세트만 관리하면 됩니다.

Hermes Agent
↓ 1 개의 키
[API 게이트웨이]
...

여기서는 Crazyrouter 를 사용합니다. OpenAI 호환 API 게이트웨이로, 627 개 이상의 모델을 통합하며, 과금제로 월 비용은 발생하지 않습니다.

GitHub 에 설정 스크립트가 준비되어 있습니다:

git clone https://github.com/xujfcn/crazyrouter-hermes.git
cd crazyrouter-hermes
./setup.sh

Windows 의 경우 \\.\setup.ps1 또는 setup.bat 을 사용합니다.

스크립트가 자동으로 실행하는 내용:

• 환경 감지
• Base URL 설정
• API 키 입력
• 기본 모델 선택
• 연결 테스트

hermes config set providers.crazyrouter.base_url https://crazyrouter.com/v1
hermes config set providers.crazyrouter.api_key 당신의 키
hermes model # 모델을 선택

API 키는 crazyrouter.com 에 등록한 후 생성할 수 있습니다. 신규 사용자에게 무료 크레딧이 부여됩니다.

모델 전환은 1 줄의 명령어로 완료됩니다:

# 코딩에는 Claude
hermes model claude-sonnet-4-20250514
> 이 함수를 콜백에서 async/await 로 리팩토링하여
...

필요한 작업에 따라 최적의 모델을 사용하게 됩니다. 키나 설정을 변경할 필요가 없습니다.

• Base URL 의 끝에
  /v1

을 추가해야 함 (추가하지 않으면 404 가 됩니다) - API 키를 복사할 때 앞뒤에 공백이 들어가지 않도록 주의

• 처음에는
  hermes doctor

실행하여 환경을 확인 - 설정 스크립트는 기존 설정을 덮어쓰지 않습니다 (새로운 제공자만 추가)}