Brioch/gemini-openai-proxy
요약
이 프로그램은 Google Gemini 2.5 Pro (Flash)를 OpenAI API와 호환되도록 제공하는 CLI Wrapper입니다. 이를 통해 SillyTavern, LangChain 등 기존 OpenAI 기반 클라이언트에서 플러그앤플레이 방식으로 Gemini 모델을 사용할 수 있게 합니다. 주요 기능으로는 Vision 지원, 함수/도구 호출 매핑, 1M-token 컨텍스트 확장 등이 포함되어 개발 편의성을 높였습니다.
핵심 포인트
- OpenAI API와 호환되는 Gemini CLI Wrapper 제공
- LangChain 등 기존 클라이언트에서 플러그앤플레이 사용 가능
- Vision 지원 및 함수/도구 호출 기능 매핑 구현
- 1M-token 컨텍스트 확장으로 메모리 제한 해소
이 프로그램은 Google Gemini 2.5 Pro (또는 Flash)를 OpenAI와 호환되는 API를 통해 제공하는 Gemini CLI Wrapper입니다.
SillyTavern, llama.cpp, LangChain, VS Code의 Cline 확장 기능 등 이미 OpenAI를 사용하는 클라이언트들과 플러그앤플레이(Plug-and-play)가 가능합니다.
| ✔ | 기능 (Feature) | 참고 사항 (Notes) |
|---|---|---|
/v1/chat/completions | 스트리밍 및 비스트리밍 (SSE) 지원 | curl, ST, LangChain 등에서 작동합니다. |
| Vision 지원 | image_url → Gemini inlineData로 변환 | |
| 함수 / 도구 호출 (Function / Tool calling) | OpenAI의 “functions”를 Gemini Tool Registry로 매핑 | |
| 추론 / 사고 과정 (Reasoning / chain-of-thought) | enable_thoughts:true를 전송하고 <think> 청크를 스트리밍합니다. | |
| ST에서 회색 버블 표시 | ||
| 1 M-token 컨텍스트 | 프록시가 Gemini CLI의 기본 200k 제한을 자동으로 확장합니다. | |
| CORS | 기본적으로 활성화됨 (*) | 브라우저 앱 사용 준비 완료 |
git clone https://github.com/Brioch/gemini-openai-proxy
cd gemini-openai-proxy
npm i
...
대안으로, 제공된 Dockerfile을 사용하여 Docker 이미지를 빌드할 수 있습니다.
docker build --tag "gemini-openai-proxy" .
docker run -p 11434:80 -e GEMINI_API_KEY gemini-openai-proxy
PORT=11434
# 'oauth-personal', 'gemini-api-key', 'vertex-ai' 중 하나를 사용할 수 있습니다. Google 계정으로 로그인하여 Gemini 2.5 Pro에 무료로 접근하려면 oauth-personal을 사용하세요.
AUTH_TYPE='gemini-api-key'
...
curl -X POST http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{...}
Chat completion API 기본 URL은 http://127.0.0.1:11434/v1입니다.
MIT 라이선스 – 개인 및 상업적 사용에 무료입니다. https://huggingface.co/engineofperplexity/gemini-openai-proxy 에서 포크되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 GitHub Codex tools의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기