현재 OpenAI의 API를 사용하여 워크로드를 실행하고 있다면, 오픈소스 대안으로 전환함으로써 스택을 재작성할 필요 없이 비용을 절감하고 벤더 종속성을 제거할 수 있습니다. Oxlo.ai는 요청 기반 가격 책정(request-based pricing)이 가능한 완전한 OpenAI 호환 추론 플랫폼을 제공하므로, 프롬프트 길이에 관계없이 API 호출당 단일 고정 요금을 지불합니다. 이는 그렇지 않으면 높은 토큰 비용이 누적될 수 있는 장문 컨텍스트 애플리케이션, 에이전트 루프(agentic loops), 그리고 대용량 채팅 워크로드에 매우 적합합니다.

1단계: Oxlo.ai 계정 및 API 키 생성

Oxlo.ai에서 가입하고 대시보드로 이동하여 API 키를 생성하세요. 이 플랫폼은 16개 이상의 모델에 대해 하루 60개의 요청을 제공하는 무료 플랜(Free plan)과 7일간의 전체 액세스 체험판을 제공하므로, 유료 등급에 전념하기 전에 마이그레이션을 테스트할 수 있습니다.

2단계: 클라이언트 설정 업데이트

Oxlo.ai는 OpenAI SDK의 드롭인 대체품(drop-in replacement)입니다. base_url만 https://api.oxlo.ai/v1로 변경하고 Oxlo.ai API 키를 제공하면 됩니다.

Python 예시:

from openai import OpenAI

client = OpenAI(
...

cURL 예시:

curl https://api.oxlo.ai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $API_KEY" \
...

3단계: OpenAI 모델을 Oxlo.ai 등가물에 매핑하기

Oxlo.ai는 7가지 카테고리에 걸쳐 45개 이상의 모델을 호스팅합니다. 아래는 일반적인 OpenAI 사용 사례에 대한 실용적인 매핑입니다.

• 범용 채팅 (General-purpose chat): GPT-4o 또는 GPT-4를 범용 플래그십 모델인 Llama 3.3 70B로 대체하거나, 다국어 추론 및 에이전트 워크플로우에는 Qwen 3 32B를 사용합니다.
• 심층 추론 및 복잡한 코딩 (Deep reasoning and complex coding): o1 또는 o3을 DeepSeek R1 671B MoE, Kimi K2.6 (고급 추론, 에이전트 코딩, 비전, 131K 컨텍스트), 또는 체인-오브-쏘트(chain-of-thought) 추론을 위한 Kimi K2 Thinking으로 대체합니다.
• 효율적인 장문 컨텍스트 (Efficient long-context): 장문 컨텍스트 GPT-4 Turbo를 DeepSeek V4 Flash (효율적 MoE, 1M 컨텍스트) 또는 GLM 5 (744B MoE, 장기 지평 에이전트 작업)로 대체합니다.
• 비전 입력 (Vision inputs): GPT-4o Vision을 Kimi K2.6 또는 Gemma 3 27B로 대체합니다.
• 코드 생성 (Code generation): 코딩용 GPT-4o를 Qwen 3 Coder 30B, DeepSeek Coder, 또는 Oxlo.ai Coder Fast로 대체합니다.
• 임베딩 (Embeddings): text-embedding-3을 BGE-Large 또는 E5-Large로 대체합니다.
• 이미지 생성 (Image generation): DALL-E를 Oxlo.ai Image Pro, Oxlo.ai Image Ultra, Flux.1, 또는 Stable Diffusion 3.5로 대체합니다.
• 오디오 전사 및 음성 (Audio transcription and speech): Whisper를 Whisper Large v3, Whisper Turbo, 또는 Whisper Medium으로 대체하고, TTS는 Kokoro 82M으로 대체합니다.

<h2 id="step4-feature"