Weave Router - 프롬프트마다 최적의 모델로 라우팅하는 에이전트용 모델 라우터

요약

Weave Router는 Anthropic, OpenAI, Gemini 등 여러 LLM 제공업체를 단일 엔드포인트로 통합하는 드롭인 프록시입니다. 요청마다 최적의 모델을 자동으로 선택하여 라우팅하며, 이를 통해 비용 절감과 안정적인 관리가 가능합니다. on-box embedder 기반 클러스터 스코어링으로 정확한 라우팅이 특징입니다.

핵심 포인트

• 단일 엔드포인트로 다수 LLM 통합 및 관리
• 요청별 최적 모델 자동 선택 및 라우팅 (50ms 이내)
• 비용 절감 효과 (40-70%)와 안정적인 운영 지원
• Anthropic, OpenAI, Gemini 등 주요 API 네이티브 지원