이 오픈 소스 프록시가 코드를 한 줄도 변경하지 않고 AI 에이전트 비용을 절감합니다.

요약

새로운 오픈 소스 프록시는 코드를 수정할 필요 없이 AI 에이전트의 비용을 절감하는 방법을 제시합니다. 이 프록시는 요청을 작업에 가장 적합한 모델로 자동 라우팅하고, 가드레일 적용 및 캐시 유지를 통해 비용과 품질을 최적화합니다.

핵심 포인트

• 코드 수정 없이 AI 에이전트 비용 절감 가능
• 요청을 작업별 최적 모델로 자동 라우팅
• 가드레일 적용, 프롬프트 캐시 유지 기능 제공
• YAML 설정 파일만으로 다양한 LLM 지원 (OpenAI, Anthropic 등)