AI Gateway에서 가상 모델(Virtual models) 사용 가능

요약

Vercel의 AI Gateway에서 가상 모델(Virtual models) 기능을 사용할 수 있게 되었습니다. 이는 특정 모델과 설정을 저장하는 중앙 집중식 구성으로, 앱이나 에이전트 재배포 없이도 모델 및 설정을 유연하게 변경할 수 있습니다. 개발자는 이를 통해 라우팅 제어, 규정 준수 강제 적용 등 고급 관리가 가능합니다.

핵심 포인트

• 가상 모델은 AI Gateway에서 모델과 설정을 중앙 관리하는 구성입니다.
• 앱 재배포 없이도 모델이나 설정을 변경할 수 있어 배포 유연성이 높습니다.
• `vmc/<slug>` 형식으로 제공자 모델 ID를 변경하여 호출해야 합니다.
• 추론 노력, 프롬프트 캐싱 등 고급 옵션 설정 및 규정 준수 강제가 가능합니다.