DeepSeek 모델을 이제 AI Gateway의 Azure를 통해 사용할 수 있습니다
요약
Azure를 통해 DeepSeek V4 Pro 및 V4 Flash 모델을 AI Gateway에서 사용할 수 있게 되었습니다. 기존 코드 변경 없이 장애 조치(failover) 경로를 확보할 수 있으며, 사용자는 BYOK 방식을 통해 기존 Azure 자격 증명을 그대로 활용할 수 있습니다.
핵심 포인트
- DeepSeek V4 모델을 Azure 프로바이더를 통해 AI Gateway에서 지원
- 코드 변경 없이 기존 프로바이더와 함께 라우팅 및 폴백 설정 가능
- BYOK(Bring Your Own Key)를 통해 기존 Azure 자격 증명 활용 가능
- 모델 호출 추적, 비용 관리, 가동 시간 최적화 기능 제공
Azure가 이제 AI Gateway에서 DeepSeek V4 Pro 및 V4 Flash를 제공하는 프로바이더 (provider)가 되었습니다.
두 모델에 대한 요청은 기존 프로바이더들과 함께 Azure를 통해 라우팅(route)될 수 있어 또 다른 장애 조치 (failover) 경로를 제공합니다. 코드 변경은 필요하지 않습니다. 기본 라우팅 (default routing) 시 Azure를 자동으로 고려하며, 프로바이더가 실패할 경우 게이트웨이는 나머지 목록을 통해 폴백 (fallback)합니다.
요청이 Azure를 먼저 시도하도록 하려면, 게이트웨이 프로바이더 옵션에서 order를 사용하여 deepseek/deepseek-v4-pro 및 deepseek/deepseek-v4-flash를 Azure로 우선 설정하되, 다른 프로바이더를 폴백 (fallback)으로 유지할 수 있습니다. AI SDK
기존 Azure 자격 증명 (credentials)이 있는 경우, 본인의 키를 가져올 수 있으며 AI Gateway는 Azure로 라우팅되는 요청에 해당 키를 사용합니다. 설정 방법은 API 키 인증 및 BYOK (Bring Your Own Key)를 참조하세요.
AI Gateway는 모델 호출, 사용량 및 비용 추적, 그리고 프로바이더보다 높은 가동 시간 (uptime)을 위한 재시도 (retries), 장애 조치 (failover), 성능 최적화 설정을 위한 통합 API를 제공합니다. 여기에는 맞춤형 보고 (custom reporting), 데이터 보존 제로 (Zero Data Retention) 지원, API 키 예산 (budgets for API keys), Bring Your Own Key (BYOK) 등이 내장되어 있습니다. AI Gateway는 추가 마진 없이 프로바이더의 가격을 반영하며, (BYOK) 요청을 포함한 추론 (inference)에 대해 플랫폼 수수료를 부과하지 않습니다.
AI Gateway에 대해 더 자세히 알아보고, AI Gateway 모델 리더보드 (model leaderboard)를 확인하거나 모델 플레이그라운드 (model playground)에서 직접 체험해 보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Vercel AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기