AI Gateway에서 Grok 4.5 사용 가능
요약
Vercel의 AI Gateway에서 SpaceXAI의 Grok 4.5 모델을 사용할 수 있게 되었습니다. 이 모델은 텍스트와 이미지를 지원하며, 추론 수준을 조절하여 속도와 깊이 사이의 균형을 맞출 수 있습니다.
핵심 포인트
- Grok 4.5의 텍스트 및 이미지 입력 지원
- 추론(reasoning) 수준(낮음/중간/높음) 설정 가능
- AI SDK를 통한 간편한 모델 설정 지원
- 라우팅 규칙을 통한 코드 수정 없는 모델 전환 가능
- 사용량, 비용 추적 및 장애 조치 등 통합 API 기능 제공
SpaceXAI의 Grok 4.5를 이제 AI Gateway에서 사용할 수 있습니다.
코딩, 지식 작업 및 STEM을 위해 구축된 이 모델은 텍스트와 이미지 입력을 수용합니다.
Grok 4.5는 낮음, 중간, 높음의 추론 (reasoning) 수준을 지원하며 기본값은 높음으로 설정되어 있습니다. reasoning 설정을 통해 속도와 깊이 사이의 균형을 맞출 수 있습니다.
Grok 4.5를 사용하려면 AI SDK의 :model을 xai/grok-4.5로 설정하세요.
또한 코드를 수정하지 않고도 라우팅 규칙 (routing rules)을 사용하여 다른 게이트웨이 모델에서 Grok 4.5로 전환하도록 설정할 수 있습니다.
AI Gateway는 모델 호출, 사용량 및 비용 추적, 그리고 제공업체보다 높은 가동 시간을 위한 재시도 (retries), 장애 조치 (failover), 성능 최적화를 구성할 수 있는 통합 API를 제공합니다. 여기에는 맞춤형 보고 (custom reporting), 데이터 보존 제로 (Zero Data Retention) 지원, API 키 예산 (budgets for API keys), 라우팅 규칙 (routing rules) 등이 내장되어 있습니다.
AI Gateway는 제공업체의 가격을 마진 없이 반영하며, Bring Your Own Key (BYOK) 요청을 포함하여 추론에 대한 플랫폼 수수료를 부과하지 않습니다.
모델 플레이그라운드 (model playground)에서 Grok 4.5를 체험해 보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Vercel AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기