Thinking Machines의 Inkling 모델을 이제 AI Gateway에서 사용할 수 있습니다
요약
Thinking Machines의 범용 모델인 Inkling이 Vercel AI Gateway에 추가되었습니다. Inkling은 추론, 코딩, 비전 등 다양한 작업에 최적화된 모델로, AI Gateway를 통해 효율적인 모델 호출 및 비용 관리가 가능합니다.
핵심 포인트
- Inkling 모델은 추론, 코딩, 비전 등 광범위한 작업을 지원하는 범용 모델임
- 제어 가능한 사고 노력(controllable thinking effort) 기능을 지원함
- AI Gateway를 통해 모델 호출, 사용량 추적, 장애 조치 등의 통합 API 활용 가능
- BYOK(Bring Your Own Key)를 지원하며 추가 수수료 없이 제공업체 가격 적용
AI Gateway에서 사용할 수 있습니다.Thinking Machines의 Inkling
Inkling은 단일 도메인에 최적화되기보다 에이전트 (agentic), 추론 (reasoning), 코딩 (coding), 지시 이행 (instruction-following), 사실성 (factuality), 비전 (vision), 오디오 (audio) 작업 전반에 걸쳐 학습된 광범위한 범용 모델 (generalist model)입니다. 또한 이 모델은 제어 가능한 사고 노력 (controllable thinking effort)을 지원합니다.
Inkling을 사용하려면 :model을 thinkingmachines/inkling으로 설정하세요.AI SDK
AI Gateway는 모델 호출, 사용량 및 비용 추적, 그리고 제공업체(provider) 이상의 가동 시간을 위한 재시도 (retries), 장애 조치 (failover), 성능 최적화 설정을 위한 통합 API를 제공합니다. 여기에는 사용자 정의 보고 (custom reporting), 데이터 제로 보관 (Zero Data Retention) 지원, API 키 예산 (budgets for API keys), 라우팅 규칙 (routing rules) 등이 내장되어 있습니다.
AI Gateway는 추가 마진 없이 제공업체의 가격을 반영하며, (BYOK) 요청을 포함한 추론 (inference)에 대해 플랫폼 수수료를 부과하지 않습니다.Bring Your Own Key (BYOK)
모델 플레이그라운드 (model playground)에서 Inkling을 체험해 보세요.
AI 자동 생성 콘텐츠
본 콘텐츠는 Vercel AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기