AI Gateway가 TypeSafe 클라이언트 및 Jev용 HTTP API 지원
요약
AI Gateway가 이제 AI SDK 외에도 기존의 TypeSafe 클라이언트 및 HTTP API를 통해 Jev(확률적 의사 결정 모델) 기능을 지원합니다. 이를 통해 개발자들은 익숙한 방식으로 간편하게 평가 호출을 수행할 수 있습니다. Jev는 생성 텍스트 파싱 없이 확률 기반 타입 지정 답변을 제공하며, AI Gateway의 모든 경로에서 사용량 및 관측 가능성이 관리됩니다.
핵심 포인트
- AI SDK 외 TypeSafe 클라이언트와 HTTP API로 Jev 접근 가능
- Jev는 확률적 의사결정 모델로, 생성 텍스트 파싱이 필요 없음
- 평가(Evaluation) 기능을 통해 타입 지정 답변을 얻고 자동화된 에이전트 구축에 활용
- eve 프레임워크에서 Jev를 기본값으로 사용하여 자동 모델 선택 및 평가 지원
이제 AI SDK 외에도 기존의 TypeSafe 클라이언트나 HTTP API를 사용하여 AI Gateway를 통해 호출할 수 있습니다.Jev from TypeSafe AI
is는 소프트웨어를 위한 확률적 의사 결정 모델입니다. 상태가 입력되면, 확률이 부여된 타입이 지정된 답변이 출력되므로 파싱해야 할 생성 텍스트가 없습니다. 모든 세 경로에서 AI Gateway를 통해 요청에 대해 청구되며, 따라서 사용량 및 관측 가능성(observability)에서 다른 모델 호출과 함께 표시됩니다.Jev
기본 URL과 API 키만 변경하세요. 여러분의 호출, 질문, 응답 형태는 정확히 그대로 유지됩니다.systemOne``noul
새로운 통합은 모델을 지정하고 세 가지 유형의 질문 중 하나를 요청합니다: 0에서 1 사이의 확률 반환, 사용자가 지정한 집합에서 하나의 옵션 선택, 정의된 척도에 따른 평점 부여. 이 예시는 에이전트가 버그 수정 및 테스트 통과 후 계속 작업해야 하는지 여부를 묻습니다.typesafe-ai/jev``boolean``choice``score
HTTP API를 사용하려면 :POST``/v1/evaluate
AI SDK를 사용하려면 :evaluate와 동일한 평가를 실행합니다.
또한, 격리된 컴퓨팅(sandboxed compute), 인간 승인(human approvals), 그리고 평가가 이미 내장된 에이전트 구축 및 배포 프레임워크인 eve를 통해 Jev를 사용할 수 있습니다. eve는 자동 모델 선택, 타입 지정 평가, 자동화된 도구 승인을 위해 Jev를 기본값으로 사용합니다.eve평가 모델
클라이언트를 마이그레이션하려면 여기를, HTTP API는 여기를, 또는 TypeSafe 호환 API 가이드를 참조하세요.평가 가이드AI SDK
기존 TypeSafe 클라이언트를 변경 없이 AI Gateway에 연결하여 평가 호출을 수행할 수 있습니다. TypeSafe 클라이언트:
-
어떤 언어나 프레임워크에서든 Jev를 직접 호출합니다. HTTP API:
-
AI SDK를 사용하여 TypeScript 애플리케이션에서 Jev를 호출합니다. AI SDK:
기존 TypeSafe 클라이언트를 마이그레이션하기
새로운 통합 시작하기
AI 자동 생성 콘텐츠
본 콘텐츠는 Vercel AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기