TypeSafe AI의 Jev 1.14가 AI Gateway에서 사용 가능

TypeSafe AI의 Jev 1.14가 AI Gateway에서 사용 가능합니다.

Jev는 소프트웨어를 위한 기능입니다. 상태(state)와 일련의 질문을 전달하면, 자유 형식 텍스트 대신 확률과 함께 유형화된 선택지(Choice), 점수(Score), 그리고 부울(Boolean) 답변을 반환합니다. 분류(classification), 라우팅(routing), 채점(scoring), 자동 검증(automated verification)을 위해 모든 질문에 대해 하나의 요청에서 병렬로 답변합니다.decision model

Jev 1.14는 상태의 일부로 이미지를 허용하며, 표준 요청으로는 너무 긴 문서, 로그 또는 대화 기록을 위한 실험적인 장문 컨텍스트 모드(long-context mode)를 갖추고 있습니다.

모델 이름으로 다음을 사용하세요: typesafe-ai/jev-1.14.0

다음 예시에서는 이미지를 파일 부분으로 텍스트와 함께 전달합니다. 이 예시는 로컬 PNG 파일을 읽어 그 색상에 대한 부울 질문을 합니다:state

다음과 같이 장문 컨텍스트 모드를 활성화하세요. 이 예시는 지원 로그를 읽고 손상된 배송 보고 여부를 확인합니다:providerOptions.typesafe.longContext: true

Jev는 Zero Data Retention, No Training, logs, custom reporting, budgets를 지원하며, 이는 요청별로 활성화할 수 있습니다. 결정 호출(Decision calls)은 또한 logs에 나타나고, Zero Data Retention, No Training에 포함되며, 동일한 객체에서 기타 Gateway 제공자 옵션을 수락합니다.[providerOptions.gateway]`

더 자세한 내용은 AI Gateway의 [decision models] 문서를 읽고, Jev의 practical use cases를 발견하고, knowledge base에서 리소스를 찾아보세요.

더 읽어보기(https://vercel.com/changelog/typesafe-ais-jev-1-14-is-now-available-on-ai-gateway)

이미지 입력 (Image input)

긴 컨텍스트 (Long context)