Voyage Rerank 3 및 Rerank 3 Lite가 AI Gateway에서 사용 가능해졌습니다

MongoDB의 Voyage AI 모델이 이제 AI Gateway에서 사용할 수 있습니다.Rerank 3Rerank 3 Lite

이 모델들은 문서를 언어 모델에 전달하기 전에 관련성 순으로 검색 결과를 재정렬합니다. 이 시리즈는 다양한 도메인에서 검색 품질을 개선하며, 특히 긴 문서와 코드에서 가장 큰 성능 향상을 보입니다.

Rerank 3는 정확도(accuracy)에 중점을 두는 반면, Rerank 3 Lite는 지연 시간(latency)과 비용 효율성에 최적화되었습니다. 둘 다 쿼리-문서 쌍당 최대 32K 토큰을 처리하며, 순위를 지정하기 위해 쿼리에 포함된 지침을 따릅니다.

Rerank 3를 사용하려면 모델을 :voyage/rerank-3로 설정하세요.

Rerank 3 Lite의 경우, 모델을 .voyage/rerank-3-lite로 변경하세요.

AI Gateway model playground에서 Voyage Rerank 3를 사용해 보거나 model catalog을 탐색해 보세요.

AI Gateway는 모델 호출, 사용량 및 비용 추적, 라우팅(routing), 재시도(retries), 페일오버(failover) 구성 등을 위한 단일 API를 제공합니다. [AI Gateway API key](https://vercel.com/docs/ai-gateway/authentication-and-byok/api-keys) 또는 bring your own provider key를 사용할 수 있습니다.

더 읽기