Baseten의 Mammoth-1과 Elephant-1이 AI Gateway에서 무료로 이용 가능해짐

요약

Baseten의 의사 결정 모델인 Mammoth-1과 Elephant-1이 AI Gateway에서 일주일간 무료로 이용 가능합니다. 이 모델들은 텍스트 분류, 요청 라우팅, 콘텐츠 점수 매기기 등 다양한 의사결정 작업에 활용됩니다. 두 모델 모두 16k 토큰 컨텍스트 창을 지원하며, 선택지, 확률, 점수를 반환하는 것이 특징입니다.

핵심 포인트

• Mammoth-1(27B)과 Elephant-1(9B)이 AI Gateway에서 무료로 제공됩니다.
• 두 모델 모두 16k 토큰 컨텍스트 창을 지원합니다.
• Choice, Boolean, Score 등 다양한 질문 유형으로 의사결정이 가능합니다.
• AI Gateway를 통해 사용량 추적 및 통합 API 접근이 용이합니다.