AI Gateway에서 사용할 수 있게 되었습니다. 이는 텍스트와 이미지를 아우르는 분류(classification), 라우팅(routing), 및 점수화(scoring)를 위한 멀티모달 의사결정 모델입니다. 시각적 결함 검사나 고객 사진을 이용한 손상 청구 확인 등이 가능합니다.d1-ultra from Liquid AI
d1-ultra는 텍스트를 생성하기보다는 확률(probabilities)과 함께 구조화된 답변을 반환합니다. Boolean 질문을 통해 예/아니오 답변의 확률을 얻거나, Choice를 사용하여 명명된 카테고리 중 하나를 선택하거나, Score를 사용하여 순서가 있는 척도에 점수를 매길 수 있습니다. 단일 요청으로 동일한 입력에 대해 여러 질문을 할 수 있으며, 이 확률들을 활용하여 어떤 액션을 자동화할지 또는 인간의 검토(human review)가 필요한지 결정할 수 있습니다.
d1-ultra는 정밀하게 보정된 확률(calibrated probabilities)을 강조하며 더 어려운 실제 세계 의사결정을 위해 설계되었습니다. 32,768 토큰 컨텍스트 창(context window)을 지원하며, 이미지 입력을 포함한 입력 토큰에 대해서만 과금되고 출력 토큰 비용은 없습니다.
모델 이름으로 사용하세요. 아래 예시들은 AI SDK, OpenAI-compatible Decisions API, 그리고 TypeSafe-compatible API를 통해 동일한 질문을 합니다: liquid/d1-ultra
질문 유형 및 추가 사용 세부 정보는 decision models documentation을 참조하세요.
d1-ultra를 .model playground에서 사용해 보세요.
AI Gateway는 모델에 접근하고 사용량 및 비용을 추적하기 위한 통합 API를 제공합니다. 의사결정 호출(Decision calls)은 다른 모델 요청과 함께 로그에 나타나고 카운트됩니다.logsbudgets
AI Gateway는 마크업(markup) 없이 제공업체의 가격을 반영하며, 요청에 대한 추론(inference) 비용이나 플랫폼 수수료를 부과하지 않습니다.Bring Your Own Key
AI Gateway에서 사용 가능한 모델들을 살펴보세요.all decision models
더 읽어보기