OpenAI Decisions API가 AI Gateway에서 사용 가능해졌습니다

AI Gateway를 통해 OpenAI와 호환되는 엔드포인트로 이제 이용할 수 있습니다. 이를 AI Gateway의 다른 의사결정 모델 또는 일반적인 모델과 함께 사용할 수 있습니다.OpenAI's Decisions APIAI GatewayGPT-6 Luna Decisions/v1/decisions

의사결정 모델(Decision models)은 공유된 입력에 대한 유형화된 질문에 답변하고, 생성된 텍스트 대신 확률(probabilities), 선택지(choices), 점수(scores)를 반환합니다. 이는 라우팅(routing), 트리아지(triage), 가드레일(guardrails), 루브릭 스코어링(rubric scoring) 등에 적합합니다. 하나의 요청으로 동일한 입력에 대해 술어(predicate, 예/아니오), 선택지, 점수 질문을 할 수 있습니다.

openai/gpt-6-luna-decisions는 텍스트 생성을 위한 언어 모델인 openai/gpt-6-luna와 별도의 모델 ID입니다. decisions ID로의 요청은 Decisions API로 전송되며 해당 요율(rates)로 청구됩니다.

openai/gpt-6-luna-decisions를 다음 중 하나를 사용하여 호출할 수 있습니다: OpenAI SDK, AI SDK, HTTP API, 또는 AI CLI/v1/evaluate

JavaScript의 경우 OpenAI SDK 7.30.0 이상, Python의 경우 3.26.0 이상이 필요합니다. AI SDK에서는 7.0.128 이상이 필요합니다. decisions.create``experimental_decide``ai

OpenAI SDK를 AI Gateway에 연결하고 OpenAI에 요청하는 방식대로 호출하십시오. AI SDK에서 질문은 이름으로 키 지정되며, 예/아니오 유형은 boolean이라고 불립니다. 각 키는 다음의 키가 됩니다: decisions.create``boolean``questions``answers

답변은 질문 순서대로 배열 형태로 반환되며, 각각 해당 질문의 name과 model을 포함합니다. Jev, Liquid d1, 그리고 Laya를 포함하여 모든 의사결정 모델에 설정할 수 있습니다.

요청 제한 및 오류 형식은 [여기를] 참고하고, AI SDK를 위한 내용은 [여기]에서 확인하거나 AI Gateway에서 찾아보세요.OpenAI와 호환되는 Decisions API 레퍼런스decision 문서모든 decision 모델

더 읽기

업그레이드 (Upgrading)

OpenAI SDK 및 AI SDK