Decisions API가 Public Beta로 출시되었습니다
요약
OpenAI가 Decisions API를 Public Beta로 출시했습니다. 이 API는 모델이 텍스트 생성 대신 '사기 여부'나 '범주 분류'와 같은 판단을 내리도록 하여 구조화된 확률을 반환합니다. 이는 라우팅, 분류, 중재 등 자동화 워크플로우에 유용하며, 입력 비용만 지불하는 것이 특징입니다.
핵심 포인트
- 텍스트 생성 대신 구조화된 판단(확률)을 제공한다.
- 라우팅, 분류, 중재 등 자동화 워크플로우에 활용 가능하다.
- 입력 토큰에 대해서만 비용이 부과되어 효율적이다.
- TypeSafe의 Jev와 유사하지만 기반 모델 및 성능은 다를 수 있다.
OpenAI의 Decisions API는 모델이 텍스트를 작성하는 대신 판단을 내리기를 원하는 경우에 사용되는 새로운 엔드포인트입니다. 이 API에는 '이것이 사기인가?', '어떤 범주에 속하는가?', 또는 '얼마나 심각한가?'와 같은 질문과 함께 일부 입력을 제공하면, 단락 대신 구조화된 확률을 반환합니다. 이는 라우팅(routing), 분류(classification), 중재(moderation), 자동화 워크플로우 등 다양한 작업에 유용합니다. 또한 일반 텍스트 생성과는 다른 가격 책정이 적용됩니다. 입력에 대해서만 비용을 지불하며, 출력 토큰 요금은 없습니다. 이는 TypeSafe의 Jev와 제품 수준에서 매우 유사합니다. 둘 다 자유 형식의 텍스트를 생성하기보다는 비정형 데이터로부터 구조화된 결정을 내리는 데 중점을 두고 설계되었습니다. 주요 차이점은 Jev가 이러한 종류의 의사 결정에 특별히 구축된 모델로 제시되며, 매우 빠른 병렬 추론(parallel inference)과 잘 보정된 확률을 주장한다는 것입니다. 반면 OpenAI는 decision-making 기능을 GPT-6 Luna를 기반으로 하는 특수 API로 노출합니다. 따라서 두 API가 비슷하게 느껴지더라도, 내부적으로 동일하게 작동하는지 또는 OpenAI의 확률이 Jev가 주장하는 만큼 잘 보정되었는지 여부는 알 수 없습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기