Choice, Score, Noul로 판단을 구조화하는 DecisionsApi 사용법

텍스트를 읽고 그대로 자유문을 생성하는 것뿐만 아니라, 분류나 채점 등의 '판단'을 애플리케이션에서 다루고 싶은 경우가 있습니다. 문의 배분, 우선순위 지정, 다음 액션 선택 등에서는 답변을 일정한 형태로 받을 수 있는 것이 중요합니다.

이 글에서는 의사결정 모델을 온라인 플레이그라운드와 API로 테스트할 수 있는 개발자 플랫폼인 DecisionsApi를 소개합니다.

입력으로는 텍스트, JSON 객체, 텍스트 배열을 사용할 수 있습니다. 그 상태에 대해 다음과 같은 형태의 타입 지정 질문을 정의할 수 있습니다.

• Choice: 여러 선택지 중 하나로 분류하기 -
• Score: 기준에 따라 채점하기 -
• Noul: yes/no로 판별하기

답변은 구조화된 형태로 반환되며, 확률이나 확신도, 사용량, 요청 상세 정보 등도 확인할 수 있습니다. 자유문만 후처리하는 구성과 비교했을 때, 애플리케이션 측에서 다룰 항목을 정하기 쉽다는 것이 특징입니다.

예를 들어, 문의 내용을 분류하여 담당 부서를 선택하거나 에이전트의 다음 단계를 결정할 경우, 먼저 Choice로 대략적인 분류를 수행하고 그 결과에 따라 Score나 Noul을 이어가는 구성을 생각할 수 있습니다.

더 나아가, 증거 확인(evidence check), 안전 게이트(safety gate), 사람 검토(human review) 등을 결합하여 자동 처리 영역과 확인이 필요한 영역을 분리할 수 있습니다. 플레이그라운드와 API에서 공통의 크레딧 잔액을 사용할 수 있으며, API 키 관리 및 사용 이력도 준비되어 있습니다.

DecisionsApi는 모델 출력을 단순한 문장이 아닌, 애플리케이션에서 활용하기 쉬운 판단 결과로 다루고 싶을 때의 선택지입니다. 먼저 플레이그라운드에서 질문의 형태와 출력을 확인하고, 필요한 워크플로우가 보이면 API 연동으로 진행하는 순서로 시도해 볼 수 있습니다.

공식 웹사이트: DecisionsApi