Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 메모는 텍스트 분류나 스코어링 등 '판단' 작업에 특화된 여러 결정계 LLM을 하나의 API로 비교하고 구현하는 방법을 안내합니다. 이 Decisions API를 사용하면 모델별 출력 형식의 차이 없이 구조화된 JSON 형태로 결과를 얻을 수 있어 개발 편의성이 높습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기텍스트 분류, 스코어링, 문의 라우팅과 같은 '판단'을 LLM에 맡기고 싶을 때, 모델마다 출력 형식이 다르면 구현이나 비교가 번거롭습니다. 최근 여러 결정계 모델을 동일한 인터페이스로 호출할 수 있는 Decisions API를 알게 되어 사용 방법을 메모해 둡니다.
새 계정에는 100 크레딧이 부여되며, $1 = 10,000 크레딧입니다. 출력 토큰은 과금 대상이 아닙니다.
최소한의 예시는 다음과 같습니다 (cURL):
curl -X POST https://decisions-api.dev/v1/systemone \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
...
반환되는 값은 구조화된 JSON이며, 선택 결과와 확률 및 신뢰도가 포함됩니다. 매번 프롬프트를 고안할 필요 없이 질문 템플릿에 텍스트를 흘려 넣기만 하면 형식이 갖춰지는 것이 편리한 점입니다.
코드를 작성하기 전에 각 모델의 동작을 플레이그라운드에서 확인할 수 있습니다. 예를 들어 Solar Decide model을 열면 Upstage의 Solar Decide를 선택한 상태로 샘플 질문을 시도할 수 있습니다. 지원 대응 라우팅, 인용 검증, 콘텐츠 모더레이션, 리드 스코어링, LLM 가드레일 등을 위한 샘플이 처음부터 준비되어 있어, 자신의 유스케이스와 가까운 것을 골라 비교하면 빠릅니다.
'생성'보다는 '판단'에 특화된 모델을 여러 개 보유하고 있으면 용도별로 사용하기 쉬울 것 같습니다. 요금은 크레딧제이며 한 번의 성공적인 요청이 최소 1 크레딧이므로, 우선 무료 크레딧으로 자신의 작업을 테스트해보는 것을 추천합니다.