Ollama v0.35.0 릴리스 노트: 의사 결정 모델 지원 추가
요약
Ollama v0.35.0 릴리스를 통해 의사 결정 모델(Decision models) 지원 기능이 추가되었습니다. 이 기능을 사용하면 텍스트 응답 대신 선택지, 확률, 점수 등의 구조화된 데이터를 얻을 수 있어 티켓 분류나 콘텐츠 라우팅 같은 작업에 활용 가능합니다.
핵심 포인트
- Ollama가 Jev API 기반의 의사 결정 모델 지원을 시작했습니다.
- 응답이 선택지(choice), 확률(probabilities), 점수(scores) 등 구조화됩니다.
- 티켓 분류, 모델 라우팅 등 정교한 작업에 활용할 수 있습니다.
의사 결정 모델 (Decision models)
Ollama가 TypeSafe의 Jev API를 기반으로 /v1/systemone을 통해 의사 결정 모델(decision models)을 지원합니다.
의사 결정 모델은 텍스트 대신 선택지(choices), 확률(probabilities), 점수(scores)를 반환합니다. 이를 티켓 분류(ticket triage), 모델 라우팅(model routing), 콘텐츠 분류(content classification)와 같은 작업에 활용할 수 있습니다.
사용 가능한 모델:
ollama pull nimble
컨텍스트와 하나 이상의 질문을 전송하는 예시:
curl http://localhost:11434/v1/systemone \
-H 'Content-Type: application/json' \
-d '{
"model": "nimble",
"state": "Our checkout has returned 500 errors since 9am.",
"questions": {
"label": {
"type": "choice",
"instructions": "Which label fits this ticket?",
"criteria": {
"billing": "Payments and refunds",
"bug": "Software errors",
"account": "Login and account access"
}
}
}
}'
예시 응답:
{
"model": "nimble",
"answers": {
"label": {
"type": "choice",
"choice": "bug",
"probabilities": {
"billing": 0.0125,
"bug": 0.9781,
"account": 0.0093
},
"confidence": 0.8906
}
},
"usage": {
"input_tokens": 174,
"output_tokens": 1
}
}
이 API는 세 가지 질문 유형을 지원합니다:
choice: 옵션을 선택하고 각 옵션에 대한 확률을 반환합니다.noul: 특정 조건이 참일 확률을 반환합니다.score: 순서가 지정된 기준(criteria) 전반에 걸쳐 점수를 반환합니다.
변경 사항 (What's Changed)
- 설정(Settings)이 모델 검색 대기 없이 열리도록 수정되었습니다.
- macOS 업데이트 메뉴와 아이콘이 시작 시 사용 가능한 업데이트를 반영하지 않던 문제를 수정했습니다.
- 멈춘 MLX 모델 다운로드가 무한정 지연되던 문제를 수정했습니다.
- 더 이상 사용되지 않는(deprecated)
typical_p매개변수를 포함하는 요청은 실패하는 대신 경고(warning)를 기록하도록 변경되었습니다.
전체 변경 로그: v0.34.4...v0.35.0
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: GitHub ollama/ollama releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0