Ollama v0.40.5 릴리스 노트

NVIDIA Nemotron 3.5 Super

NVIDIA Nemotron 3.5 Super는 코딩, 추론(reasoning), 도구 사용(tool use), 문서 이해를 위한 비전-언어 모델(vision-language model)입니다. 이 모델은 120B 파라미터의 하이브리드 Mamba-2/Transformer 혼합 전문가(mixture-of-experts) 백본(토큰당 12B 활성)과 C-RADIO 비전 인코더를 결합했으며, 도구 호출(tool calling), 온/오프 사고 모드(thinking mode), 최대 1M 토큰의 컨텍스트를 지원합니다.

ollama run nemotron-3.5-super

이 모델의 간결한 버전인 Nemotron 3.5 Bolt는 Super를 74B 파라미터(9B 활성)로 증류하여 일상적인 에이전트 작업에 맞게 조정되었으며, 포함된 drafter를 통해 추측 디코딩(speculative decoding)을 지원합니다.

변경 사항

• 이제 결정 모델(Decision models)을 클라우드에서 사용할 수 있습니다. clef:cloud와 clef-flash:cloud를 사용하여 로컬에 다운로드하지 않고도 ollama.com cloud를 통해 결정 모델을 실행할 수 있습니다.
• 사용자 정의 도구 호출이 포함된 OpenAI 호환 응답(Responses) 대화를 계속하는 경우 더 이상 오류가 발생하지 않습니다.
• 클라우드 액세스 실패 시 오류 메시지가 명확해졌습니다: 로그인 문제, 데스크톱 앱의 결제 문제, ChatGPT 게이트웨이의 상위 접근 오류 등이 무엇이 잘못되었는지 설명합니다.
• llama.cpp (Nemotron 3.5 지원 추가) 및 MLX가 업데이트되었습니다.

새로운 기여자

• @willietran님이 #18986에서 첫 번째 기여를 했습니다.

전체 변경 로그: v0.40.4...v0.40.5