- llama-server 후속 조치 [#16031](https://github.com/ollama/ollama/pull/16031)에 대한 기
요약
Ollama의 llama-server 관련 버그 수정 및 기능 개선 사항을 다룹니다. Windows 멀티 GPU 지원을 위한 ROCm 플래그 추가, 임베딩 API 수정, MLX 로딩 로직 개선 등이 포함되었습니다.
핵심 포인트
- Windows 환경의 멀티 GPU 지원을 위한 ROCm 빌드 플래그 복구
- 임베딩 API의 정규화 동작 일관성 확보
- MLX 모델 로딩 로직을 DRY 원칙에 따라 최적화
- VRAM 제한 환경을 위한 배치 크기 감소 및 iGPU 활성화 안내 추가
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: GitHub ollama/ollama releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기