Ollama의 이번 버전은 GGML 위에 구축하는 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하며, GGUF 파일 형식과의 호환성을
요약
Ollama가 GGML 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하고 GGUF 파일 호환성을 확보했습니다. Apple Silicon 환경에서 MLX를 통해 추론 성능을 가속화하며, 현재 프리릴리스 단계에서 피드백을 수집 중입니다.
핵심 포인트
- llama.cpp 직접 지원 및 GGUF 호환성 강화
- Apple Silicon 가속을 위한 MLX 도입
- 프리릴리스 버전(0.30.0-rc23) 배포
- 성능, 오류, 메모리 사용량에 대한 피드백 요청
AI 자동 생성 콘텐츠
본 콘텐츠는 Ollama Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기2