이번 Ollama 버전은 GGML 위에 구축하는 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하며, GGUF 파일 형식과의 호환성을

요약

Ollama의 새로운 버전은 GGML 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하여 GGUF 파일 형식과의 호환성을 확보했습니다. 또한 Apple Silicon 환경에서 추론 가속을 위해 MLX를 도입하였으며, 현재 사전 출시(Pre-release) 단계로 성능 및 메모리 사용량에 대한 피드백을 요청하고 있습니다.

핵심 포인트

• llama.cpp 직접 지원을 통한 GGUF 파일 형식 호환성 강화
• Apple Silicon 추론 가속을 위한 MLX 도입
• laguna-xs.2 및 llama3.2-vision 모델은 현재 미지원
• 사전 출시 버전으로서 성능, 오류, 메모리 사용량 피드백 수집 중