Ollama의 이번 버전은 GGML 위에 구축하는 대신 llama.cpp를 직접 지원하도록 아키텍처를 변경하며, GGUF 파일 형식과의 호환성을

요약

Ollama가 llama.cpp를 직접 지원하도록 아키텍처를 변경하여 GGUF 파일 형식과의 호환성을 확보했습니다. 또한 Apple Silicon 환경에서 MLX를 통해 모델 추론 성능을 가속화합니다.

핵심 포인트

• llama.cpp 직접 지원을 통한 GGUF 호환성 강화
• Apple Silicon 추론 가속을 위한 MLX 도입
• 사전 출시 버전으로서 성능 및 메모리 피드백 요청
• Windows 및 Linux 설치 방법 제공