- MLX CUDA 런타임 페이로드 중복 제거 GGML 및 MLX 백엔드가 공유하는 CUDA 라이브러리를 형제(sibling) CUDA 페이로드
요약
MLX의 CUDA 런타임 페이로드 중복 문제를 해결하기 위해, GGML 및 MLX 백엔드가 공유하는 CUDA 라이브러리를 '형제(sibling)' CUDA 페이로드로 분리했습니다. 이를 통해 인프로세스 및 서브프로세스 로딩 시 종속성 디렉터리가 효율적으로 해결되도록 개선되었습니다.
핵심 포인트
- CUDA 런타임 페이로드 중복 제거를 목표로 함
- 공유 라이브러리를 '형제' CUDA 페이로드로 분리
- MLX 오버레이와 JIT 헤더는 MLX 전용으로 유지
AI 자동 생성 콘텐츠
본 콘텐츠는 Ollama Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0