b11806: LoRA 지원 및 prism.hadamard 접힌 가중치(folded weights) 지원 (#30910)
요약
본 업데이트는 LoRA(Low-Rank Adaptation) 지원과 prism.hadamard 접힌 가중치(folded weights) 기능을 추가했습니다. macOS, Linux, Windows 등 광범위한 운영체제와 아키텍처를 포괄하며, CUDA 12/13, Vulkan, ROCm 등 다양한 백엔드 환경에서의 호환성을 대폭 개선하여 개발자들에게 폭넓은 활용성을 제공합니다.
핵심 포인트
- LoRA 지원을 통해 모델 파인튜닝의 효율성이 향상되었습니다.
- 접힌 가중치(folded weights)를 지원하여 메모리 및 연산 최적화가 이루어졌습니다.
- macOS, Linux, Windows 등 주요 OS와 다양한 아키텍처에 대한 호환성을 확보했습니다.
- CUDA 12/13, Vulkan, ROCm 등 다중 백엔드 환경을 지원합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0