vulkan: Q2_0 지원 ([#25430](https://github.com/ggml-org/llama.cpp/pull/25430)) -
요약
llama.cpp 프로젝트에서 Vulkan 백엔드를 통한 Q2_0 양자화 지원이 추가되었습니다. 행렬-벡터 곱셈 성능 최적화를 위해 워크그룹당 행 수를 조정하였으며, 다양한 OS 및 하드웨어 환경을 위한 바이너리 릴리즈가 포함되었습니다.
핵심 포인트
- Vulkan 백엔드에서 Q2_0 양자화 지원 추가
- 워크그룹당 행 수 조정을 통한 행렬-벡터 곱셈 성능 최적화
- macOS, iOS, Linux 등 다양한 플랫폼용 바이너리 업데이트
- Vulkan, ROCm, OpenVINO 등 다양한 가속 백엔드 지원
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기