opencl: get_rows, cpy, concat 및 q6_k flat gemv 개선 ([#24160](https://github.com/g
요약
llama.cpp의 OpenCL 커널 성능 개선 사항을 담은 업데이트입니다. get_rows, cpy, concat 및 q6_k flat gemv 연산의 최적화를 통해 연산 효율을 높였으며, 다양한 OS 및 하드웨어 환경을 위한 바이너리를 제공합니다.
핵심 포인트
- OpenCL 대규모 행 처리를 위한 다중 워크그룹 허용
- 소규모 cpy 및 packed concat 연산 성능 개선
- q6_K flat gemv 미세 조정 및 스레드 재매핑 적용
- macOS, Linux, Android, Windows 등 광범위한 플랫폼 지원
opencl: get_rows, cpy, concat 및 q6_k flat gemv 개선 (#24160)
-
opencl: 대규모 행(rows)을 위한 다중 워크그룹 (workgroups) 허용
-
opencl: 소규모 cpy 개선
-
opencl: 소규모 입력을 위한 packed concat
-
opencl: flat q6_K gemv 미세 조정, N_DST 증가 및 스레드 (threads) 재매핑
macOS/iOS:
- macOS Apple Silicon (arm64)
- macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨
- macOS Intel (x64)
- iOS XCFramework
Linux:
- Ubuntu x64 (CPU)
- Ubuntu arm64 (CPU)
- Ubuntu s390x (CPU)
- Ubuntu x64 (Vulkan)
- Ubuntu arm64 (Vulkan)
- Ubuntu x64 (ROCm 7.2)
- Ubuntu x64 (OpenVINO)
- Ubuntu x64 (SYCL FP32) 비활성화됨
Android:
Windows:
Windows:
- Windows x64 (CPU)
- Windows arm64 (CPU)
- Windows x64 (CUDA 12) - CUDA 12.4 DLLs
- Windows x64 (CUDA 13) - CUDA 13.3 DLLs
- Windows x64 (Vulkan)
- Windows x64 (SYCL) DISABLED
- Windows x64 (HIP)
openEuler:
- DISABLED
- openEuler x86 (310p)
- openEuler x86 (910b, ACL Graph)
- openEuler aarch64 (310p)
- openEuler aarch64 (910b, ACL Graph)
UI:
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기