본문으로 건너뛰기

© 2026 Molayo

llama.cpp헤드라인2026. 06. 06. 06:15

opencl: get_rows, cpy, concat 및 q6_k flat gemv 개선 ([#24160](https://github.com/g

요약

llama.cpp의 OpenCL 커널 성능 개선 사항을 담은 업데이트입니다. get_rows, cpy, concat 및 q6_k flat gemv 연산의 최적화를 통해 연산 효율을 높였으며, 다양한 OS 및 하드웨어 환경을 위한 바이너리를 제공합니다.

핵심 포인트

  • OpenCL 대규모 행 처리를 위한 다중 워크그룹 허용
  • 소규모 cpy 및 packed concat 연산 성능 개선
  • q6_K flat gemv 미세 조정 및 스레드 재매핑 적용
  • macOS, Linux, Android, Windows 등 광범위한 플랫폼 지원

opencl: get_rows, cpy, concat 및 q6_k flat gemv 개선 (#24160)

  • opencl: 대규모 행(rows)을 위한 다중 워크그룹 (workgroups) 허용

  • opencl: 소규모 cpy 개선

  • opencl: 소규모 입력을 위한 packed concat

  • opencl: flat q6_K gemv 미세 조정, N_DST 증가 및 스레드 (threads) 재매핑

macOS/iOS:

Linux:

Android:

Windows:

Windows:

openEuler:

  • DISABLED
  • openEuler x86 (310p)
  • openEuler x86 (910b, ACL Graph)
  • openEuler aarch64 (310p)
  • openEuler aarch64 (910b, ACL Graph)

UI:

AI 자동 생성 콘텐츠

본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0