본문으로 건너뛰기

© 2026 Molayo

llama.cpp헤드라인2026. 06. 08. 01:01

kv-cache: 셀 공유 시 소스 캐시 크기를 따름 ([#24267](https://github.com/ggml-org/llama.cpp/pu

요약

llama.cpp의 kv-cache 셀 공유 시 발생하는 크기 불일치 및 어설션 오류를 해결하는 업데이트입니다. 맞춤형 타겟 컨텍스트가 초안 기본값보다 작을 때 K/V 텐서가 넘쳐흐르는 문제를 수정했습니다.

핵심 포인트

  • kv-cache 셀 공유 시 소스 캐시 크기를 따르도록 수정
  • K/V 텐서 오버플로우로 인한 ggml_view_4d 어설션 오류 해결
  • macOS, Linux, Android, Windows 등 다양한 플랫폼용 바이너리 제공

kv-cache: 셀 공유 시 소스 캐시 크기를 따름 (#24267)

맞춤형 타겟 컨텍스트 (fitted target context)가 초안 기본값 (draft default)보다 작아질 수 있으며, 이로 인해 크기가 초과된 어시스턴트 뷰 (assistant views)가 공유된 K/V 텐서 (K/V tensors)를 넘쳐흐르게 되어 그래프 예약 (graph reserve) 중에 ggml_view_4d 크기 어설션 (size assert)을 발생시킵니다.

macOS/iOS:

Linux:

Android:

Windows:

Windows:

openEuler:

  • DISABLED
  • openEuler x86 (310p)
  • openEuler x86 (910b, ACL Graph)
  • openEuler aarch64 (310p)
  • openEuler aarch64 (910b, ACL Graph)

UI:

AI 자동 생성 콘텐츠

본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0