b11933 버전: vulkan, MUL_MAT에서 dim 3 브로드캐스트 허용을 통한 CI llvmpipe 수정 (#31239)
요약
본 기사는 Vulkan의 행렬 곱셈(MUL_MAT) 연산에서 차원 3 브로드캐스트를 허용하는 기술적 수정 사항을 다룹니다. 이는 CI llvmpipe를 통해 연산 지원 범위를 개선하여, 특히 비통합 KV 캐시가 사용되는 MLA 출력 투영과 같은 복잡한 시나리오의 커버리지를 강화합니다.
핵심 포인트
- Vulkan MUL_MAT에서 dim 3 브로드캐스트 기능을 허용했습니다.
- CI llvmpipe를 통해 연산 지원 범위를 확장하고 안정성을 높였습니다.
- 비통합 KV 캐시 환경의 MLA 출력 처리가 강화되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기