b12331: Vulkan - Prefill을 위한 Intel FA 커널 구현 (#29357)
요약
본 업데이트는 Vulkan 환경에서 Prefill 기능을 위한 Intel 맞춤형 Fast Attention (FA) 커널을 구현하고 최적화합니다. Xe FA 셰이더에 SIMD32 지원 및 다양한 헤드 차원 처리가 추가되었으며, SLM 사용량 제한(48 KiB)과 버퍼 접근의 견고성을 높이는 등 전반적인 개발 안정성이 강화되었습니다.
핵심 포인트
- Vulkan Prefill을 위한 Intel FA 커널 구현 및 업데이트가 진행됨.
- Xe FA 셰이더에 SIMD32 지원, m16n16k16 등 기능 확장 적용.
- SLM 사용량 제한(48 KiB) 확인 기능을 추가하여 메모리 안정성 확보.
- 정렬되지 않은 Q 헤드 스트라이드 및 비대칭 비율 처리가 가능해짐.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0