cuda : CUDA GGML_OP_LIGHTNING_INDEXER 구현 (generic vector kernel + wmma kernel) (#25545)

• cuda : CUDA GGML_OP_LIGHTNING_INDEXER 구현 (generic vector kernel + wmma kernel)

• chore : #pragma unroll의 들여쓰기 제거

• cuda : 불필요한 커널 템플릿 선언 제거

• cuda : 상수 중복을 피하기 위해 lightning indexer 커널에 WARPS_PER_BLOCK 및 K_VECS_PER_BLOCK 템플릿 파라미터 추가

• cuda : lightning indexer 구현에서 MMA 아키텍처 요구 사항을 Turing으로 완화

• chore : 변수 이름 변경

• chore : ggml_cuda_op_lightning_indexer()를 ggml_cuda_lightning_indexer()로 변경

• chore : AMD rocWMMA를 위한 TODO

• chore : 공백 포맷팅

• chore : 섀도잉(shadowing)으로 인한 문제를 해결하기 위해 변수 이름을 다시 변경

• chore : 또 다른 이름 변경, 이번에는 모든 상수를 대문자로 변경

• cuda : lightning indexer 구현에 Q 및 K 텐서에 대한 정렬(alignment) 확인 추가

---

Co-authored-by: Stanisław Szymczyk sszymczy@gmail.com

macOS/iOS:

• macOS Apple Silicon (arm64)
• macOS Apple Silicon (arm64, KleidiAI 활성화) 비활성화됨
• macOS Intel (x64)
• iOS XCFramework

Linux:

Linux:

• Ubuntu x64 (CPU)
• Ubuntu arm64 (CPU)
• Ubuntu s390x (CPU)
• Ubuntu x64 (Vulkan)
• Ubuntu arm64 (Vulkan)
• Ubuntu x64 (ROCm 7.2)
• Ubuntu x64 (OpenVINO)
• Ubuntu x64 (SYCL FP32)
• Ubuntu x64 (SYCL FP16)**

Android:

• Android arm64 (CPU)**

Windows:

Windows:

• Windows x64 (CPU)
• Windows arm64 (CPU)
• Windows arm64 (OpenCL Adreno)
• Windows x64 (CUDA 12) - CUDA 12.4 DLLs
• Windows x64 (CUDA 13) - CUDA 13.3 DLLs
• Windows x64 (Vulkan)
• Windows x64 (OpenVINO)
• Windows x64 (SYCL)
• Windows x64 (HIP)**

openEuler:

• DISABLED
• openEuler x86 (310p)
• openEuler x86 (910b, ACL Graph)
• openEuler aarch64 (310p)
• openEuler aarch64 (910b, ACL Graph)**

UI:

• UI