요약

본 문서는 CUDA Q8_1 양자화(quantization) 합계에 대한 잠재적 수정 사항을 다루며, ggml/src/ggml-cuda/quantize.cu 업데이트를 포함합니다. macOS, Linux, Windows, Android 등 다양한 운영체제와 아키텍처에서 CUDA 12/13, ROCm, OpenVINO, Vulkan 등을 활용한 광범위한 플랫폼 지원 목록을 제공합니다.

핵심 포인트

• CUDA Q8_1 양자화 합계에 대한 잠재적 수정 사항이 검토되었습니다.
• macOS (Apple Silicon/Intel), Linux, Windows 등 다중 OS를 지원합니다.
• CUDA 12 및 CUDA 13을 포함하여 다양한 백엔드(ROCm, OpenVINO, Vulkan)가 지원됩니다.