b8891
요약
이번 llama.cpp의 b8891 릴리스는 핵심적인 성능 개선과 호환성 확장에 초점을 맞추었습니다. 특히, WebGPU 백엔드에서 RMS_NORM + MUL 연산에 대한 퓨전(fusion) 기능을 추가하여 유연성을 높였으며, `GGML_WEBGPU_DISABLE_FUSION` 플래그를 통해 커널 퓨전을 비활성화할 수 있게 되었습니다. 또한, macOS/iOS (Apple Silicon 및 Intel), Linux (CPU, Vulkan, ROCm, OpenVINO 지원 강화), Android, Windows (CUDA 12/13,
핵심 포인트
- WebGPU 백엔드에 RMS_NORM + MUL 연산의 퓨전 기능을 추가하여 유연성을 높였으며, `GGML_WEBGPU_DISABLE_FUSION`을 통해 커널 퓨전을 제어할 수 있게 되었습니다.
- 다양한 아키텍처와 OS를 지원하며, 특히 macOS (Apple Silicon/Intel), Linux (Vulkan, ROCm, OpenVINO 등), Windows (CUDA 12/13)에 대한 빌드 버전을 대폭 확장했습니다.
- WebGPU 관련 코드 정리 및 C++20 초기화기 사용 문제 해결 등 전반적인 안정성과 유지보수성이 개선되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기