b11854: Vulkan: ggml src1 정밀도 지원 (#30656)
요약
본 기사는 Vulkan 백엔드에서 ggml의 정밀도(precision) 지원을 강화하는 기술 업데이트 내용을 다룹니다. 특히 스케일링 방식을 통해 fp32 오버플로우를 처리하고, copy-to-fp16 과정에서의 오버플로우 처리를 개선했습니다. 또한 코드 간소화와 테스트 추가를 통해 안정성을 높였습니다.
핵심 포인트
- Vulkan 백엔드에서 정밀도(precision) 지원을 업데이트함.
- 스케일링 기법으로 fp32 오버플로우 처리를 구현했습니다.
- copy-to-fp16 과정의 오버플로우 처리 로직이 개선됨.
- ggml prec get 헬퍼 추가 및 코드 간소화가 진행되었습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0