b9045

요약

llama.cpp v0.0.52는 IBM Granite 모델군에 대한 지원을 대폭 확장하여, 특히 음성 인식(Speech) 기능을 갖춘 Granite-4.0-1B-Speech 모델의 GGUF 변환기 지원을 추가했습니다. 이 릴리스는 GraniteSpeechTextModel을 기존 GraniteModel로 통합하고, Conformer 인코더와 QFormer 프로젝터 등 복잡한 오디오 처리 아키텍처를 효율적으로 구현하는 구조 개선 사항들을 포함합니다. 다양한 플랫폼(macOS, Linux, Windows, Android 등)에 걸쳐 최적화된 지원을 제공하며, 여러 하드웨어 가속기 및 백엔드를 포괄하여 범용성과 성능을 크게 향상시켰습니다.

핵심 포인트

• IBM Granite-4.0-1B-Speech 모델의 GGUF 변환기 지원 추가
• GraniteSpeechTextModel을 기존 GraniteModel로 통합하고 구조를 개선함
• Conformer 인코더, QFormer 프로젝터 등 복잡한 오디오 처리 아키텍처 구현 및 최적화
• 다양한 플랫폼(Apple Silicon, Linux, Windows, Android)과 백엔드(Vulkan, ROCm, OpenVINO 등) 지원 강화
• GGUF 변환 과정에서 배치 정규화 폴딩, K/V 분리 등의 기술적 개선을 적용함