b9049

요약

llama.cpp의 v0.2.0-b9049 버전 업데이트는 MiniCPM-V 4.6 모델 지원을 주요 기능으로 추가했습니다. 이 외에도 전반적인 코드 버그 수정, 최적화(예: flash attention 지원), 그리고 다양한 플랫폼 및 아키텍처에 대한 광범위한 빌드 호환성을 확보했습니다. 사용자는 macOS, Linux (CPU/GPU 가속 포함), Android, Windows 등 거의 모든 주요 환경에서 이 업데이트된 llama.cpp를 사용할 수 있습니다.

핵심 포인트

• MiniCPM-V 4.6 모델을 공식적으로 지원하여 멀티모달 기능을 확장했습니다.
• Flash Attention 지원을 위한 최적화가 이루어져 성능 향상을 기대할 수 있습니다.
• 다양한 하드웨어 및 OS 환경(Apple Silicon, Windows CUDA/Vulkan/SYCL, Linux ROCm 등)에 대한 빌드 호환성이 대폭 개선되었습니다.
• 코드 스타일 정리와 여러 버그 수정이 포함되어 전반적인 안정성과 유지보수성이 높아졌습니다.