[PR] ik_llama.cpp를 통한 Xing4.0-29B-A4B GGUF 구현 — 전체 네이티브 mHC/MLA 런타임 및 HF 컨버터 추가

요약

China Telecom의 Xing4.0-29B-A4B 모델을 위해 ik_llama.cpp에 PR이 공개되었습니다. 이 PR은 새로운 ggml_op 추가 없이 전체 아키텍처 런타임을 지원하며, DeepSeek 스타일 MLA와 4개 스트림 mHC를 구현했습니다. 또한 HF에서 GGUF로 변환하는 컨버터도 제공하여 복잡한 MoE 모델의 실행 환경을 개선합니다.

핵심 포인트

• 새로운 ggml_op 없이 Xing4.0 아키텍처 전체 런타임 지원.
• DeepSeek-V2 스타일 MLA 어텐션 및 4개 스트림 mHC 구현.
• HF to GGUF 컨버터 추가로 모델 변환 과정 간소화.
• 양자화 시 품질 손실 방지를 위한 보호 메커니즘 적용.