NVIDIA가 NVFP4 양자화된 Kimi-K2.7-Code를 Hugging Face에 공개
요약
NVIDIA가 Blackwell GPU에 최적화된 Kimi-K2.7-Code 모델을 NVFP4로 양자화하여 Hugging Face에 공개했습니다. 이 모델은 1T 매개변수 Moonshot AI 모델의 메모리 효율성을 높이면서도 정확도를 유지하는 것이 특징입니다. 또한, Tencent는 초장문 컨텍스트 처리를 위한 HiLS-Attention 모델을 출시했습니다.
핵심 포인트
- NVIDIA가 Kimi-K2.7-Code를 NVFP4로 양자화하여 공개함.
- Blackwell GPU에 최적화된 1T 매개변수 Moonshot AI 모델임.
- 메모리 사용량 감소와 정확도 유지를 목표로 함.
- Tencent는 초장문 컨텍스트 처리를 위한 HiLS-Attention을 출시함.
NVIDIA가 Hugging Face에 NVFP4 양자화된 Kimi-K2.7-Code를 방금 출시했습니다.
Blackwell GPU용 1T 매개변수 Moonshot AI 모델을 FP4로 양자화하여, 메모리 사용량을 줄이면서도 정확도를 유지합니다.
여기에서 확인하세요:
https://huggingface.co/nvidia/Kimi-K2.7-Code-NVFP4
…
NVIDIA Model Optimizer가 제공:
https://github.com/NVIDIA/Model-Optimizer
…
Tencent가 Hugging Face에 HiLS-Attention을 출시했습니다.
초장문 컨텍스트를 위해 청크 선택(chunk selection)을 end-to-end로 학습하는 7B 희소 어텐션 모델입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @huggingpapers (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0