NVIDIA가 Hugging Face에 양자화된 Mistral Medium 3.5를 출시했습니다
요약
NVIDIA가 Hugging Face를 통해 양자화된 Mistral Medium 3.5 모델을 출시했습니다. 이 모델은 128B 파라미터를 가진 밀집 모델로, Blackwell GPU에서 NVFP4 정밀도를 통해 높은 정확도를 유지하며 실행됩니다.
핵심 포인트
- Mistral Medium 3.5 128B 밀집 모델 출시
- 256k 컨텍스트 윈도우 지원
- Blackwell GPU 최적화 및 NVFP4 정밀도 적용
- 양자화를 통한 정확도 손실 최소화
NVIDIA가 Hugging Face에 양자화된 (quantized) Mistral Medium 3.5를 출시했습니다.
256k 컨텍스트 윈도우 (context window)를 가진
128B 밀집 모델 (dense model)이며,
정확도 손실이 거의 없이 Blackwell GPU에서 NVFP4 정밀도 (precision)로 실행됩니다. https://t.co/LJAHf2bvac
AI 자동 생성 콘텐츠
본 콘텐츠는 X @huggingpapers (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0