Google, Hugging Face에 QAT 최적화된 Gemma 4 31B 모델 출시

요약

Google이 Hugging Face에 QAT(양자화 인식 학습)로 최적화된 Gemma 4 31B 모델을 출시했습니다. 이 모델은 bfloat16 수준의 품질을 유지하면서 vLLM에서의 메모리 사용량을 획기적으로 줄였습니다. 또한 Code2LoRA 기술을 통해 저장소를 단 한 번의 순전파로 LoRA 어댑터로 변환할 수 있습니다.

핵심 포인트

• QAT 최적화를 통해 bfloat16급 품질과 낮은 메모리 사용량 달성
• 4-bit 가중치 최적화로 vLLM 추론 효율성 극대화
• Code2LoRA를 활용한 저장소 단위의 효율적인 LoRA 변환
• 미세 조정 및 대규모 컨텍스트 창 없이도 코드 지식 압축 가능