Gemma 4 MTP 모델 출시

요약

Google은 Gemma 4 모델의 성능을 극대화하기 위해 멀티 토큰 예측(MTP) 드래프트 모델을 출시했습니다. MTP는 기본 모델을 더 작고 빠른 드래프트 모델로 확장하여, Speculative Decoding 파이프라인에서 사용됩니다. 이 기술은 드래프트 모델이 여러 토큰을 미리 예측하고 타겟 모델이 이를 병렬로 검증함으로써, 표준 생성과 동일한 품질을 유지하면서 디코딩 속도를 최대 2배까지 향상시킵니다.

핵심 포인트

• MTP(Multi-Token Prediction)는 Gemma 4의 성능 최적화를 위한 새로운 기술입니다.
• 드래프트 모델은 기본 모델보다 작고 빨라 Speculative Decoding 파이프라인에 사용됩니다.
• Speculative Decoding을 통해 디코딩 속도를 최대 2배까지 향상시킬 수 있습니다.
• MTP 드래프트 모델은 저지연 및 온디바이스 애플리케이션에 특히 적합합니다.