Prince Canuma, Google의 DiffusionGemma와 Cohere North Mini Code를 당일 Mac 로컬 MLX에

요약

Google의 DiffusionGemma와 Cohere의 North Mini Code 모델이 Mac 로컬 환경인 MLX에 즉시 지원됩니다. mlx-vlm v0.6.3 업데이트를 통해 양자화된 모델을 로컬에서 효율적으로 실행할 수 있습니다.

핵심 포인트

• DiffusionGemma의 MLX 지원 및 mlx-vlm v0.6.3 출시
• DiffusionGemma는 26B MoE 모델로 양자화 시 18GB 메모리에서 실행 가능
• North Mini Code 30B MoE 모델의 빠른 추론 속도 지원
• Google DeepMind 및 Cohere와의 협업을 통한 Day-0 지원