여러분 안녕하세요, Apple Silicon에서 MLX 생태계를 통해 Gemma 4 31B MTP 모델 제품군을 실행하기 위한 오픈 소스 로컬

요약

Apple Silicon 환경에서 MLX 생태계를 활용하여 Gemma 4 31B MTP 모델 제품군을 구동할 수 있는 오픈 소스 로컬 API 게이트웨이 프로젝트가 개발되었습니다. 이 프로젝트는 특히 Gemma4-31B-it 모델의 경우 기존 대비 1.42배의 속도 향상을 달성했습니다. 이는 Google의 Gemma 4 제품군과 연계되어 사용될 수 있습니다.

핵심 포인트

• Apple Silicon 환경에 최적화된 MLX 기반 로컬 API 게이트웨이 개발
• Gemma 4 31B MTP 모델 제품군의 구동 지원
• Gemma4-31B-it 모델에서 1.42배의 속도 향상 달성