Macbook Pro에서 Qwen 3.6 27b 모델을 구동했을 때의 82 TPS 달성 및 MTPLX V2 소개

요약

MTPLX V2가 발표되었으며, 사용자 정의 양자화 커널과 컴파일된 검증 단계를 도입하여 성능을 크게 개선했습니다. 이를 통해 Macbook Pro M5 Max 환경에서 Qwen 3.6 27b 모델 구동 시 82 TPS를 달성하는 성과를 보여주었습니다.

핵심 포인트

• MTPLX V2는 터보 모드와 사용자 정의 양자화 커널을 적용했습니다.
• Macbook Pro M5 Max에서 Qwen 3.6 27b 모델로 82 TPS를 달성했습니다.
• SSD KV 캐시 및 긴 컨텍스트 도구 호출 기능이 개선되었습니다.