Apple Silicon에서 엄청난 로컬 속도 향상을 경험한 상위 3개 오픈 웨이트 모델

요약

Apple Silicon 환경에서 주요 오픈 웨이트 모델 3가지가 로컬 구동 시 상당한 속도 향상을 보였습니다. Qwen3.6 35B는 처리량이 57% 증가했고, GLM-5.3 Flash는 스펙 디코딩 속도가 34% 빨라졌습니다. DeepSeek V4.1은 디코드 속도가 두 배로 빨라지고 RAM 사용량도 줄었습니다.

핵심 포인트

• Apple Silicon에서 오픈 웨이트 모델의 로컬 구동 성능 대폭 개선
• Qwen3.6 35B: 처리량 +57% 향상 확인
• DeepSeek V4.1: 디코드 속도 2배, RAM 사용량 감소