현재 Mac에서 DS4 Flash를 실행하는 가장 좋은 방법 (192GB+ VRAM)

요약

Mac M3 Ultra 환경에서 DeepSeek-V4-Flash 모델을 최적화하여 실행하는 방법을 소개합니다. MXFP4 양자화 버전을 활용하여 MLX 프레임워크 기반으로 매우 빠른 토큰 생성 속도를 구현했습니다.

핵심 포인트

• M3 Ultra Mac에서 DS4 Flash 모델의 최적 실행 방법 공유
• MXFP4 양자화 버전을 통한 높은 효율성 확보
• dspark/mtp 지원으로 초당 최대 43토큰의 빠른 속도 달성
• MLX 프레임워크를 활용한 Mac 전용 최적화