M3U에 Muse Spark Open 816B-A42B 구동

요약

DeepSeek v4.1 Flash 1017 모델을 사용하던 환경에서 Muse Spark Open 816B-A42B를 ds4에 성공적으로 클램프하고 디코딩까지 완료한 실험 결과를 공유합니다. 초당 4 토큰의 속도를 기록했으며, 향후 더 큰 prefill 청크 실행도 계획 중입니다.

핵심 포인트

• Muse Spark Open 816B-A42B 모델을 ds4 환경에 성공적으로 적용함.
• 디코딩 과정까지 완료하는 첫 실행에 성공하여 기술적 성과를 입증함.
• 현재 초당 4 토큰의 속도를 기록했으며, 성능 향상을 기대하고 있음.