단일 DGX Spark에서 Qwen3.8-27B (밀집 모델, Qwen Flash 아님) 실행하기

요약

본 기사는 단일 DGX Spark 환경에서 Qwen3.8-27B 밀집 모델을 구동한 결과를 공유합니다. 최적화된 캐싱 알고리즘과 StairCut 방법을 적용하여, 150k 컨텍스트 프리필이 밀리초 단위로 처리되며 디코딩 속도는 작업에 따라 50–90 tok/s를 달성했습니다.

핵심 포인트

• 단일 DGX Spark에서 Qwen3.8-27B 실행 가능성을 입증함.
• 최적화된 캐싱 및 StairCut 방법론을 활용하여 성능 향상.
• 150k 컨텍스트 프리필 처리 속도가 밀리초 단위로 빠름.
• 디코딩 속도는 작업에 따라 50–90 tok/s를 기록함.