최근 저는 Qwen 3.6 27B의 MTP 양자화 모델을 게시했으며, Reddit과 HF(Hugging Face)에서 speculative inference (추측적 추론)를 사용했을 때 사용하지 않았을 때보다 속도가 더 느려지는 현상을 경험하고 있다는 사용자들의 보고를 보고 놀랐습니다. 이는 제가 관찰했던 결과와 일치하지 않았으나, 그들의 사용 환경을 정확히 재현해 보려 시도했을 때 그들이 겪고 있는 현상을 확인할 수 있었습니다.

저는 이 문제를 분석하려고 시도했고, 나중에 틀린 것으로 판명된 몇 가지 추측을 내놓기도 했으며, 이후 300개 이상의 테스트와 벤치마크를 실행하고 다양한 파라미터(parameter)를 변경하며 결과를 수집 및 비교하는 본격적인 체계적 분석을 시작했습니다. 제가 발견한 결과는 다음과 같습니다:

F16 + MTP는 코딩 작업 속도를 거의 3배로 높입니다. Q4_K_M + MTP는 창의적 글쓰기 속도를 늦춥니다. 동일한 기능, 동일한 모델, 동일한 설정임에도 결과는 정반대였습니다.

모든 양자화(quantization) 크기를 테스트하지는 않았습니다. 그랬다면 저는 아직도 여기서 테스트를 하고 있었을 것입니다. 대신 5가지의 유의미한 크기로 제한했습니다. 제가 변경한 다른 파라미터들은 작업 유형(4가지 유형), temperature (온도: 0.0, 0.3, 0.7), MTP 레이어의 양자화(q8 및 모델 양자화와 일치시킴)였습니다. Temperature와 MTP 양자화는 결과에 미치는 영향이 매우 적었습니다.

모델 양자화와 작업 유형을 변경하며 MTP를 사용했을 때의 누적 평균 디코딩(decode) 속도를 MTP가 없는 기준점(baseline)과 비교한 결과입니다:

|quant|base tok/s|code|factual|analysis|creative|
|:-|:-|:-|:-|:-|
|Q4_K_M|15.1|19.7|17.5|14.9|13.7|
| ... |

메모리 대역폭(memory bandwidth)이 모델이 speculative decoding (추측적 디코딩)으로부터 얼마나 이득을 얻을 수 있는지를 결정합니다. 51GB인 F16은 모든 토큰이 메모리를 통해 전체 모델을 끌어와야 하기 때문에 6.6 tok/s로 매우 느리게 움직입니다. 수락된 MTP 초안(drafts)은 해당 과정을 건너뜁니다. 16GB인 Q4_K_M은 이미 충분히 빠르기 때문에, 코드보다 예측 불가능한 작업에서는 초안 생성에 따른 오버헤드(overhead)가 거의 가치가 없습니다.

초안 토큰 수락률(draft tokens acceptance rate)을 제어하는 요소는:

또한 위에서 언급한 모든 시나리오에서 이 모델에 대한 최적의 초안 토큰 수를 테스트했습니다. 초안 토큰의 최적점 (sweet spot)은 3개입니다. 이보다 높게 설정하면 수락률 (acceptance rate)이 추가적인 초안이 제공하는 이득보다 더 빠르게 떨어집니다. F16은 예외입니다: N=4가 N=3을 앞섭니다 (17.9 대 16.2). 이는 6.6 tok/s의 속도에서 살아남은 모든 초안 토큰이 낮은 수락률을 감수할 만큼 가치가 있기 때문입니다.

• Q8_0 및 F16: 항상 MTP 레이어와 함께 추측적 디코딩 (speculative decoding)을 사용하십시오.
• 어떤 양자화에서도 코딩 작업 시에는 켜두십시오.
• Q4_K_M (및 그 이하) 창의적 작업 시에는 꺼두십시오.

마지막 관찰 사항: 코딩 작업에서 사고 모드 (thinking mode)를 켰을 때, Q8_0의 초안 토큰 수락률은 87%에서 73%로 떨어집니다. 여전히 +94%의 속도 향상이 있지만, 전체 +123%만큼은 아닙니다.

테스트 환경: Apple Silicon M2 Max 96GB, MTP PR이 적용된 llama.cpp 수동 빌드, MTP 레이어가 보존된 Qwen3.6-27B.