요약

AMD Radeon RX 7900 XTX 환경에서 Luce DFlash와 PFlash를 사용하여 Qwen3.6-27B 모델을 테스트한 결과, 기존 llama.cpp HIP 대비 약 2.24배의 디코딩 속도 향상을 확인했습니다. 하드웨어 대역폭 특성에 따라 최적의 Budget 설정이 달라지며, 짧은 생성 작업에서는 표준 체인 추측 방식이 더 효율적일 수 있음을 보여줍니다.

핵심 포인트

• RX 7900 XTX 환경에서 Luce DFlash 사용 시 llama.cpp HIP 대비 2.24배 빠른 62.75 tok/s 달성
• 7900 XTX의 높은 GDDR6 대역폭을 고려할 때 Budget=8 설정이 최적의 성능을 제공
• Strix Halo(LPDDR5X)와 7900 XTX(GDDR6)는 하드웨어 특성에 따라 최적의 Budget 값이 다름
• 128 토큰 정도의 짧은 생성 시에는 DDTree 미사용 표준 체인 추측이 오버헤드가 적어 더 빠를 수 있음