r/LocalLLaMA 커뮤니티 여러분께! Qwen3.8-Flash-Next를 위한 새로운 Unsloth Dynamic v3.1 GGUFs를 출시합니다! 이 모델들은 DeepSWE, Terminal Bench, Aider Polyglot 등에서 기존의 GSQ-RCO 대비 정확도가 1015% 향상되었습니다. 또한 모든 양자화(quantization) 방식인 BF16, Q8_0, Q5_1, IQ4_NL에 대해 새로운 engram 스위칭 프로세스를 제공합니다! 이는 DeepSeek-V4.1-Flash UD3.1 작업의 연장선으로 진행되었으며, 해당 작업만으로도 기존 대비 1020% 이상의 정확도 향상을 달성했습니다. 모든 벤치마크는 에이전트(agentic) 관련 테스트의 경우 256K 토큰을 사용했으며, 나머지 테스트는 128K 토큰을 사용했습니다. 저희는 temperature 1.0, top_p 0.95, top_k 20, min_p 0, 그리고 presence 또는 repetition 페널티를 적용하지 않았습니다. preserve_thinking과 xhigh reasoning 기능을 활용하여 벤치마크에 총 26B 토큰 이상을 사용했습니다. 벤치마크 결과가 노이즈가 있어 총 26.2B 토큰의 벤치마킹을 진행했으며, 이 중 DeepSWE가 전체 예산의 18.1B 토큰을 차지했고 그 뒤를 Terminal Bench(5.2B 토큰)가 이었습니다. LiveCodeBench는 3회, HMMT 및 기타 테스트는 8~16회 등 여러 번 반복하여 벤치마크를 수행했습니다.
engram 스위칭 프로세스는 https://unsloth.ai/docs/models/qwen3.8-next#mix-n-match-engrams에서 각 정밀도별 상세 내용과 RMSE(오차)와 함께 설명되어 있으며, 아래에 표시됩니다:
| 파일 유형 | 크기 | 상대적 RMSE | BF16 |
|---|
| Qwen3.8-Flash-Next-engram-BF16.gguf_file | 102.4 GB | 0 | |
| Qwen3.8-Flash-Next-engram-Q8_0.gguf_file | 54.4 GB | 0.0053 | |
| Qwen3.8-Flash-Next-engram-Q5_1.gguf_file | 38.4 GB | 0.0376 | |
| Qwen3.8-Flash-Next-engram-IQ4_NL.gguf_file | 28.8 GB | 0.0757 | |
새로운 UD 3.1 양자화 모델은 https://huggingface.co/unsloth/Qwen3.8-Flash-Next-GGUF에서 확인할 수 있습니다. 현재 UD-Q4_K_XL보다 작은 모든 양자화 방식이 업데이트되었으며, 추후 UD-Q4_K_XL 및 더 큰 모델들도 업데이트할 계획입니다! 자세한 블로그 정보와 항목은 https://unsloth.ai/docs/models/qwen3.8-next#dynamic-v3.1-update-november-2nd-2026에서 확인하실 수 있습니다.
제출자: /u/danielhanchen [링크] [댓글]