저희는 DeepSeek UD 버전 3.1 GGUFs를 사용하여 512K 컨텍스트에서 DeepSWE, Terminal Bench, Automation Bench, HLE, SciCode를 실행했으며, GSQ-RCO보다 10~20% 더 우수함을 보여드립니다. 다른 모든 벤치마크(총 14개)는 128K로 실행했습니다. AIME2025는 64배, DeepSWE/TB는 3배로 진행했습니다. 저희는 사람들이 언급했던 몇 가지 문제점들을 새로운 벤치마크를 통해 개선했습니다: 32K 컨텍스트가 너무 짧았기 때문에 에이전트적 작업에는 512K 컨텍스트를, 일반적인 작업에는 128K 컨텍스트를 사용했습니다. 포화된(Saturated) 벤치마크의 경우, Terminal Bench, DeepSWE, Automation Bench를 포함한 새로운 비포화 에이전트 스타일 벤치마크를 도입했습니다. 벤치마크 데이터가 노이즈가 심하다는 지적에 따라, 기존 대비 27배 더 많은 데이터를 확보하기 위해 총 35.1B 토큰의 벤치마킹을 수행했습니다. 여기에서 AIME 2025 64회 실행, DeepSWE 3회 실행, TB 실행 등 더 많은 내용을 확인하실 수 있습니다. 저희 채점기가 틀렸습니다. Math Verify를 사용하고, 개선된 채점기를 사용했으며, HLE에는 gpt-6-luna xhigh를 사용했고, Terminal Bench, DeepSWE 및 나머지 항목에는 모든 공식 채점기(Harbor)를 사용했습니다. 채점기와 인프라 수정 사항을 확인해 보세요.
DeepSWE v1.1의 경우 mini-swe-agent를 사용했으며 최대 500 단계를 선택했습니다 (최대 실행 단계는 334단계였으므로, 그 이상으로 진행된 경우는 없었습니다). Terminal Bench 2.1 역시 mini-swe-agent를 사용했으며, 최대 제한 없이 최대 단계를 150으로 설정했습니다. 저희 인프라에서 통과할 수 없는 작업이 있어 89개 중 7개의 작업을 제외해야 했습니다 - 자세한 내용은 https://unsloth.ai/docs/models/deepseek-v4.1-flash#excluded-terminal-bench-tasks-due-to-issues를 참고하세요.
또한, 더 많은 실행(27배 더 많은 데이터)을 진행했기 때문에 ISTA의 수치도 재검토했습니다. GSQ-RCO IQ1_M은 98.7% 복구율을 주장하지만, 저희가 측정한 값은 p-값 0.0013과 함께 97.24 [96.23, 98.21]였습니다. GSQ-RCO IQ2_XS가 주장하는 100% 복구율 유지는 p-값 0.21로 가능합니다. 저희는 98.38% [97.52, 99.22]를 측정했습니다. 따라서 이는 가능한 수치입니다. GSQ-RCO IQ2_XXS는 99.80% 복구율을 주장하지만, 저희가 측정한 값은 p-값 0.0001과 함께 98.38 [97.52, 99.22]였습니다. 따라서 이는 거의 불가능합니다.
공식 기준 대비 쌍별 차이(Paired difference to the official base) (당사 실행 결과, 동일 질문, 부호 반전 순열 검정(sign-flip permutation test), 양측 검정(two-sided)): AIME25 GPQA-D LCB v6 GSQ-RCO IQ1_M -1.61 ( p=0.02 ) -2.89 ( p=0.004 ) -3.24 ( p=0.00002 ) GSQ-RCO IQ2_XXS -0.47 (p=0.25) -2.07 ( p=0.02 ) -2.00 ( p=0.01 ) GSQ-RCO IQ2_XS -0.42 (p=0.48) -0.51 (p=0.42) -0.38 (p=0.52)
주장된 복구 성능을 당사의 측정치와 직접 비교(카드 정의: 3개 점수 합계 / 기준점 합계 대 공식 FP8/FP4): p (손실 없음) = 복구의 쌍별 부호 반전 순열 검정 = 100%; p (복구 >= 주장) = 질문에 대한 단측 쌍별 부트스트랩(one-sided paired bootstrap over questions).
| Claimed recovery | Measured recovery [95% CI] | p (no loss) | p (recovery >= claim) |
|---|
| GSQ-RCO IQ1_M | 98.70 | 97.24 [96.23, 98.21] | 0.00002 | 0.0013 |
| GSQ-RCO IQ2_XXS | 100.00 | 98.38 [97.52, 99.22] | 0.0003 | 0.0001 |
| GSQ-RCO IQ2_XS | 99.80 | 99.54 [98.88, 100.18] | 0.16 | 0.21 |
만약 GSQ-RCO에서 벤치마크가 어떻게 실행되었는지에 대한 더 많은 세부 정보를 얻을 수 있다면, 저희는 기꺼이 추가 테스트를 진행할 것입니다. 당사는 모든 설정과 방법을 블로그(https://unsloth.ai/docs/models/deepseek-v4.1-flash#dynamic-v3.1-update-november-2nd-2026)에 제공했습니다. 모든 세부 정보, 데이터 및 방법은 (https://unsloth.ai/docs/models/deepseek-v4.1-flash#dynamic-v3.1-update-november-2nd-2026)에서 확인할 수 있습니다. 당사의 새로운 Unsloth Dynamic 3.1 GGUF DeepSeek 모델은 (https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF)에 /u/danielhanchen이 제출했습니다. [링크] [댓글]