Qwen3.8-Flash-Next의 Strata 지원 공개
요약
Qwen3.8-Flash-Next 모델이 Strix Halo 머신에서 Strata를 통해 공식 지원을 시작했습니다. 이 지원은 Unsloth의 Q4 및 GSQ-RCO 가중치를 사용하여 긴 컨텍스트 디코딩과 PPTs 처리에서 우수한 성능을 보여줍니다. 큰 속도 저하 없이 1M 길이까지 처리가 가능하며, 현재는 Linux 환경에서 실험적으로 제공됩니다.
핵심 포인트
- Qwen3.8-Flash-Next가 Strix Halo 머신 공식 지원 시작
- Unsloth Q4/GSQ-RCO 가중치 사용 시 성능 우수
- 1M 컨텍스트 길이까지 처리 가능하며 속도 저하 적음
- 현재는 Linux 환경에서 실험적으로 제공됨
안녕하세요! 👋 Qwen3.8-Flash-Next에 대한 Strix Halo 머신 공식 지원을 Strata로 출시했습니다. 현재 일반적인 Unsloth의 Q4 및 GSQ-RCO 모델 가중치를 사용하는 경우, 긴 컨텍스트 디코드와 ppts에서 가장 좋은 성능을 보여줍니다. 큰 속도 저하 없이 1M 컨텍스트 길이까지 처리할 수 있습니다. 현재 지원은 실험적인 것으로 표시되어 있으며 Linux에서만 수행되었습니다. https://github.com/Niko1221/Strata/ 어떤 피드백이나 풀 리퀘스트라도 주시면 감사하겠습니다! 👀 submitted by /u/KnownAd4832 [link] [comments]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기