Unsloth, Mistral Medium 3.5 구현 버그 해결

요약

Unsloth는 Mistral과 협력하여 Mistral Medium 3.5 추론에 영향을 미치던 버그를 수정한 업데이트된 GGUF 파일을 출시했습니다. 이 문제는 YaRN 파싱의 특이성으로 인해 발생했으며, `mscale_all_dim`을 1에서 0으로 변경하는 방식으로 해결되었습니다. 또한 mmproj 파일 생성 오류 문제도 함께 수정되었습니다.

핵심 포인트

• Mistral Medium 3.5 추론 버그가 수정된 업데이트된 GGUF 모델이 출시됨.
• 버그의 원인은 YaRN 파싱 과정의 특이성(quirk) 때문이었음.
• 핵심 해결책은 `mscale_all_dim` 값을 1에서 0으로 변경하는 것이었음.
• mmproj 파일 생성 오류 문제도 함께 수정되어 사용 편의성이 높아짐.