Unsloth가 오늘 Laguna를 지원하는 llama.cpp를 업데이트했습니다. 단일 사용자 기준으로, vLLM + NVFP4 + DFlash 조합보다 약간 더 빠른 속도로 작동하며 정확도는 더 높습니다. 이 모델은 "<think>"를 거부합니다. 저는 모델이 생각하도록 채팅 템플릿 (chat template)을 수정했습니다. (Qwen처럼) "<think>\n"을 사용하는 방식은 모델을 망가뜨리지만, 현재로서는 다음과 같은 해결책(줄바꿈 사용)이 작동하는 것으로 보입니다: https://www.reddit.com/r/LocalLLaMA/comments/1v39gwm/force_thinking_in_lagunas21/ Unsloth Studio 설치 안내: https://unsloth.ai/docs/new/studio/install submitted by /u/lilian_moraru [link] [comments]