Laguna S-2.1 관련 공지 - 업데이트된 채팅 템플릿(Chat Template) 및 GGUF 사용 안내 - Insights

공식 GGUF 저장소 링크: https://huggingface.co/poolside/Laguna-S-2.1-GGUF/tree/main

약 5시간 전, 모든 GGUF 파일에 수정 사항이 적용되었습니다 - yarn_attn_factor를 1.0으로 수정함 (llama.cpp가 mscale을 도출함). 그리고 채팅 템플릿 (Chat template)은 망가진 사고 과정(thinking), 사고 과정 보존(preserve thinking), 그리고 도구 호출(tool calling) 문제를 많이 해결해 줍니다.

채팅 템플릿: https://huggingface.co/poolside/Laguna-S-2.1-GGUF/blob/main/chat_template.jinja

지금까지 모델의 성능이 훨씬 더 좋아진 것으로 보입니다.

Laguna S-2.1 관련 공지 - 업데이트된 채팅 템플릿(Chat Template) 및 GGUF 사용 안내

요약

핵심 포인트

댓글