새로운 Laguna 모델을 테스트해 본 분들이라면, 이 모델이 중간 난이도의 질문에 대해 사고(thinking)하기를 얼마나 꺼려하는지, 그리고 그것이 출력 품질에 어떤 영향을 미치는지 눈치채셨을 것입니다. 이 모델이 "Hi, who are you"와 같은 질문에 대해 Qwen처럼 과하게 반응하지 않는 점은 훌륭하지만, 확실히 더 많이 생각해야 합니다. 저는 모델이 말하는 내용에 대해 사고하도록 강제하는 아주 완벽한(10/10) 방법을 찾아냈습니다. 바로 간단한 채팅 템플릿(chat template) 변경입니다. 추론(reasoning)이 활성화되었을 때, 단순히 <think> 태그만 삽입하는 것이 아니라 그 뒤에 줄바꿈(new line)을 추가하는 방식입니다. 물론, 이 방식은 사고 과정을 항상 강제하게 되므로 많은 사용 사례에서 원하는 방식은 아닐 수 있지만, 코딩이나 벤치마킹(benchmarking) 시에는 이 모델의 성능을 제대로 보여줄 수 있는 방법입니다. 저는 Q2 양자화 버전에서만 테스트했기에 속도는 더 빠르지만, 지금까지의 결과는 매우 훌륭합니다. 예를 들어 인사에 대해서는 한 문장 정도의 추론을 수행하고, 코딩 작업에 대해서는 수만 개의 토큰을 사용합니다. 간단한 변경 사항: {%- if enable_thinking -%} {{- '<think> ' -}} {%- else -%} {{- '</think>' -}} {%- endif -%}