TUDUM: Qwen3.5-27B를 위한 터키어 사고 추론 파이프라인

요약

Qwen3.5-27B 모델이 터키어 추론 과정(<think> 블록)을 직접 생성하도록 학습시키는 TUDUM 파이프라인을 제안합니다. SFT와 GRPO 기반 강화 학습을 적용하여 터키어 사고 과정을 구축하려 시도했으나, 벤치마크 성능 면에서는 복합적인 결과를 보였습니다.

핵심 포인트

• 터키어 프롬프트에 대해 영어 스크래치패드 대신 터키어 추론 과정을 생성하도록 설계
• unsloth/Qwen3.5-27B를 베이스로 LoRA SFT 및 GRPO 강화 학습 적용
• SFT를 통해 사고 소진을 줄이고 터키어 사용 일관성을 높였으나 정확도는 감소함
• RL 적용 시 일부 수학 성능은 회복했으나 전반적인 벤치마크 개선은 미흡함
• 기술적으로 정직한 터키어 사고 추론 파이프라인 및 평가 방법론 제시