CoRD: 긴 사고 사슬 (Long Chain-of-Thought) 증류를 위한 협력적 다중 교사 디코딩 프레임워크

요약

CoRD는 긴 사고 사슬(Long Chain-of-Thought) 추론 과정을 증류하기 위한 협력적 다중 교사 디코딩 프레임워크입니다. 여러 개의 서로 다른 거대 추론 모델(LRMs)이 단계별로 고품질의 추론 궤적을 공동 구축할 수 있도록 설계되었습니다. 효율적인 작업을 위해 퍼플렉시티 가이드 빔 서치(Perplexity-guided beam search) 기술을 활용합니다.

핵심 포인트

• 긴 사고 사슬(Long Chain-of-Thought) 추론 증류를 위한 프레임워크 제안
• 이질적인 여러 거대 추론 모델(LRMs) 간의 협력적 디코딩 지원
• 단계별 고품질 추론 궤적(Reasoning trajectories) 구축 가능
• 퍼플렉시티 가이드 빔 서치를 통한 작업 효율성 최적화