점진적 코드 스위칭(Progressive Code-Switching)을 통한 효율적인 다국어 추론 전이
요약
대규모 추론 모델(LRM)의 다국어 추론 성능 저하를 해결하기 위한 새로운 프레임워크 PCS를 제안합니다. 번역과 강화학습을 결합하여 영어의 추론 능력을 대상 언어로 효율적으로 전이하며, 점진적인 언어 전환을 통해 안정적인 성능 향상을 달성합니다.
핵심 포인트
- 비용이 많이 드는 증류나 외부 판사 모델 없이 효율적인 언어 전이 가능
- 코드 스위칭 추론 흔적을 활용한 지도 미세 조정(SFT) 단계 포함
- 단계별 언어 일관성 커리큘럼을 적용한 강화학습(RL) 수행
- 대상 언어 추론 시 발생하는 불안정성과 성능 저하 문제 해결
- 다양한 언어 벤치마크에서 영어와 유사한 수준의 추론 성능 입증
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기