요약

추론 실패 지점이 감지될 때 교사 모델이 개입하여 제어권을 회복하는 새로운 온폴리시 증류 프레임워크인 Relay-OPD를 소개합니다. 이를 통해 모델의 접두사 실패(prefix failure) 문제를 해결하고 추론 성능을 개선합니다.

핵심 포인트

• 추론 실패 감지 시 교사 모델이 개입하여 제어권 확보
• 접두사 실패(prefix failure) 문제 해결을 위한 프레임워크
• 온폴리시 증류(on-policy distillation) 방식 활용