REAL Loss: 추측 디코딩을 위한 실제 기대 수용 길이 최적화

요약

추측 디코딩(Speculative decoding)은 초안 모델과 대상 모델을 활용하여 LLM 추론 속도를 가속화하는 기술입니다. 기존의 훈련 목적 함수들은 기대 수용 길이(EAL)를 직접 최적화하지 못하는 한계가 있었습니다. 본 논문은 실제 EAL을 목표로 하는 새로운 훈련 손실 'REAL'을 제안했으며, 이는 여러 기준선 대비 우수한 성능을 입증했습니다.

핵심 포인트

• 추측 디코딩은 초안 모델과 대상 모델의 협업으로 LLM 추론 속도를 높입니다.
• 기존 목적 함수들은 EAL 최적화가 아닌 대리 지표에 머물렀습니다.
• REAL Loss는 경로 가중치와 Rao-Blackwellization을 사용해 실제 EAL을 직접 학습합니다.
• Qwen3.6-35B 대상 모델에서 REAL은 기존 기준선 대비 우수한 성능을 보였습니다.