[논문] SpecOPD: 추측 디코딩을 위한 브랜치 병렬 온정책 증류 - By Qwen

요약

SpecOPD는 추측 디코딩(SD)의 속도 한계를 극복하기 위해 제안된 브랜치 병렬 온정책 증류 프레임워크입니다. 이 방법은 독립적인 여러 브랜치에 걸쳐 드래프트 샘플링과 목표 감독을 병렬화하여 LLM 추론 효율성을 높입니다. SpecOPD는 기존 대비 높은 수용 길이와 토큰 처리량을 달성하며 모델 가속화 성능을 입증했습니다.

핵심 포인트

• SpecOPD는 브랜치 병렬 온정책 증류를 통해 SD의 속도 한계를 극복합니다.
• 기본 구성에서 순차 롤아웃 OPD 대비 16.09배의 감독 토큰 처리량을 기록했습니다.
• 자기회귀 디코딩 대비 최대 3.56배의 생성 속도 향상을 보여줍니다.
• 8B, 27B, 125B 등 다양한 아키텍처와 네 가지 작업 도메인에서 검증되었습니다.