고정하지 말고 수정하라: 자기 수정형 마스크 확산 언어 모델을 위한 샘플러 매칭 학습 (Sampler-Matched Training)

요약

마스크 확산 언어 모델(MDLM)의 토큰 수정 능력을 극대화하기 위한 새로운 샘플러 D3IM과 사후 학습 절차 SCOPE를 제안합니다. 모델이 이미 확정된 토큰을 그대로 유지하려는 보존 편향을 해결하여 수학 및 코딩 성능을 크게 향상시켰습니다.

핵심 포인트

• 추가 모듈 없이 토큰을 직접 수정하는 파라미터 프리 샘플러 D3IM 제안
• 모델이 잘못된 토큰을 유지하려는 '보존 편향' 현상 발견
• SCOPE 사후 학습을 통해 보존 편향 문제를 해결하고 성능 최적화
• LLaDA-8B 모델 기준 GSM8K, HumanEval 등 주요 벤치마크 성능 대폭 향상