Reflective Masking이 Mask Diffusion Models의 추론을 유도한다
요약
Reflective Masking은 Mask Diffusion Models를 다회차 수정자로 변환하는 가벼운 사후 학습 방법입니다. 신뢰할 수 있는 토큰은 유지하고 불확실한 토큰을 재마스킹하여 성능을 높입니다.
핵심 포인트
- Mask Diffusion Models를 다회차 수정자로 변환하는 사후 학습 기법
- 신뢰 토큰 유지 및 불확실한 토큰의 재마스킹 메커니즘
- History Reference를 통한 과거 시도 기억 기능
- Sudoku, 수학, 이미지 편집 분야에서 표준 마스킹 대비 우수한 성능
Reflective Masking은 Mask Diffusion Models (MDMs)를 다회차 수정자 (multi-turn revisers)로 변환하는 가벼운 사후 학습 (post-training) 방법입니다: 신뢰할 수 있는 토큰 (tokens)은 유지하고, 불확실한 토큰은 다시 마스킹 (re-mask)하며, History Reference를 통해 과거의 시도들을 기억합니다.
이 방법은 Sudoku, 수학, 그리고 이미지 편집 (image editing) 분야에서 표준 마스킹 (standard masking)보다 뛰어난 성능을 보입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @huggingpapers (검증됨)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0