Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
외부 교사나 특권적 정보 없이 입력 조건화만으로 학습하는 시각적 대조 자기 증류(VCSD) 기술을 제안합니다. 이미지 콘텐츠 제거를 통해 시각적 대조 신호를 생성하며, Qwen3-VL 모델 등에서 기존 OPSD 방식보다 우수한 성능 향상을 입증했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기온폴리시 자기 증류 (On-policy self-distillation, OPSD)는 온폴리시 증류 (On-policy distillation, OPD)에 필요한 외부 교사 (external teacher)를 제거할 수 있어 유망하지만, 자기 교사 (self-teacher)가 학생 (student)보다 더 강력한 학습 신호를 제공하도록 보장하기 위해서는 여전히 교사와 학생 사이의 비대칭적 정보 (asymmetric information)가 필요합니다. 기존 방법들은 특권적 정답 (privileged answers) 또는 시각적 증거 (visual evidence)를 통해 이러한 비대칭성을 생성합니다. 우리는 이 두 가지를 모두 제거하고, 순수하게 입력 조건화 (input conditioning)에 의해 구동되는 더 단순한 형태의 OPSD를 구현할 수 있는지 질문합니다. 이를 위해 우리는 이미지 콘텐츠 제거를 온폴리시 자기 증류 신호로 변환하는 시각적 대조 자기 증류 (Visual Contrastive Self-Distillation), 즉 VCSD를 제안합니다. 학생이 생성한 응답 접두사 (response prefix)의 각 단계에서, EMA 교사는 동일한 프롬프트와 접두사 하에 두 가지 다음 토큰 분포 (next-token distributions)를 생성합니다. 하나는 원본 이미지에 조건화된 것이고, 다른 하나는 콘텐츠가 삭제된 제어 (content-erased control)에 조건화된 것입니다. 이들의 토큰별 로그 확률 차이 (token-wise log-probability difference)는 인스턴스 수준의 시각적 콘텐츠에 의해 가능성이 구체적으로 증가하는 후보들을 강조합니다. 우리는 이 대조 (contrast)를 사용하여 교사의 원본 이미지 분포를 가능한 지지 집합 (plausible support) 내에서 날카롭게 만들고, 결과적으로 생성된 전체 분포 타겟 (full-distribution target)을 학생에게 증류합니다. ViRL39K 데이터셋을 사용하여, VCSD는 Qwen3-VL 및 Qwen3.5 모델 전반에서 매칭된 OPSD보다 일관되게 우수한 성능을 보였습니다. 예를 들어, Qwen3-VL에서 2B 모델은 7개 벤치마크 합계가 $62.27% \rightarrow 67.04%$로, 4B 모델은 $71.30% \rightarrow 73.16%$로, 8B 모델은 $72.51% \rightarrow 76.26%$로 향상되었습니다. 또한, VCSD는 외부 교사, 특권적 정답, 시각적 증거 신호, 추론 흔적 (reasoning traces) 또는 추가적인 추론 시간 비용 (inference-time cost)을 필요로 하지 않습니다.