구조화된 상호작용 학습(Structured Interactive Learning)에서 모델 붕괴(Model Collapse)는 언제 발생하는가?
요약
본 연구는 다중 모델이 합성 데이터를 주고받으며 학습하는 구조화된 상호작용 학습 환경에서 발생하는 모델 붕괴(Model Collapse) 현상을 분석합니다. 모델 간의 상호작용을 유향 그래프로 공식화하여, 모델 붕괴의 발생 여부가 상호작용 그래프의 위상(Topology)에 결정적으로 의존함을 증명했습니다. 또한 모델 붕괴가 발생하는 시점을 정의하는 필요충분조건을 도출하고 이론적·수치적 검증을 완료했습니다.
핵심 포인트
- 다중 모델 상호작용 환경에서의 모델 붕괴 현상을 유향 그래프를 통해 공식화함
- 모델 붕괴의 발생은 상호작용 그래프의 위상(Topology)에 따라 결정됨을 발견
- 모델 붕괴 발생 시점을 특징짓는 명시적인 필요충분조건 도출
- 선형 회귀 및 M-추정량에 대한 이론적 보장과 수치 실험을 통한 검증 수행
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기