혼동 인지형 전이 교사 커리큘럼 학습 프레임워크: 점수 산정 및 속도 조절 효과의 분리

커리큘럼 학습 (Curriculum learning)은 샘플이 난이도에 따라 어떻게 점수가 매겨지는지(scoring)와 더 어려운 샘플이 학습에 어떻게 속도 조절되어 투입되는지(pacing)라는 두 가지 설계 선택을 결합하며, 이로 인해 관찰된 성능 향상이 어느 구성 요소 덕분인지 규명하기 어렵습니다. 우리는 두 가지 평가 프로토콜을 통해 이러한 요인들을 분리합니다. 첫째는 커리큘럼 학습과 독립적으로 점수 산정 함수 (scoring functions)를 검증하는 단계별 테스트 서브셋 (stage-wise test subsets)이며, 둘째는 무작위로 정렬된 데이터에 동일한 속도 조절 일정 (pacing schedule)을 적용하는 베이스라인 (baseline)입니다. 전이 교사 프레임워크 (Transfer Teacher framework, TTF) 내에서, 우리는 이러한 프로토콜을 사용하여 정답 클래스에 대한 신뢰도 (confidence)와 오답 클래스들에 대한 확률 분포 (probability distribution)를 모두 고려하는 혼동 인지형 (confusion-aware) 난이도 점수를 평가합니다. ResNet-18 및 VGG-16을 사용한 CIFAR-10 데이터셋 실험에서, 제안된 점수는 인간의 직관과 일치하는 모델 해석 가능한 난이도 순위를 생성합니다. 그러나 전체 데이터를 사용할 경우, 커리큘럼 (curriculum) 방식이나 안티-커리큘럼 (anti-curriculum) 정렬 모두 표준 학습 (standard training)보다 정확도를 향상시키지 못했으며, 이는 점수 산정 함수를 개선하는 것만으로는 TTF에서 알려진 커리큘럼 학습의 실패 모드 (failure modes)를 극복하기에 불충분함을 나타냅니다. 이와 대조적으로, 우리는 혼동 인지형 커리큘럼 정렬이 일관된 데이터 효율성 (data-efficiency) 이점을 가져온다는 것을 발견했으며, 데이터가 20%인 환경에서 무작위 정렬보다 최대 8.7%포인트 높은 성능을 보였습니다. 이는 TTF가 데이터 효율적인 학습 방법으로서 잠재력이 있음을 시사합니다.