DAMEL: 클래스 불균형 학습을 위한 이축 다중 전문가 학습 (Dual-Axis Multi-Expert Learning)

롱테일 분포 (long-tailed distributions)를 가진 실제 데이터의 클래스 불균형 학습 (class-imbalanced learning)이 제기하는 과제를 해결하기 위해 다양한 알고리즘이 제안되어 왔습니다. 이러한 알고리즘들은 재균형 (rebalancing) 기술을 통해 예측 편향 (prediction bias)을 줄이지만, 그 대가로 예측 분산 (prediction variance)이 증가하는 경우가 많습니다. 여러 다중 전문가 학습 (multi-expert learning) 알고리즘들이 이러한 분산을 해결하는 것을 목표로 하지만, 복잡한 절차를 수반합니다. 본 논문에서는 표현 (representation) 축과 시간 (time) 축 모두를 따라 여러 전문가를 사용하여 예측의 편향과 분산을 모두 줄이는 dual-axis multi-expert learning (DAMEL)이라 불리는 새로운 다중 전문가 학습 알고리즘을 제안합니다. 표현 축을 따라, DAMEL은 여러 전문가의 표현을 결합 (concatenate)하고, 결합된 표현과 함께 보조적인 균형 분류기 (auxiliary balanced classifier)를 동시에 학습시킵니다. 시간 축을 따라, DAMEL은 훈련 에포크 (training epochs) 전반에 걸쳐 네트워크 가중치를 집계 (aggregate)하며, 테스트 시 이러한 집계된 가중치를 사용합니다. 실험 결과는 DAMEL이 예측의 편향과 분산을 모두 줄임을 입증하며, 클래스 불균형 학습에서의 효과성을 강조합니다.