Hedging Memory Horizons for Non-Stationary Prediction via Online Aggregation

요약

본 논문은 입력이 순차적으로 도착하고 결과가 예측 후에만 공개되는 분포 이동 환경에서 온라인 예측 문제를 다룹니다. 연구진은 모델 무관(model-agnostic) 방법인 MELO (Memory-hedged Exponentially Weighted Least-Squares Online aggregation)를 제안했습니다. MELO는 지수 가중 최소 제곱(EWLS) 적응 전문가를 사용하여 예측을 헤지하고, 이를 온라인 집계 규칙 MLpol과 결합하여 성능을 향상시킵니다. 실제 COVID-19 전력 부하 예측 실험에서 MELO는 기존 방법 대비 높은 정확도를 입증했습니다.

핵심 포인트

• MELO(Memory-hedged Exponentially Weighted Least-Squares Online aggregation)라는 모델 무관 온라인 집계 기법을 제안하여 분포 이동 환경에서의 예측 성능을 개선함.
• EWLS 적응 전문가를 활용해 예측에 '헤징' 효과를 부여하고, MLpol이라는 매개변수 없는 규칙으로 원본 및 헤지된 예측을 효율적으로 결합함.
• 결정적 오라클 부등식(deterministic oracle inequalities)을 확립하여 제안 방법의 이론적 우위를 증명함.
• COVID-19 전력 부하 예측 사례에서, MELO는 외부 정책 변수 없이도 기존 최신 기법 대비 월등히 낮은 RMSE를 달성했음을 실증적으로 입증함.