Ground Truth에 한 걸음 더 다가가기: 시계열 데이터 예측을 위한 다중 스케일 잔차 인식 표현 학습 파이프라인

Transformer 기반 모델들은 최근 몇 년 동안 셀프 어텐션 (self-attention) 메커니즘을 사용하여 장기 의존성 (long-range dependencies)을 포착함으로써 시계열 예측 (time-series forecasting) 분야의 선도적인 패러다임으로 부상했습니다. 이러한 성공에도 불구하고, 이러한 단일 단계 (single-stage) 예측 아키텍처는 구조적 불일치, 모델링되지 않은 확률적 성분 (stochastic components), 또는 불충분한 다중 스케일 시간 표현 (multi-scale temporal representations)으로 인해 발생하는 지속적인 체계적 잔차 편향 (systematic residual biases)을 나타냅니다. 잔차 (residuals)를 줄일 수 없는 노이즈 (irreducible noise)로 취급할 경우, 이러한 한계는 구조화된 오류 패턴의 적응적 교정을 방해하며 지속됩니다. 이 한계를 해결하기 위해, 우리는 예측 (forecasting)과 잔차 학습 (residual learning)을 표현 학습 (representation learning)의 별도 단계로 명시적으로 분리하는 모델 불가지론적 (model-agnostic) 2단계 프레임워크를 소개합니다. 먼저 베이스 Transformer (base transformer)가 초기 예측을 생성합니다. 그 후, 전용 메타 교정기 (meta-corrector)가 다변량 채널 (multivariate channels) 전반에 걸쳐 구조화된 오류 패턴을 동적으로 모델링하고, 변수 간 의존성 (cross-variable dependencies)을 보존하며, 베이스 Transformer의 잔차 편향을 반복적으로 정제합니다. 이 파이프라인을 가설 공간 확장 (hypothesis space expansion)으로 공식화함으로써, 우리의 프레임워크는 단일 단계 아키텍처에 내재된 근사화의 한계를 해결하고, 제한적인 가정에 대한 의존성을 제거하며, 복잡한 오류 역학 (error dynamics)의 엔드 투 엔드 (end-to-end) 학습을 가능하게 합니다. 확립된 프로토콜을 사용하여 8개의 대중적인 벤치마크 데이터셋에서 평가한 결과, 우리의 접근 방식은 표준 지표 (MSE, MAE)에서 상당한 개선과 함께 최첨단 (state-of-the-art) 성능을 달성했습니다. 결과는 체계적 편향을 완화하고 복잡한 시간 역학에 대한 강건성 (robustness)을 향상시키는 프레임워크의 능력을 입증하며, Transformer 기반 예측 모델의 실질적인 적용 가능성을 높입니다.