GatedLinear: 시계열 예측을 위한 보완적 선형 기저의 적응적 라우팅
요약
GatedLinear는 시계열 예측의 이질성을 해결하기 위해 적응적 라우팅 프레임워크를 제안합니다. 이는 전역 추세, 차분 기반 증분, 위상 정렬 순환 등 세 가지 전문화된 선형 기저 풀을 활용하며, Tri-Factorized Fusion Gate를 통해 동적으로 오케스트레이션됩니다. 이 방식은 복잡한 모델 대비 높은 정확도와 작은 파라미터 크기를 달성합니다.
핵심 포인트
- 시계열 예측의 이질성을 해결하는 적응적 라우팅 프레임워크 제안
- 전역 추세, 증분 드리프트, 위상 순환 등 3가지 전문화된 기저 활용
- Tri-Factorized Fusion Gate를 통한 동적이고 세밀한 소프트 라우팅 구현
- 최신 복잡 모델 대비 높은 정확도와 작은 파라미터 크기 달성
시계열 예측은 부드러운 추세 지속부터 비정상적인 드리프트, 엄격한 위상 정렬 순환에 이르기까지 다양하고 종종 상호 배타적인 시간 역학을 포착하는 모델을 요구합니다. 최근의 딥러닝 모델들은 정확도를 향상시켰지만, 일반적으로 고정된 알고리즘적 귀납 편향(예: self-attention 또는 spectral filtering)에 의해 통제되는 단일 계산 백본을 통해 이러한 다양한 패턴들을 강제합니다. 이러한 단일 메커니즘 접근 방식은 서로 다른 변수와 예측 지평이 근본적으로 다른 예측 처리를 필요로 하는 실제 시계열의 심오한 이질성(heterogeneity)에 종종 어려움을 겪습니다. 이를 해결하기 위해, 우리는 GatedLinear를 제안합니다. 이는 예측을 보완적인 선형 기저의 적응적 라우팅으로 간주하는 경량 프레임워크입니다. GatedLinear는 세 가지 전문화된 메커니즘 풀(pool)을 활용합니다: 부드러운 투영을 위한 전역 추세-계절성 기저, 비정상적인 드리프트를 위한 차분 기반 증분 기저, 그리고 명시적 주기적 재사용을 위한 위상 정렬 순환 기저입니다. 이러한 뚜렷한 동작들을 동적으로 오케스트레이션하기 위해, 우리는 Tri-Factorized Fusion Gate를 도입합니다. 이는 라우팅 결정을 채널별 선호도(channel-specific preferences), 지평 인식 오프셋(horizon-aware offsets), 그리고 알려진 미래 시간 마크에서 파생된 위상 인덱스 편향(phase-indexed biases)으로 분리합니다. 이 설계는 모델이 계산적으로 무거운 신경 모듈을 쌓지 않으면서도, 다양한 예측 체제에 걸쳐 매우 세밀한 지점별 소프트 라우팅을 수행할 수 있도록 합니다. 표준 벤치마크에서의 실험 결과는 우리의 방법이 최신 복잡한 파운데이션 모델들(foundational models)과 비교하여 최고 수준의 정확도를 달성하거나 매우 경쟁적인 정확도를 제공하는 동시에, 명시적으로 해석 가능한 라우팅 패턴을 제공하고 훨씬 더 작은 파라미터 크기로 작동함을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기