RMISC: 시계열 파운데이션 모델을 위한 대규모 실세계 다변량 코퍼스
요약
본 논문은 시계열 파운데이션 모델(TSFMs)의 일반화 성능 향상을 위해 대규모 실세계 다변량 코퍼스인 RMISC를 구축했습니다. 이 아카이브는 200개 데이터셋과 1420억 개의 시점 데이터를 포함합니다. 실험 결과, 실세계 다변량 데이터로 학습된 TSFMs가 합성 데이터 기반 모델보다 전반적인 일반화 성능을 크게 향상시키는 것을 입증했습니다.
핵심 포인트
- 실세계 코퍼스 RMISC 구축: 1420억 개의 시점 데이터를 포함하는 대규모 아카이브.
- TSFMs의 한계 지적: 기존 모델은 합성 데이터에 의존하여 실세계 복잡성을 포착하지 못함.
- 결과 분석: 실세계 다변량 데이터 통합이 TSFM의 일반화 성능을 크게 향상시킴.
- 실용적 시사점: 강력한 TSFM 개발에는 실제 세계 데이터를 활용하는 것이 필수적임.
최근 몇 년 동안, 고급 제로샷 일반화(zero-shot generalization)를 달성하는 시계열 파운데이션 모델(TSFMs)을 사용한 다변량 모델링이 등장했습니다. 현대의 다변량 TSFMs는 주로 다변량 합성 데이터에 사전 학습되는데, 이는 확장하기는 쉽지만 실세계 시계열에 존재하는 복잡한 시간적 역동성 및 변수 간 관계를 포착하지 못할 수 있습니다. 이로 인해 중요한 질문이 제기됩니다: 실세계 코퍼스로 훈련된 선도적인 TSFMs가 합성 데이터로 훈련된 모델보다 더 잘 수행하는지, 그리고 어느 정도까지 그러한지에 대한 문제입니다? 이에 답하기 위해, 우리는 RMISC 코퍼스를 구축했습니다. 이는 약 200개의 데이터셋과 다양한 도메란에 걸쳐 1420억 개의 시점(time points)을 포함하는, 상당히 대규모의 고품질 오픈 액세스 실세계 다변량 시계열 아카이브입니다. 나아가, 우리는 단변량, 합성 다변량, 그리고 실세계 다변량 데이터로 네 가지 고급 TSFMs를 사전 학습시키고, 표준 인-분포(in-distribution) 및 아웃-오브-분포(out-of-distribution) 벤치마크에서 이들의 제로샷 일반화 능력을 평가했습니다. 실험 결과는 실세계 다변량 데이터를 통합하는 것이 단변량 및 다변량 TSFMs 모두의 일반화 성능을 주로 향상시킨다는 것을 보여줍니다. 이러한 결과는 실세계 다변량 데이터가 더 강력한 TSFM 개발에 어떻게 기여하는지에 대한 깊은 이해를 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기