TS2Vec을 시계열 분류를 위한 파운데이션 모델로 전환하기

요약

본 논문은 시계열 분류 방법론인 TS2Vec이 파운데이션 모델로 전환될 수 있음을 제안합니다. 기존의 자기 지도 학습 방식에 세 가지 변경 사항을 적용하여, 단일 인코더를 가진 확장 컨볼루션 네트워크(TS2Vec-FM)를 구축했습니다. 이 모델은 여러 데이터셋에서 사전 훈련되어 높은 성능을 보였으며, 다른 FM과 달리 어텐션이나 패치 토크나이저 없이도 우수한 결과를 달성했습니다.

핵심 포인트

• TS2Vec의 속성을 활용하여 파운데이션 모델로 전환 가능함을 입증함.
• 합성 코퍼스 사전 훈련 및 원본/정규화된 두 가지 입력 뷰를 사용함.
• 어텐션이나 패치 토크나이저 없이도 최고 수준의 성능을 달성한 것이 특징임.