Looped SSMs: 시계열 분류를 위한 깊이 재귀 및 입력 재형성 기법

요약

본 연구는 상태 공간 모델(SSM)에 깊이 재귀(depth-recurrence)와 입력 재형성(input reshaping) 기법을 적용하여 시계열 분류 성능을 혁신적으로 개선하는 방법을 제안합니다. 실험 결과, 파라미터를 공유하는 Looped SSM이 표준 SSM과 유사하거나 더 높은 성능을 보였으며, 이는 파라미터 공유가 최적화를 돕는 유익한 귀납적 편향임을 시사합니다. 또한 입력 재형성 기법을 결합했을 때 시너지 효과를 통해 정확도가 추가로 향상됨을 입증했습니다.

핵심 포인트

• 깊이 재귀(depth-recurrence)는 시퀀스 재귀와 독립적으로 작동하며 SSM의 최적화를 단순화하는 유익한 귀납적 편향을 제공함
• Looped SSM은 더 작은 가설 공간 내에서도 표준 SSM과 대등하거나 뛰어난 시계열 분류 성능을 보임
• 입력 재형성(input reshaping) 기법은 타임스텝 연결 및 특징-시간 차원 재청킹을 통해 모델 성능을 1~6% 향상시킴
• 깊이 재귀와 입력 재형성을 결합할 경우 시계열 데이터 처리에 있어 강력한 시너지 효과가 발생함