PaAno+: 시계열 이상 탐지를 위한 다중 스케일 인코딩 및 변수 간 어텐션
요약
PaAno는 시계열 이상 탐지를 위한 경량화된 패치 지향적 모델입니다. 다중 스케일 특징 추출과 변수 간 어텐션 메커니즘을 통해 계산 효율성을 높이면서도 높은 탐지 정확도를 달성했습니다.
핵심 포인트
- 다중 스케일 컨볼루션 커널을 통한 계층적 시간 특성 포착
- 변수 간 융합 어텐션 모듈로 다변량 의존성 모델링 강화
- 패치-윈도우 정렬 기반의 새로운 사전 학습 작업 제안
- TSB-AD 벤치마크에서 SOTA 성능 및 높은 계산 효율성 입증
시계열 이상 탐지 (Time-series anomaly detection)는 산업 및 의료 모니터링뿐만 아니라 기타 중요한 영역에서 상당한 실용적 가치를 지닙니다. 현재의 Transformer 및 대형 모델 (large-model) 기반 탐지 방식은 과도한 계산 오버헤드 (computational overhead)를 발생시키는 반면, 기존의 경량화된 대안들은 불충분한 특징 추출 (feature extraction)과 다변량 변수 간 의존성 (dependencies) 모델링의 미흡함이라는 제약을 가지고 있습니다. 이러한 단점들을 완화하기 위해, 본 연구는 패치 지향적 표현 학습 (patch-oriented representation learning) 패러다임 내에서 PaAno라고 명명된 경량화되고 효율적인 이상 탐지 모델을 개발합니다. 인코더 모듈에서는 계층적 시간 특성을 포착하기 위해 서로 다른 수용 영역 (receptive fields)을 가진 컨볼루션 커널 (convolutional kernels)을 사용하여 다중 스케일 특징 추출 백본 (multiscale feature-extraction backbone)을 구축합니다. 이후 잔차 연결 (residual connection) 최적화와 결합된 교차 스케일 적응형 어텐션 집계 (cross-scale adaptive attention aggregation)는 특징 표현 학습 (feature representation learning)을 더욱 안정화합니다. 변수 간 상관관계를 명시적으로 특성화하기 위해 변수 간 융합 어텐션 (cross-variable fusion attention) 모듈이 내장되어, 복잡한 운영 조건 속에서도 모델이 이상 패턴을 식별할 수 있도록 합니다. 또한, 시계열의 내재적인 구조적 특성을 밝혀내기 위해 시간적 패치-윈도우 정렬 (temporal patch-window sorting)에 기반한 새로운 사전 학습 작업 (pretext task)을 맞춤화하였으며, 특징 판별력을 높이기 위해 패치 임베딩 공간 (patch embedding space)을 최적화하는 트리플렛 손실 (triplet loss)을 활용합니다. TSB-AD 벤치마크에 대한 광범위한 실험 결과, 제안된 PaAno는 단변량 및 다변량 작업 모두에서 최첨단 (state-of-the-art) 탐지 정확도를 달성하였으며, 기존 PaAno와 비교하여 VUS-PR을 포함한 평가 지표 전반에서 상당한 성능 향상을 보여주었습니다. 컴팩트한 네트워크 설계를 활용함으로써, 제시된 모델은 우수한 계산 효율성을 달성하여 자원이 제한된 단말기에서도 실시간 이상 추론 (real-time anomaly inference)을 위한 배포가 가능합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기