Transformer 아키텍처는 시계열 예측 (time series forecasting) 분야에서 강력한 잠재력을 보여주었으며, 여기서 멀티 헤드 셀프 어텐션 (multi-head self-attention)은 과거 타임스탬프 전반의 시간적 의존성 (temporal dependencies)을 포착하기 위해 널리 사용됩니다. 그러나 표준 셀프 어텐션 (standard self-attention)은 룩백 길이 (look-back length)에 대해 이차 시간 및 메모리 복잡도 (quadratic time and memory complexity)를 가집니다. 이러한 비용은 빠르고 메모리 효율적인 추론 (inference)이 중요한 자원 제한적 또는 고처리량 예측 시스템에서의 사용을 제한할 수 있습니다. 질적 및 양적 분석을 통해, 우리는 시계열 예측에서의 셀프 어텐션 맵 (self-attention maps)이 서로 다른 타임스탬프에 걸쳐 중복된 패턴을 자주 포함한다는 것을 관찰했습니다. 이러한 현상은 많은 실제 시계열 데이터에 존재하는 반복적인 시간적 패턴 및 상대적으로 안정적인 시간적 상관관계 (temporal correlations)와 관련이 있을 수 있습니다. 이러한 관찰에 착안하여, 우리는 공유 가능한 학습 가능 행렬 (shared learnable matrix)과 입력 의존적 잔차 성분 (input-dependent residual component)으로 어텐션 점수 (attention score)를 표현하는 플러그 앤 플레이 (plug-and-play) 어텐션 메커니즘인 셀프 게이팅 어텐션 (Self-Gating Attention, SGA)을 제안합니다. 공유 행렬은 공통적인 어텐션 패턴을 포착하는 반면, 잔차 성분은 입력 의존적 변동을 포착합니다. 이러한 방식으로 SGA는 표준 어텐션 점수 계산에 사용되는 쿼리 (query) 및 키 (key) 프로젝션을 피함으로써, 룩백 길이에 대해 선형 시간 및 점수 행렬 메모리 복잡도 (linear time and score-matrix memory complexity)를 달성합니다. 우리는 SGA를 여러 예측 백본 (forecasting backbones)에 통합하고, 전기, 금융, 날씨, 의료 모니터링, 인간 활동 및 기후 기록을 다루는 9개의 공개된 실제 데이터셋에서 표준 셀프 어텐션 및 경량 어텐션 변형 모델들과 비교했습니다. 결과에 따르면 SGA는 최첨단 (state-of-the-art) 어텐션 메커니즘에 대해 경쟁력 있는 예측 성능을 유지하면서도 공개 벤치마크에서의 추론 효율성을 향상시킵니다. 이러한 벤치마크 결과는 배포 지향적인 증거를 제공합니다.