T3R: 그래디언트 회전(Gradient Rotation)을 통한 그래프 신경망(GNN)의 심층 테스트 시간 적응(Test-Time

실제 시스템에 배포된 그래프 신경망 (Graph Neural Networks, GNNs)은 일반적으로 고정된 가중치를 가지며, 이는 분포 변화 (distribution shifts) 상황에서 성능 저하를 초래하는 경우가 많습니다. 이러한 문제는 전통적인 미세 조정 (fine-tuning)을 통해 완화될 수 있지만, 많은 실제 사례에서 레이블이 지정된 데이터를 수집하는 것은 비용이 많이 들거나 불가능합니다. 잠재적인 접근 방식은 테스트 시간 훈련 (Test-Time Training, TTT)으로, 레이블이 없는 테스트 데이터를 사용하여 모델의 가중치를 적응시키지만, 이는 일반적으로 모델 파라미터의 일부에만 영향을 미치는 얕은 업데이트 (shallow updates)에 국한됩니다. 우리는 효과적인 테스트 시간 훈련에 필수적인 타겟 작업 (target task)과 보조 작업 (auxiliary task) 간의 작업 친화도 (task affinity)를 개선하기 위해 여러 개의 Rotograd 행렬을 활용하는 T3R을 제안합니다. T3R은 나아가 이러한 행렬을 사용하여 자기 지도 신호 (self-supervised signals)의 방향을 재설정함으로써 타겟 작업을 위한 대리 그래디언트 (surrogate gradients)를 생성하는 회전 기술을 도입하며, 이를 통해 거의 전체 아키텍처에 걸쳐 심층적인 적응 (deeper adaptation)을 가능하게 합니다. 실증적으로, T3R은 회귀 데이터셋에서 표준 추론 (standard inference) 대비 MAE를 0.172 포인트 감소시켰으며, 적응 기능이 없는 모델과 비교하여 교차 도메인 OGB 분류 벤치마크에서 최소 9.37%의 상대적 개선을 달성했습니다. 이러한 결과는 특히 전통적인 미세 조정이나 재학습이 불가능한 환경에서 그래프 기반 시스템을 위한 적응 파이프라인을 개발할 수 있는 잠재력을 강조합니다.