Trust-SSL: 항공 이미지의 강건한 자기 지도 학습을 위한 새로운 접근법

항공 이미지 분야에서 자기 지도 학습 (SSL)은 대표적인 표현 학습 방법론입니다. 하지만 실제 항공 이미지는 안개, 모션 블러, 비, 가림(occlusion) 등 다양한 환경적 요인으로 인해 심각하게 손상되는 경우가 많습니다. 기존의 SSL 방식들은 증강된 뷰들 간에 인변성(invariance)을 강제함으로써 의미론적 내용이 보존될 때 좋은 성능을 보였습니다. 그러나 이미지가 극도로 손상되면, 깨끗한 뷰와 손상된 뷰 간의 정렬을 강제하는 것이 오히려 잠재 공간(latent space)에 잘못된 구조를 주입할 위험이 있습니다.

본 연구는 이러한 외부 오염(corruption)에 대한 SSL의 강건성을 높이기 위해 새로운 학습 전략과 아키텍처 수정을 제안합니다. 핵심은 정렬 목표(alignment objective)에 샘플별, 요인별 '신뢰 가중치(trust weight)'를 도입하는 것입니다. 이 신뢰 가중치는 기존 대비 손실(contrastive loss)을 보완하는 가산 잔차 항(additive residual) 형태로 결합됩니다. 특히, 게이트 메커니즘 대신 Stop-Gradient를 사용하여 신뢰 가중치를 적용함으로써 백본 네트워크의 성능 저하 없이 강건성을 확보할 수 있다는 것이 중요한 발견입니다.

실험 결과에 따르면, Trust-SSL은 EuroSAT, AID, NWPU-RESISC45 등 주요 벤치마크에서 SimCLR나 VICReg 같은 기존 방법론 대비 가장 높은 평균 선형 프로브 정확도를 달성했습니다. 특히, 정보가 많이 제거된(information-erasing) 환경에서의 성능 개선 폭이 매우 두드러집니다. 예를 들어, EuroSAT 데이터셋의 haze 조건($s=5$)에서 SimCLR보다 무려 +19.9점 높은 점수를 기록하며 압도적인 강건성을 입증했습니다.

나아가, BDD100K 날씨 분할을 이용한 제로샷 교차 도메인 스트레스 테스트에서도 일관되게 AUROC(Area Under the Receiver Operating Characteristic Curve)를 +1~3점 개선하는 등, 실제 환경에서의 일반화 성능이 뛰어남을 보여주었습니다. 논문은 이러한 가산 잔차 공식화가 주요 성능 향상의 원천임을 두 가지 제거 실험(ablation study)을 통해 확인했습니다.

결론적으로, Trust-SSL은 단순히 인변성을 강제하는 것을 넘어, 데이터의 '신뢰도'를 측정하고 이를 학습 과정에 반영함으로써 불확실성 인식(uncertainty-aware) 기반의 SSL 설계 원칙을 제시합니다. 이는 실제 산업 환경에서 발생하는 다양한 센서 노이즈나 환경적 변화에 대응할 수 있는 실질적인 가이드라인을 제공합니다.