Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
이질적인 환경에서 수집된 데이터로부터 불변 요인과 이질적 요인을 분리하여 추출하는 ATLAS 프레임워크를 제안합니다. 보조 레이블과 불변성 원리를 활용해 환경 변화에도 강건한 저차원 표현을 학습하며, 전이 학습 및 잠재 요인 회귀에서 뛰어난 성능을 보입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기본 논문은 고차원 공변량(covariates)이 이질적인 환경(heterogeneous environments)으로부터 수집되며, 이 중 일부 환경에서만 보조 레이블(auxiliary labels)을 사용할 수 있는 다중 환경 요인 모델(multi-environment factor model)을 다룹니다. 공변량의 결합 분포(joint distribution)는 환경에 따라 다를 수 있는 반면, 잠재 구조(latent structure)는 공유된 로딩(loadings)을 가진 불변 요인(invariant factors)과 환경 특화된 로딩을 가진 이질적 요인(heterogeneous factors)으로 분해됩니다. 이러한 모델은 해석과 반응 변수 $Y$의 강건한 표본 외 예측(out-of-sample prediction)을 위해 안정적인 저차원 표현(low-dimensional representations)을 탐색하는 전이 학습(transfer learning) 및 잠재 요인 회귀(latent factor regression)에 의해 동기 부여되었습니다. 불변성 원리(invariance principle)를 활용하여, 우리는 최소한의 구조적 조건 하에서 불변 요인과 이질적 요인이 얽힘 해제(disentangled)됨을 보여줍니다. 이를 바탕으로, 우리는 이질적 환경 간 잠재 정렬을 통한 보조 레이블 및 불변성 가이드 전이인 ATLAS(Auxiliary-label and invariance-guided Transfer via Latent Alignment across heterogeneous environmentS)를 제안합니다. ATLAS는 불변성 원리를 활용하여 정렬된 불변 요인과 정렬되지 않은 이질적 요인을 분리하고, 나아가 보조 레이블의 감독(supervision)을 활용하여 해당 정렬되지 않은 이질적 요인으로부터 예측 불변(prediction-invariant) 및 전이 가능한 요인을 추출하는 통합된 절차입니다. ATLAS는 다운스트림 잠재 요인 회귀(downstream latent factor regression)에서 오라클(oracle)에 가까운 성능을 내며, 보조 레이블을 사용할 수 있는 경우 전체 잠재 신호를 통해 새로운 환경에서의 전이 가능한 예측을 가능하게 하고, 그렇지 않은 경우에는 강건한 불변 요인 전용 예측으로 축소됩니다. 우리는 불변 및 이질적 요인의 복구, 모든 반응 불변(response-invariant) 요인의 식별, 그리고 $Y$ 내의 불변 신호 추정을 위한 정교한 비점근적 오차 한계(non-asymptotic error bounds)를 확립합니다.