Rectified Flows의 정보 유출 지점: 보간 경로(Interpolation Path)를 따른 멤버십 신호의 특성 분석

생성 모델(Generative models)이 학습 데이터로부터 무엇을 유지하는지 이해하는 것은 저작권 및 개인정보 보호 측면에서 여전히 어려운 과제로 남아 있습니다. 모델은 단순히 문구 그대로를 재현하는 것을 넘어, 출력물에는 결코 나타나지 않지만 여전히 악용 가능한 학습 데이터의 더 미묘한 흔적들을 인코딩할 수 있습니다. 본 연구에서는 실제 배포되는 생성 시스템에서 점점 더 많이 사용되고 있는 Rectified Flows를 대상으로 이 영역을 연구합니다. 우리는 Rectified Flow 학습을 정의하는 보간 경로 (interpolation path) $X_λ= (1-λ)X_0 + λX_1$를 분석합니다. 우리는 학습 데이터와 테스트 데이터의 재구성(reconstruction) 사이에 $λ$에 따라 종 모양 곡선(bell-shaped curve)을 따르는 격차가 존재하며, 이는 검증 지표(validation metrics)가 안정적으로 유지되는 동안 학습 과정에서 축적된다는 것을 보여줍니다. 이 신호는 최대값을 가지며, 우리는 가우시안 가정 (Gaussian assumptions) 하에서 그 위치를 폐쇄형 (closed form)으로 도출합니다. 우리는 오디오와 이미지 모두에서 이러한 예측을 검증하였으며, 종 모양의 구조는 보편적(universal)인 반면, 피크(peak) 예측은 우리의 가정이 충족될 때 유효함을 보여줍니다. 개념 증명(Proof of concept)으로서, 우리는 이 특정한 $λ$ 분해 구조를 활용하여 학습 세트의 멤버와 비멤버를 구별하는 멤버십 추론 공격 (Membership Inference Attack)을 수행합니다.