Flow Matching에서의 방향 및 주파수 교정을 통한 노출 편향(Exposure Bias)의 자가 완화

Flow Matching (FM)은 놀라운 생성 성능을 달성했지만, 훈련(training)과 추론(inference) 사이의 불일치로 인해 노출 편향 (Exposure Bias) 문제를 겪고 있습니다. 기존의 완화 전략들은 일반적으로 정적인 제약 조건이나 외부 휴리스틱 (heuristics)에 의존합니다. 본 연구에서는 노출 편향 자체가 스스로의 교정을 안내할 수 있는 동적 신호 (dynamic signals)를 본질적으로 포함하고 있다는 점을 제안합니다. 이를 활용하기 위해, 우리는 DEFAR (DirEctional-Frequency Adaptive Rectification)를 도입합니다. 이 프레임워크는 훈련 중에 단일 단계 추론 과정을 시뮬레이션하여 노출 편향을 식별합니다. 또한 편향 자체로부터 얻은 방향 및 주파수 적응형 피드백 신호를 활용하여 모델의 편향 내성 (bias tolerance)을 강화합니다. 이는 두 가지 핵심 구성 요소로 이루어집니다: (1) 항-표류 교정 (Anti-Drift Rectification, ADR). ADR은 추론 시의 표류 (drift)를 이탈된 상태를 목표 방향으로 다시 조종하는 방향을 학습하기 위한 신호로 취급합니다. ADR은 모델에 내재적인 능동적 자가 교정 (active self-rectification) 능력을 부여합니다; (2) 주파수 보상 (Frequency Compensation, FC). 경험적으로, 우리는 누적된 편향이 고노이즈 (high-noise) 단계에서 저주파 (low-frequency) 성분의 부족에서 기인하는 경우가 많으며, 노출 편향이 누락된 주파수를 운반하고 있음을 관찰했습니다. FC는 편향 자체를 자가 피드백 가중치 인자로 활용하여 누락된 주파수 성분을 강화합니다. CIFAR-10, CelebA-64, ImageNet-256/512에 대한 실험 결과, DEFAR은 이전의 베이스라인 (baselines)보다 뛰어난 성능을 보였으며, 우수한 확장성 (scalability), 호환성 (compatibility) 및 추론 견고성 (inference robustness)을 추가로 입증했습니다.