AnyFlow: On-Policy Flow Map Distillation을 이용한 Any-Step 비디오 확산 모델

요약

AnyFlow는 기존의 Few-step 비디오 생성 기술인 일관성 증류(Consistency Distillation)가 테스트 시 더 많은 샘플링 단계에서 성능 저하를 보이는 한계를 해결하기 위해 제안된 프레임워크입니다. AnyFlow는 모델을 고정된 몇 개의 샘플링 단계에만 증류하는 대신, 전체 ODE 샘플링 궤적을 최적화하여 임의의 시간 간격에 대한 Flow Map 전이 학습으로 전환합니다. 이를 통해 온-정책 증류를 수행하고 테스트 시 이산화 오류 및 노출 편향을 줄여, 샘플링 단계 예산에 따라 성능이 확장되는 Any-step 비디오 확산 모델을 구현했습니다.

핵심 포인트

• AnyFlow는 Few-step 비디오 생성의 한계인 샘플링 단계 증가에 따른 성능 저하 문제를 해결합니다.
• 기존 방식과 달리 전체 ODE 샘플링 궤적을 최적화하는 Flow Map 기반 증류 프레임워크를 사용합니다.
• 증류 대상을 종단점 일관성 매핑에서 임의 시간 간격에 대한 Flow Map 전이 학습으로 확장했습니다.
• Flow Map Backward Simulation을 통해 온-정책 증류를 수행하여 테스트 시 이산화 오류 및 노출 편향을 줄입니다.
• 1.3B부터 14B 파라미터 규모까지 다양한 아키텍처에서 Few-step 영역의 성능은 물론, 샘플링 단계에 따른 확장성도 입증했습니다.