Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
기존 플로우 기반 생성 모델의 고정된 차원 한계를 극복하기 위해 차원이 증가하는 분포 간의 흐름을 정의하는 EFlows와 EFMs를 제안합니다. 확장 연산자와 전송 맵을 결합하여 가변 크기의 그래프 및 시퀀스 생성을 가능하게 하는 새로운 프레임워크를 소개합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기플로우 기반 생성 모델 (Flow-based generative models)은 연속적 및 이산적 상태 공간 (state spaces) 전반에 걸쳐 빠르고 제어 가능한 생성 분야에서 놀라운 발전을 이루어냈으나, 기존의 파라미터화 (parameterizations) 방식은 고정된 차원이나 고정된 시퀀스 길이 (sequence lengths)로 제한되어 있습니다. 본 논문에서는 상태를 조건부 노이즈 (conditional noise)로 증강하여 확장하는 확장형 보간법 (expanding interpolant)을 따라 차원이 증가하는 분포 간의 플로우를 정의하는 확장형 생성 플로우 (Expanding Generative Flows, EFlows)를 소개합니다. 이러한 구조를 바탕으로, 우리는 확장형 보간법을 효율적인 몇 단계 생성 모델 (few-step generative models)로 증류하는 새로운 클래스의 플로우 맵인 확장형 플로우 맵 (Expanding Flow Maps, EFMs)을 제안합니다. 각 EFM은 임의의 두 타임스텝 (timesteps) 사이의 맵을 두 가지 학습 가능한 연산으로 분해합니다: 현재 상태를 조건으로 새로운 좌표나 토큰을 통해 상태 공간을 증강하는 확장 연산자 (expand operator), 그리고 확장된 상태를 보간법을 따라 앞으로 밀어내는 전송 맵 (transport map)입니다. 이러한 연산자들을 결합하면 상태를 확장하는 동시에 노이즈를 제거하는 단일 맵을 얻을 수 있으며, 확장 연산자가 항등 함수 (identity)인 특수한 경우로서 기존의 고정 캔버스 플로우 (fixed-canvas flows) 및 플로우 맵을 복원합니다. 나아가 우리는 이 프레임워크를 이산 심플렉스 (discrete simplex)로 확장하여, 가변 크기의 그래프 생성 및 가변 길이의 시퀀스 생성을 가능하게 합니다. 연속적 및 이산적 양상 (modalities) 모두에서, 우리는 EFlows와 EFMs가 출력 크기 자체가 학습 가능하고 제어 가능한 자유도 (degree of freedom)인 설정들을 위한 원칙적인 프레임워크임을 입증합니다.