Looped Diffusion Transformer: 동일한 블록을 디노이징 단계 내에서 여러 번 실행하고, 샘플링 시점에 루프 깊이를 변경할

요약

Looped Diffusion Transformer는 기존의 Text-to-Image DiT를 확장하는 대신, 공유된 트랜스포머 블록을 디노이징 단계 내에서 여러 번 반복 실행하여 효율성을 높인 모델입니다. 이 모델은 더 큰 모델보다 적은 연산량으로 높은 성능을 보이며, 샘플링 시 루프 깊이를 조절해 품질과 속도를 최적화할 수 있습니다.

핵심 포인트

• 공유 블록의 루핑 구조로 DiT를 효율적으로 확장함.
• 260M 파라미터가 6.5배 큰 모델을 능가하는 성능을 보임.
• 루프 깊이 조절만으로 품질과 연산량을 최적화 가능함.
• 깊은 감독 및 자체 변조 어텐션을 통해 루핑의 안정성을 확보함.