FLUX-2 공개: 차세대 이미지 생성 및 편집 모델의 기술적 진화

요약

FLUX-2는 기존 FLUX.1을 대체하는 것이 아닌, 새로운 이미지 생성 및 편집 모델입니다. 이 모델은 단일 텍스트 인코더(Mistral Small 3.1)를 사용하며, 다중 이미지를 참조 입력으로 받아 최종 결과물을 생성할 수 있습니다. 기술적으로는 Double-stream과 Single-stream 블록의 비율을 조정하고, Bias 파라미터 제거 및 SwiGLU 활성화 함수 적용 등 여러 최적화가 이루어졌습니다. 특히 4비트 양자화(Quantization) 지원 등을 통해 VRAM 제약이 있는 환경에서도 구동 가능성을 높인

핵심 포인트

• FLUX-2는 단일 텍스트 인코더 Mistral Small 3.1을 채택하여 프롬프트 임베딩 계산 과정을 단순화했습니다.
• 모델 아키텍처 측면에서 Double-stream 블록 대비 Single-stream 블록의 비율이 증가(Flux.1: 19/38 $ o$ FLUX-2: 8/48)하여 파라미터 효율성을 높였습니다.
• FLUX-2는 Bias 파라미터를 사용하지 않으며, SwiGLU 스타일 MLP 활성화 함수를 적용하는 등 여러 최신 트랜스포머 기술을 통합했습니다.
• Hugging Face의 Diffusers 라이브러리를 통해 모델 CPU 오프로딩 및 Flash Attention 3 지원, 4비트 양자화(bitsandbytes) 등을 구현하여 낮은 VRAM 환경에서도 구동이 가능합니다.