Flux2 Klein: Qwen3 텍스트 인코더의 VRAM을 5.5GB에서 3.2GB로 줄이면서 동일한 출력을 얻는 방법 (새 노드)

요약

Flux2 Klein은 Qwen3 텍스트 인코더의 불필요한 레이어(최종 정규화, LM head 등)를 제거하여 VRAM 사용량을 크게 줄이는 방법을 제시합니다. 표준 로더가 사용하는 전체 모델 구조 대신 핵심 부분만 구축함으로써, 동일한 출력을 유지하면서 메모리 효율성을 극대화할 수 있습니다. 이는 특히 VRAM이 제한적인 환경에서 LLM 구동에 큰 이점을 제공하는 실용적인 최적화 기법입니다.

핵심 포인트

• Qwen3 인코더의 VRAM을 5.5GB에서 3.2GB로 대폭 절감 가능합니다.
• 불필요한 레이어(최종 정규화, LM head)를 제거하는 것이 핵심입니다.
• ComfyUI 환경에서 LLM 구동 시 메모리 최적화에 유용합니다.
• 양자화된 GGUF 토큰 임베딩을 유지하며 효율성을 높였습니다.