FLUX.2 및 LTX 2.3 확산 모델(Diffusion Model)을 두 개의 GPU로 분할 실행하기 (LAN 또는 동일 기기):

요약

FLUX.2 및 LTX 2.3과 같은 대규모 확산 모델을 두 개의 GPU로 분할하여 실행할 수 있는 기술을 소개합니다. NVIDIA의 NVENC를 활용해 중간 활성화 데이터를 실시간으로 압축 전송함으로써 네트워크 대역폭 병목 현상을 해결한 것이 핵심입니다.

핵심 포인트

• NVENC를 사용하여 모델의 중간 활성화 텐서를 HEVC로 3~10배 압축하여 전송
• RTX 5090과 RTX 4090 조합의 기가비트 이더넷 환경에서 1024 해상도 이미지 생성 시 네트워크 오버헤드를 0.5초로 최소화
• ComfyUI-Mesh 프로젝트를 통해 LAN 또는 동일 기기 내 GPU 분할 실행 가능
• OpenClaw-USB-Portable을 통해 Node.js 설치 없이 USB 드라이브로 OS 간 작업 공간 이동 가능