MOSS-Image (5B, Apache 2.0)를 12GB RTX 3060에서 INT8 양자화 및 lodestones의 8단계 DMD 터보로

평범한 RTX 3060 12 GB / 16 GB RAM에 새로운 MOSS-Image (5B 단일 스트림 DiT, Qwen3.5-9B 텍스트 인코더, FLUX.2 VAE, Apache 2.0)를 가지고 의도적으로 까다로운 프롬프트 35개를 테스트했습니다. 이 프롬프트들은 영어/중국어/일본어로 된 이미지 내 밀집된 텍스트, 악센트 부호, 정확한 개수 지정, 속성 바인딩, 공간적 관계, 부정(negation), 손, 시계, 매우 긴 프롬프트, 그리고 MOSS의 Layout JSON을 포함합니다. 단일 시드(42)를 사용했고, 첫 번째 결과물이며, 선택적으로 가장 좋은 것만 고른 것이 아닙니다. 실패 사례도 포함되어 있습니다. 첫 번째 이미지는 35개 모든 이미지의 연락지(contact sheet)입니다.

설정 모델: u/XCEED123의 INT8 ConvRot 양자화(HF)를 사용했으며, 총 약 15 GB가 필요합니다. 공식 ComfyUI 노드(GitHub 레포의 comfyui/moss-image)와 함께 사용했습니다. VRAM은 약 9.7 GB에서 최고치를 기록했습니다.
기본 설정: 50 스텝, euler / sgm_uniform, CFG 3, shift 5, uncond layer-skip 22.

• 1 MP에서 137초 소요
• 1.6 MP에서 약 230초 소요
• 2.1 MP에서 340초 소요

터보 설정: lodestones의 8단계 DMD(아직 학습 중)를 사용했습니다. 이것은 일반적인 LoRA가 아닙니다. 카드에 따르면 델타 값이 bf16 반올림보다 작기 때문에, fp32 시간 임베딩/변조 바이어스와 자체 데이터 공간 샘플러와 함께 fp32로 병합되지 않은 상태에서 실행해야 합니다 (CFG 없음, 스케줄러 없음). 저는 이 INT8 기본 모델 위에 작동하는 작은 ComfyUI 노드를 작성했습니다.

• 1 MP에서 약 24초 소요
• 1.6 MP에서 약 36초 소요 (약 6배 빠름)

관찰 결과:
텍스트 렌더링은 매우 강력합니다. 메뉴, 악센트가 있는 문자 및 라벨, 중국어 칠판, 일본어 간판, 그리고 이중 언어 네온사인 모두 거의 실수 없이 잘 나왔습니다. 터보에서도 마찬가지입니다.
Layout JSON도 작동합니다: 포스터, 4분할 만화, 인포그래픽이 상자 구조를 따릅니다. 긴 프롬프트(약 300단어의 시장 장면)는 놀라울 정도로 잘 유지됩니다.
터보는 텍스트와 레이아웃 면에서는 기본 설정과 비슷하지만, 조명(

레이아웃 JSON), 크기 및 설정: https://pastebin.com/U8nChbZ9 Turbo 노드 + ComfyUI 워크플로우: https://pastebin.com/9trM12Qc 기본 워크플로우: XCEED123의 HF 레포(workflows/)에 있음 크레딧: 모델은 OpenMOSS, 양자화는 XCEED123, DMD 증류는 lodestones가 담당함 제출자: /u/mearbode [링크] [댓글]