VEDA Sparse Attention이 ComfyUI에서 MiniMax H3용으로 사용 가능해졌습니다

아직 많은 분들이 이 사실을 모르시는 것 같아서 공유하고 싶었습니다. VEDA Sparse Attention이 이제 ComfyUI 커스텀 노드로 MiniMax H3에 대해 사용 가능합니다. 오늘 제 환경(RTX 4090 Laptop 16GB, 32GB RAM)에서 테스트해 보았습니다: 4단계 LoRA, 15초 비디오, 1344x768 해상도 기준
VEDA 미사용 시: 8분 5초
VEDA (90% 희소성 적용) 사용 시: 4분 32초
작업 흐름(workflow), LoRA, 설정은 모두 동일했습니다. 변경된 부분은 VEDA를 활성화한 것뿐입니다. 결과물에서 품질 저하를 전혀 느낄 수 없었습니다. VEDA는 LoRA가 아닙니다. 이는 학습된 예측기(learned predictor)를 사용하여 어떤 어텐션 타일이 중요한지 추정하고, 전체 어텐션 맵 대신 관련 부분 집합만 계산합니다. 현재의 예측기는 T2VA, FL2VA 및 R2VA와 작동하며, 이름에 '8NFE'가 붙어 있지만 8단계로 제한되지 않습니다.
설치는 간단합니다. 커스텀 노드: https://github.com/veda-sparse/Veda-on-ComfyUI
예측기(Predictor): https://huggingface.co/Veda-Sparse/Minimax-H3-T2VA-Veda-8NFE-600Step-Preview
이 예측기를 다음 경로에 넣으세요: ComfyUI/models/veda/
그런 다음, 모델/LoRA 로더 다음에 그리고 가이더(guider)나 샘플러(sampler) 앞에 MODEL 라인에서 Veda Sparse Attention (MiniMax H3)을 추가하세요.
저는 다양한 희소성 값(sparsity values)을 시도해 봤지만, 90%가 저에게는 제대로 작동하는 값이어서 기본 학습된 값을 유지하고 있습니다. 제 환경에서는 특히 시각적 품질 손실이 없었다는 점을 고려할 때 상당히 큰 차이를 만들었습니다. 아래에 15초짜리 예시를 추가합니다. 다른 분들이 다양한 GPU에서 어떤 결과를 얻게 될지 궁금하네요.
/u/robomar_ai_art 작성