MiniMax H3 오픈 웨이트 (open-weight) 출시를 보고, 직접 몸소 겪어봐야 직성이 풀리는 성격이라 제 소박한 12GB 그래픽 카드로 실제로 실행이 가능한지 확인해 보기로 했습니다. ComfyUI의 자체 문서에서는 CPU 오프로딩 (CPU offloading)을 사용할 경우 12GB가 최소 사양이라고 제안했기 때문입니다.

더 진행하기 전에, 제 결과보다 더 중요한 면책 조항을 말씀드리자면: 보고된 바에 따르면 해당 라이선스는 적용 대상 지역에서 EU, 영국, 한국, 그리고 미국을 제외하고 있습니다. 저는 이것을 건드리기 전에 제가 어디에 해당하는지 확인했습니다. 여러분도 따라 하고 계신다면, 40GB 이상의 데이터를 이미 다운로드한 후가 아니라 가장 먼저 확인하시기 바랍니다.

제가 실제로 한 일: 가장 흔한 사용 사례인 텍스트/이미지 기반 모델인 fl2va 체크포인트 (checkpoint)를 가져왔는데, 가장 작은 형태임에도 약 21GB였습니다. 이는 이미 제가 사용 가능한 VRAM (비디오 램)의 두 배가 넘는 용량입니다. ComfyUI의 안내에 따라 CPU 오프로딩 (CPU offloading)을 설정하고 간단한 이미지-투-비디오 (image-to-video) 프롬프트를 입력했습니다.

결과: 실행되었습니다. 하지만 빠르게 실행되지는 않았습니다. 제대로 된 하드웨어라면 합리적인 시간 내에 완료될 것으로 예상되는 생성이 제 환경에서는 빨래를 돌리고 돌아왔을 때까지도 끝나지 않을 정도로 오래 걸렸습니다. 완료된 단 하나의 클립을 확인했을 때, 출력 품질은 로컬에서 실행되는 오픈 모델치고는 진심으로 인상적이었습니다. 별도의 단계가 필요할 것이라고 예상했던 부분인 네이티브 오디오 생성 (native audio generation) 기능까지 포함되어 있었는데, 이 점이 실제로 저를 놀라게 했습니다.

유사한 하드웨어를 고려 중인 다른 사람에게 제가 해주고 싶은 말은, 가능은 하지만 쾌적하지는 않다는 것입니다. 만약 프롬프트를 입력하고, 수정하고, 다시 시도하는 식의 반복적인 실험 (iterative experiment)을 실제로 하고 싶다면, 오프로딩 (offloading)을 사용하는 12GB 그래픽 카드는 인내심을 시험하게 될 것입니다. 만약 단순히 모델이 로컬에서 실행될 수 있는지 확인하고, 품질을 평가하기 위해 한두 개의 실제 결과물을 생성해 보는 것이 목적이라면, 토요일 오후에 해볼 만한 합리적인 프로젝트가 될 것입니다. 만약 실제 프로덕션 (production) 수준의 반복 속도가 필요하다면, 훨씬 더 많은 VRAM (비디오 램)을 확보하거나, 어차피 호스팅될 레이어(layers)들은 API 호스팅 방식을 수용해야 할 것입니다.

요약 (TL;DR): CPU 오프로딩 (CPU offloading)을 사용하여 12GB 그래픽 카드에서 MiniMax H3의 fl2va 체크포인트 (checkpoint)를 실행했습니다. 작동은 잘 되었고, 네이티브 오디오 (native audio)를 포함한 출력 품질은 진심으로 훌륭했습니다. 하지만 생성 속도가 충분히 느리기 때문에, 이는 "빠른 반복 (rapid iteration)"을 위한 설정이 아니라 "모델 평가 (evaluate the model)"를 위한 설정입니다. 다운로드를 시작하기 전이 아니라, 시작한 후에 후회하지 않도록 라이선스의 지역 제외 사항 (territory exclusions)을 먼저 확인하세요.
web：www.fastrouteai.com