RT @AYi_AInotes: 와, 오픈소스 커뮤니티의 천재들이 또 한 번 대기업들의 하드웨어 진입 장벽을 무너뜨렸습니다.
MiniMax가 최근 공개한 33.1B 이미지 생성 대형 모델 MiniMax-H3-Image는
원래 버전의 크기가 무려 68.65 GB에 달해 일반 가정용 컴퓨터로는 구동이 불가능했지만,
불과 며칠 만에 커뮤니티에서 27개의 양자화(quantization) 버전을 뽑아냈고, 다운로드 횟수는 이미 11만 회를 돌파했습니다.
제가 최근 이 모델들의 실제 사용 후기를 살펴보았는데, 일반 사용자들에게는 압축된 경험 자체가 정말 최고입니다.
가장 궁금해하시는 VRAM(비디오 메모리) 장벽부터 말씀드리자면, 원래 버전의 68GB는 RTX 4090으로 구동할 때도 숨이 차는 수준이었지만,
커뮤니티에서 Q4 버전으로 압축하여 크기를
10.78G로 줄였고, 극한으로 최적화된 Q2_K 버전은 심지어 6.4G에 불과합니다. 이 정도면 슬림한 Mac에서도 강제로 구동할 수 있습니다.
만약 VRAM이 여유롭다면 Unsloth에서 공개한 18.8G FP8 버전을 사용해도 화질 차이는 원래 버전과 거의 없습니다.
더 흥미로운 점은 네이티브 4K 출력이 가능하다는 것입니다. 이전에는 로컬 환경에서 고화질 대형 이미지를 생성할 때, 작은 이미지를 먼저 뽑고 확대기(upscaler)를 거쳐야 했고,
VRAM이 순식간에 폭발하는 경우가 많았습니다. 하지만 이 모델은 4096 x 4096의 1600만 화소까지 한 번에 처리할 수 있으며, 심지어 21:9 영화 와이드스크린 비율도 네이티브로 바로 완성되어 두 단계 확대 과정에서 발생하는 흐릿함(smudging)을 없앴습니다.
속도 면에서도 문제점을 완벽하게 잡아냈습니다. 공식적으로 6 스텝 샘플링(steps sampling)으로 줄였고, CFG 값조차 필수가 아니게 되어, 예전처럼 그림 한 장 뽑는 데 반나절씩 걸리던 고통에서 벗어났습니다.
이 외에도 이미지 생성과 수정 기능을 하나로 통합했습니다. 한 번에 16장의 레퍼런스 이미지를 넣어 캐릭터 일관성(character consistency)을 강력하게 유지할 수 있으며, 현재 ComfyUI의 GGUF 노드와 Mac용 MLX 가중치 모두 준비되어 있습니다.
솔직히 저는 오픈소스 커뮤니티가 가장 매력적인 부분이라고 생각합니다. 대기업들은 천장을 부수는 역할을 하고,
커뮤니티의 천재들이 거대한 괴물 같은 모델을 일반 가정집의 8GB, 12GB 구형 그래픽카드도 부드럽게 돌릴 수 있는 소형 캐논(小鋼炮)으로 분해하는 것입니다.
하드웨어 사양이 부족하지만 로컬 환경에서 최고 수준의 4K 화질을 무료로 맛보고 싶은 분들에게는 이 준비된 가중치들을 다음 도전 과제로 삼아보시길 추천합니다.