ComfyUI-SeedVR2-VideoUpscaler-with-TensorRT v1.6.6 업데이트: 네이티브 ConvRot W4A8 지원 및

며칠 전, 제가 v1.5.7에 대한 정보를 게시했을 때, 댓글에서 w4a8 지원에 관한 요청을 받았습니다. https://www.reddit.com/r/StableDiffusion/comments/1wuj0rj/updated_updated/ 처음에는 구현이 간단할 것이라고 생각했지만, 실제로 시도해 보니 꽤 어려움을 느꼈습니다. 하지만 안정적으로 작동하도록 만들었기 때문에 v1.6.6으로 출시합니다. https://github.com/ussoewwin/ComfyUI-SeedVR2-VideoUpscaler-with-TensorRT/releases/tag/v1.6.6 https://huggingface.co/ussoewwin/SeedVR2-ConvRot-INT8-and-w4a8 첫째, w4a8의 장점에 대해 말하자면, 벤치마크 결과는 그 품질이 NVFP4보다 우수하다는 것을 명확하게 보여줍니다. 하지만 크기는 4비트와 동일합니다. https://github.com/ussoewwin/ComfyUI-SeedVR2-VideoUpscaler-with-TensorRT/blob/main/benchmark/benchmark%20result.md 반면에, 제가 기대했던 것만큼 좋지 않았던 점은 VRAM 소비량이 ConvRot INT8과 거의 비슷했다는 것입니다 (물론 w4a8이 가중치를 8비트로 확장한다는 점을 감안하면 예상된 바입니다). 그리고 제가 그렇게 공들여 구현한 DisTorch2를 사용했을 때, VRAM 사용량이 실제로 급증하여 사용할 수 없게 되었다는 것입니다. 단순히 DisTorch2를 사용하지 않으면 되는 문제이므로 치명적인 결함은 아닙니다. ... 이전에 DisTorch2에서 VRAM 급증을 상쇄하기 위해 구현되었던 Norm BF16의 켜기/끄기 기능이 이제 Legacy Loader에도 구현되었습니다. 이 기능을 활성화하면 이미지 품질이 약간 저하되는 비용을 감수하는 대신 최대 약 3GB까지 VRAM 급증을 억제할 수 있습니다.