torch-nvenc-compress: GPU NVENC 실리콘을 PCIe 대역폭 배율기로 — PCA + ctypes 비디오 코덱

요약

이 기술 기사는 멀티 GPU 환경에서 발생하는 PCIe 병목 현상을 해결하는 방법을 다룹니다. 특히, Nvidia의 최신 소비자 GPU(예: 4090/5090)가 NVLink를 제거하면서 두 개의 카드 간 데이터 전송 속도가 PCIe 피어 투 피어로 약 30 GB/s로 떨어지는 문제를 지적합니다. 이를 해결하기 위해 PCA와 ctypes를 활용하여 GPU의 NVENC 실리콘을 PCIe 대역폭 배율기(bandwidth multiplier)로 사용하는 접근 방식을 제안하고 있습니다.

핵심 포인트

• NVLink 제거로 인한 소비자 멀티 GPU 환경의 PCIe 병목 현상 발생
• 두 개의 최신 소비자 GPU 간 데이터 전송 속도가 약 30 GB/s 수준으로 저하됨
• 문제 해결을 위해 PCA(Principal Component Analysis)와 ctypes를 활용하는 방법론 제시
• GPU의 NVENC 실리콘 기능을 PCIe 대역폭 증강기로 재활용하여 병목 현상 완화 목표