GNoF: 데이터 집약적 GPU 워크로드를 위한 낮은 SM 오버헤드 GPU 네이티브 NVMe-over-Fabrics 완료 경로
요약
본 기사는 데이터 집약적 워크로드에서 발생하는 높은 CPU 사용량 및 동기화 오버헤드를 해결하기 위한 GPU 네이티브 NVMe-oF/RDMA 경로인 GNoF를 제시합니다. GNoF는 GPU 스레드가 명령어 구성, 도어벨 링, 완료 처리까지 장치 내에서 전 과정을 수행하여 CPU 개입을 최소화했습니다. 이를 통해 기존 방식 대비 월등히 낮은 자원 소모와 높은 성능 향상을 달성했음을 입증했습니다.
핵심 포인트
- GNoF는 GPU가 NVMe-oF/RDMA의 데이터 경로를 네이티브로 처리합니다.
- CPU 개입을 최소화하여 기존 대비 CPU 사용률과 SM 점유율을 대폭 낮췄습니다.
- 선택적 컬럼 I/O 등에서 최대 22배에 달하는 성능 향상을 보여줍니다.
- 도어벨 무버, 배치 CQ 폴러 등 세 가지 핵심 메커니즘으로 효율성을 높였습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기