SM 분할 GPU의 크로스바 포트 경합 완화를 위한 런타임 시스템
요약
기존 CUDA Green Contexts는 SM 파티셔닝을 통해 워크로드를 분리하지만, L2 캐시 및 크로스바 포트 경합 문제가 여전히 존재합니다. 본 글은 이러한 문제를 해결하기 위해 GPCPlace라는 런타임 시스템을 제안합니다. 이 시스템은 워크로드를 프로파일링하여 분산과 패킹 중 최적의 배치 전략을 동적으로 선택하며, 레이턴시-민감한 워크로드를 크게 가속화하는 것이 핵심입니다.
핵심 포인트
- Green Contexts는 SM 파티셔닝에도 불구하고 경합 문제에 취약함.
- GPCPlace는 프로파일링을 통해 분산/패킹 중 최적의 배치 전략을 동적으로 선택함.
- CUDA 드라이버 커널 실행 후킹으로 애플리케이션 수정 없이 작동하는 런타임 시스템임.
- Green Contexts 대비 레이턴시-민감한 워크로드를 최대 2.38배 가속화함.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기