미탐색된 SASS 제어 코드 필드 분석: 배리어 면제 및 프로그래밍 가능한 워프 우선순위
요약
본 논문은 NVIDIA GPU ISA(SASS)에 존재하는 미탐색 제어 코드 필드를 분석하고, 이를 활용하는 방법을 제시합니다. 이 필드는 배리어 면제 및 프로그래밍 가능한 워프 우선순위 두 가지 하드웨어 메커니즘을 제어합니다. 연구진이 개발한 사후 컴파일 최적화기는 대표 커널의 속도를 최대 31.9%까지 향상시키고, LLM 추론 성능도 개선하는 성과를 입증했습니다.
핵심 포인트
- NVIDIA SASS ISA 내 미탐색 제어 코드 필드를 최초로 연구함.
- 해당 필드는 배리어 면제 및 워프 우선순위 두 메커니즘을 제어함.
- 사후 컴파일 최적화기를 구현하여 바이너리에 직접 마크를 배치함.
- 최적화를 통해 대표 커널 성능을 최대 31.9%까지 향상시킴.
- LLM 추론(end-to-end LLM inference) 성능을 최대 3.6%까지 끌어올림.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AR의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기