TTP: 레이 트레이싱 (Ray Tracing)의 정밀한 프리페칭 (Prefetching)을 위한 하드웨어 효율적 설계

레이 트레이싱 (Ray Tracing, RT)은 매우 사실적인 비주얼을 제공하는 3D 그래픽 기술입니다. GPU 제조사들이 전용 레이 트레이싱 가속 하드웨어를 통합함에 따라, 이 기술은 점점 더 중요해지고 접근성이 높아지고 있습니다. 그러나 수많은 삼각형으로 구성된 3D 장면을 통해 수백만 개의 광선 (Rays)을 실시간으로 추적하는 것은 매우 도전적인 과제이며 고가의 하드웨어를 필요로 합니다. RT 워크로드의 주요 병목 현상은 3D 장면을 인코딩하는 거대한 트리 구조인 경계 볼륨 계층 구조 (Bounding Volume Hierarchy, BVH) 순회 (Traversal) 작업입니다. GPU 스레드가 대부분의 시간을 메모리로부터 트리 노드 데이터를 읽는 데 소비하기 때문에, BVH 순회는 메모리 대역폭 제한 (Memory-bound) 문제에 직면합니다. 본 연구에서는 프리페칭 (Prefetching)을 통해 레이 트레이싱의 메모리 지연 시간 (Memory latency) 병목 현상을 해결하고자 합니다. 우리는 레이 트레이싱을 위한 Tree Traversal Prefetcher (TTP)라는 새로운 하드웨어 프리페처 (Hardware prefetcher)를 제안합니다. 핵심 아이디어는 RT 유닛에 존재하는 기존의 트리 순회 스택 (Tree traversal stack)을 활용하여 매우 정확한 프리페칭을 수행하는 것입니다. 특히, TTP는 각 스레드의 하드웨어 순회 스택에 이미 존재하는 주소들을 사용하여 노드들을 프리페칭합니다. DFS (Depth-first search, 깊이 우선 탐색) 기반 순회의 경우, 노드들이 순회 스택에서 연속적으로 팝 (Pop)될 때, 즉 잠재적으로 트리를 통한 상향 순회 (Upward traversal)에 해당할 때 프리페칭이 생성됩니다. 우리는 사이클 단위 시뮬레이터인 Vulkan-sim 2.0에서 TTP를 평가하였으며, 하드웨어 오버헤드가 거의 무시할 수 있는 수준이면서 베이스라인 (Baseline) 대비 평균 1.48배 (최대 1.89배)의 속도 향상 (Speedup)을 달성함을 보여주었습니다. TTP는 평균 98.92%의 L1 정확도 (L1 accuracy)를 달성하였는데, 이는 프리페칭된 블록이 디맨드 로드 (Demand loads)에 의해 실제로 참조되는 비율을 의미합니다. 베이스라인의 L1 미스 (L1 misses) 대비 L1 미스 감소 비율로 계산된 커버리지 (Coverage)는 31.54%이며, 이는 달성된 속도 향상과 높은 상관관계를 보입니다.