그래픽 처리 장치 (GPUs)는 거대한 병렬 처리 능력 덕분에 게임과 인공지능 (AI)을 포함한 다양한 분야에서 필수적인 요소가 되었습니다. GPU 코어의 비약적인 발전과 함께 GPU 메모리 효율성은 뒤처지게 되었으며, 이는 작업 효율을 제한할 수 있는 병목 현상 (bottlenecks)을 초래했습니다. 이러한 격차를 해소하기 위해서는 애플리케이션 최적화, 새로운 아키텍처 설계, 그리고 정확한 시뮬레이터 구축을 위해 GPU 메모리 아키텍처, 특히 L2 및 DRAM 내의 비균등 메모리 액세스 (Non-Uniform Memory Access, NUMA) 메커니즘에 대한 깊은 이해가 필수적입니다. 그러나 NVIDIA 및 AMD와 같은 벤더의 최신 GPU 하드웨어는 여전히 블랙박스 (black-box) 상태로 남아 있어, 연구자들이 그 설계의 세부 사항을 이해하는 데 어려움을 겪고 있습니다. 본 논문에서는 마이크로벤치마킹 (microbenchmarking) 및 데이터 분석을 통해 GPU 메모리 계층의 NUMA 아키텍처를 밝혀내기 위해 설계된 방법론인 DGNA를 소개합니다. 구체적으로, 우리는 아키텍처의 고유 명령어 (intrinsic instructions)에 의존하지 않고 L2 캐시 (L2 caches) 및 DRAM의 지연 시간 (latency)을 측정하는 접근 방식을 제안하며, 이상치 (outliers)를 제거하고 지연 시간 분포를 정확하게 결정하기 위해 가우시안 혼합 모델 (Gaussian mixture model)을 적용합니다. 우리는 NVIDIA의 A100 및 H100 GPU에 DGNA를 적용하여 NUMA 노드 아키텍처, SM-NUMA 관계, 그리고 캐시 일관성 (cache coherence)을 유지하기 위해 사용되는 NUMA 인지 메모리 할당 (NUMA-aware memory allocation) 전략을 밝혀냈습니다. 우리가 알고 있는 바로는, 이 논문은 GPU 메모리 서브시스템 내의 NUMA 아키텍처를 상세히 다룬 첫 번째 논문입니다.