PAGE404: 하드웨어 지원 페이지 마이그레이션을 통한 GPU 격리 우회 공격

NVIDIA의 Grace Hopper (GH200) 슈퍼칩은 72코어 Arm 기반 CPU와 Hopper GPU를 고대역폭, 캐시 일관성 인터커넥트를 통해 단일 모듈에 긴밀하게 통합한 새로운 세대의 이종 컴퓨팅(heterogeneous computing)을 대표합니다. 이는 기존의 PCIe 병목 현상을 제거하여 CPU-GPU 데이터 이동 경로를 개선하고, 생성형 AI 및 고성능 컴퓨팅(HPC) 워크로드에서 요구되는 용량까지 확장 가능한 통일 메모리 도메인을 구축합니다. 또한 이 아키텍처는 하드웨어 지원 페이지 마이그레이션을 도입했습니다. 이는 접근 카운터에 의해 구동되며, 시스템은 자주 접근하는 페이지를 호스트 CPU 메모리에서 GPU DRAM으로 동적으로 승격(promote)시켜 메모리 지역성(memory locality)을 개선합니다. 본 논문에서는 이러한 새로운 아키텍처가 가진 페이지 마이그레이션 지원 기능을 표적으로 하는 새로운 측간 채널(side-channel) 및 은닉 채널(covert-channel) 공격에 대한 보안성을 연구했습니다. 우리는 하드웨어 메커니즘과 UVM 드라이버의 인터럽트 처리 파이프라인 전반에 걸친 카운터 기반 마이그레이션을 분석하고, 두 가지 측간 취약점을 식별했습니다. 하나는 접근 카운터의 공유 구조에서 기인하며, 다른 하나는 마이그레이션 인터럽트에 대한 드라이버의 응답 과정에서 발생합니다. 나아가 우리는 이 두 채널 모두가 공동 배치된 테넌트(tenant) 간 강력한 하드웨어 강제 격리를 제공하는 기능인 Multi-Instance GPU (MIG) 파티션 전반에 걸쳐 악용 가능하다는 것을 보여줍니다. 개념 증명(proof-of-concept) 공격을 사용하여, 우리는 제거 기반 신호(eviction-based signaling)를 통해 약 8,500 bits/초의 은닉 채널과 마이그레이션 지연 기반 신호(migration-delay-based signaling)를 통해 MIG 인스턴스 전반에 걸쳐 8,100 bits/초에 달하는 은닉 채널을 구축했습니다. 이 인터럽트 기반 채널은 또한 서로 다른 대규모 언어 모델(LLMs) 및 CPU SPEC2017 벤치마크 전반에 걸쳐 추론 워크로드를 지문 인식하고, LLM 추론 과정에서 처리된 프롬프트 길이까지 높은 정확도로 추정합니다. 이러한 결과는 하드웨어 관리 이종 메모리 시스템의 보안 격차를 노출하며, 현재 MIG가 활성화된 다중 테넌트 GPU 배포의 격리 보장성에 의문을 제기합니다.