하이브리드 메모리 시스템의 페이지 마이그레이션 효율화 방안 (Duon)

최근 컴퓨팅 환경에서는 HBM(High-Bandwidth Memory), DRAM, NVM(Non-Volatile Memory) 등 성능과 용량이 다른 이종 메모리들을 조합하는 하이브리드 메모리 아키텍처(HMA)가 주목받고 있습니다. HMA는 각 메모리의 장점을 결합하여 시스템의 전반적인 성능을 최적화합니다.

이러한 환경에서, 자주 접근하는 데이터 페이지를 고속의 HBM에 배치하고, 덜 사용되는 페이지는 DRAM이나 NVM 같은 저속 메모리에 저장하는 것이 일반적입니다. 이는 메모리 자원의 효율적인 할당과 시스템 성능 향상으로 이어집니다.

하지만 'Flat Address Space'와 같이 모든 메모리를 통합된 풀(unified memory pool)로 취급할 경우, 자주 접근하는 페이지가 느린 메모리에서 빠른 메모리로 재배치(relocation)되어야 하는 상황이 발생합니다. 이 과정은 시스템에 심각한 성능 저하를 초래하는 오버헤드를 동반합니다.

기존의 페이지 마이그레이션 메커니즘은 이러한 데이터 이동 시 TLB Shootdown과 프로세서 캐시 라인 무효화(cache line invalidations)와 같은 비싼 작업을 요구했습니다. 이로 인해 하이브리드 메모리 시스템의 잠재적 성능 향상이 상쇄되는 문제가 있었습니다.

본 논문에서는 이러한 페이지 마이그레이션 과정에서 발생하는 오버헤드를 근본적으로 제거하는 새로운 솔루션인 Duon을 제안합니다. Duon의 핵심은 업데이트된 페이지 매핑 정보를 Extended TLB와 Page Table 자체에 직접 저장하는 것입니다. 이 방식을 통해, 데이터가 물리적으로 재배치되더라도 시스템이 인식해야 하는 주소 공간 정보(mapping information)를 별도로 동기화할 필요가 없어집니다.

결과적으로 Duon은 페이지 마이그레이션 이후 필요한 TLB Shootdown 및 캐시 라인 무효화 과정을 완전히 생략할 수 있게 합니다. 이로 인해 시스템의 오버헤드가 크게 감소하며, 기존 최고 성능 기술(state-of-the-art) 대비 IPC를 3.87% 향상시키는 구체적인 성과를 달성했습니다.

Duon은 특정 메모리 정책에 국한되지 않고, 현재 존재하는 모든 페이지 마이그레이션 정책들과 결합하여 성능을 개선할 수 있다는 장점도 가집니다. 이는 하이브리드 메모리 시스템의 효율성과 전반적인 성능을 한 단계 끌어올리는 중요한 진전이라고 평가됩니다.