Trail: 페이지 테이블에 임베딩된 델타를 활용한 확장 가능하고 저비용의 시간적 TLB 프리페칭

주소 변환(Address translation)은 데이터 집약적인 워크로드에서 주요 병목 현상입니다. TLB 프리페칭(TLB prefetching)은 변환 지연 시간을 숨길 수 있지만, 기존의 공간적 프리페처는 불규칙한 접근에 어려움을 겪으며, 시간적 프리페처는 고정 용량 하드웨어에 주소 델타를 저장하여 애플리케이션 메모리 발자국(memory footprints)에 따라 확장할 수 없습니다. 저희가 수행한 200개의 변환 집약적인 워크로드 특성 분석 결과, 각 가상 메모리 영역은 작고 반복되는 델타 세트를 가지며, 이 중 94% 이상의 델타가 18비트 부호화(signed bits)에 들어맞는 것을 발견했습니다. 저희는 leaf 페이지 테이블 엔트리(PTEs)의 사용되지 않은 비트에 델타를 저장하는 시간적 TLB 프리페처인 Trail을 소개합니다. 특정 영역이 페이지 테이블 워크(page table walk)를 유발할 때, Trail은 동일한 명령어에서 마지막으로 워크를 유발했던 영역을 식별하고 해당 소스 영역의 PTE에 그 델타를 기록합니다. 이후 워크가 소스 영역의 PTE 캐시 블록을 가져올 때, Trail은 추가적인 메모리 접근 없이 그 델타들을 검색하여 예상되는 목적지 영역에 대한 변환을 TLB와 캐시 계층 구조로 프리페칭(prefetching)합니다. PTE 캐시 블록당 여러 개의 델타를 저장하는 것은 커버리지(coverage)를 향상시키고, 기존 PTE 비트를 사용함으로써 추가적인 메타데이터 저장 없이도 애플리케이션의 메모리 발자국에 따라 메타데이터 용량을 확장할 수 있게 합니다. 200개의 워크로드와 100가지 다중 프로그램 혼합(multiprogrammed mixes)을 통해, Trail은 TLB 프리페칭이 없는 기준선 대비 단일 코어(4코어) 성능을 평균 5.7%(11.5%) 향상시키며, 기존 최고의 독립형 TLB 프리페처보다 1.7%(2.5%) 더 우수한 성능을 보였습니다. Trail은 명령어별 페이지 테이블 워크 이력을 추적하기 위해 단지 64개 항목의 하드웨어 테이블만 필요합니다. Trail은 https://github.com/CMU-SAFARI/Virtuoso/tree/trail-artifact-release에서 자유롭게 이용 가능합니다.