ICP: 불규칙한 메모리 액세스 프리페칭을 위한 명령어 상관관계 활용

요약

본 논문은 불규칙한 메모리 액세스 패턴을 효율적으로 처리하기 위해 명령어 수준의 상관관계를 활용하는 새로운 하드웨어 프리페칭 메커니즘인 ICP를 제안합니다. 기존 시계열 프리페처가 주소의 재발에 의존하여 큰 저장 오버헤드를 발생시키는 것과 달리, ICP는 주소를 생성하는 명령어 간의 안정적인 데이터 의존 관계를 학습하여 미래의 액세스를 예측합니다. 실험 결과, ICP는 기존 프리페처 대비 높은 성능 향상을 보이면서도 하드웨어 저장 공간 요구량을 획기적으로 줄였습니다.

핵심 포인트

• 불규칙한 메모리 액세스 처리를 위해 메모리 주소 대신 명령어 수준의 상관관계를 활용하는 ICP 메커니즘 제안
• 주소 재발이 적은 간접 메모리 액세스 상황에서도 안정적인 데이터 의존 관계를 통해 효과적인 프리페칭 가능
• 기존 시계열 프리페처(Triangel) 대비 성능은 약 14% 향상되었으며, 저장 공간은 3개 차수(Orders of magnitude) 이상 절감
• SPEC CPU 및 GAP 벤치마크를 통해 성능 및 효율성 검증 완료