DualGuard: 순차적 및 추측적 실행 전반에 걸친 포괄적이고 효율적인 메모리 안전성

수십 년간의 연구를 통해 정교한 메모리 안전성 강제 메커니즘이 개발되었음에도 불구하고, 추측적 실행(speculative execution)은 일시적인 메모리 연산(transient memory operations)을 통해 이러한 보호 장치를 우회할 수 있습니다. 반대로, Speculative Load Hardening (SLH)와 같이 추측적 안전성만을 위해 설계된 방어 기법은 비추측적 실행(non-speculative execution) 중에는 메모리 안전성을 강제할 수 없습니다. 이 두 영역의 방어 기법들을 무분별하게 결합하는 것은 두 가지 근본적인 문제에 직면합니다: (1) 그렇지 않으면 파편화된 여러 방어 기법들 중 어떤 조합이 추측적 실행과 비추측적 실행 모두에서 이중 메모리 안전성을 보장할 수 있는가? (2) 이러한 조합들이 불필요한 성능 오버헤드를 초래하는 중복 보호 장치를 도입하지는 않는가?

우리는 비추측적 및 추측적 실행 환경에서의 이중 메모리 보호를 위한 통합 프레임워크인 DualGuard를 제시합니다. DualGuard는 메모리 동작을 체계적으로 분석하여 네 가지 범주로 분류하고, 이중 메모리 안전성을 위한 최소 구성 요건을 추가로 식별함으로써, 중복되거나 과도한 보호 장치를 피하기 위해 기존의 완화 기법들을 전략적으로 결합하거나 새로운 것을 설계할 수 있게 합니다. 우리는 정적 분석과 LLVM 인프라 내 런타임 강제(runtime enforcement)를 조합하여 DualGuard를 구현했습니다. 우리의 평가는 DualGuard가 파편화된 방어 기법들의 무분별한 조합에 비해 오버헤드를 3%~72% 감소시킨다는 것을 입증합니다. 심지어 일부 사례에서는 메모리 안전성을 단독으로 비추측적 실행 또는 추측적 실행 중 한 가지 환경에서만 보장하는 접근 방식보다 낮은 오버헤드를 발생시키기도 합니다.