제한된 작업 메모리(working memory)를 가진 언어 모델은 저장된 항목 중 어떤 것을 유지할지 반복적으로 결정해야 합니다. 현재 배포된 모든 방법은 항목이 도착하는 순간, 즉 과거의 정보(StreamingLLM, H2O)나 미래에 대한 추측(SnapKV)을 바탕으로 결정합니다. 우리는 이 선택을 항목이 재사용될지 여부에 대한 숨겨진 신호(hidden signal)에 대한 추정(estimation) 문제로 재구성하여, 기존 방법들을 커밋 지연(commit lag) $H$라는 축 위에 배치합니다. 온라인 필터와 학습된 예측기(learned predictors)는 $H=0$에서 커밋하는 반면, Belady의 오프라인 최적해(offline optimum)는 미래의 전체 정보가 알려진 지점에 위치합니다. 그 사이의 누락된 영역인 고정 지연 평활화(fixed-lag smoothing)는 제한된 수의 단계(steps)를 기다린 후, 올바른 근미래 예측이 어떤 항목에 주의(attention)를 기울였는지 관찰하고 나서야 커밋합니다. 이러한 측정(measurement)을 통해 입증된 유용성(demonstrated utility)은 Belady의 관찰 불가능한 미래 요청을 모델 자체에서 읽어낼 수 있는 무언가로 변환합니다. 우리는 이를 훈련이 필요 없는 정책(training-free policy)인 RMM으로 구현하였으며, 이는 측정이 균일할 때 H2O로 정확히 축소되는 H2O의 엄격한 일반화입니다. 재사용이 내생적(endogenous)이고 시간적으로 분리된 통제된 환경에서는, 입증된 유용성이 축적된 주의(accumulated attention)보다 사용된 메모리를 훨씬 더 잘 식별하며, 작은 제한된 메모리가 훨씬 더 큰 메모리처럼 동작합니다. 그러나 NVIDIA의 KVPress 하네스(harness) 내에서 자체 SnapKV, H2O, 그리고 StreamingLLM 구현체와 비교하여 실행된 독립적인 제3자 벤치마크에서는 이러한 이점이 대부분 사라집니다. RMM은 단일 턴 질의응답(single-turn question answering)에서는 H2O와 대등하며, 스트리밍 멀티 턴(streaming multi-turn) 설정에서는 H2O와 SnapKV 모두에게 뒤처집니다. 원인은 간단합니다. 자연어 텍스트에서 모델은 대부분의 토큰에 대해 정확하기 때문에, 정확도에 따라 주의(attention)에 가중치를 두는 것이 거의 변화를 주지 못하며, 재사용이 날카롭고 내생적이지 않는 한 입증된 유용성은 축적된 주의로 수렴하게 되는데, 표준 벤치마크는 이를 연습시키지 않습니다. 우리의 기여는 새로운 SOTA(state of the art)가 아니라, 측정(measuring)이 축적(accumulating)보다 우세한 시점에 대한 프레임워크와 정직한 지도(map)를 제공하는 것입니다.