전역적으로 계산하고 지역적으로 구체화하기: 희소 이벤트-KV (Sparse Event-KV)의 메모리 계약
요약
장기적 에이전트의 KV 캐시 관리에서 관찰 데이터가 삭제된 후에도 정보가 유지되는 '의미적 구체화' 현상을 연구합니다. 희소 이벤트-KV(Sparse Event-KV)를 통해 소스 데이터 없이도 모델이 정보를 복구하는 메모리 계약의 원리를 제안합니다.
핵심 포인트
- 관찰 데이터가 삭제되어도 KV 캐시 내 정보는 유지되는 '의미적 구체화' 확인
- Qwen3-8B 모델에서 특정 문구 구성 시 기여자 정렬 회복률이 6%에서 51%로 상승
- 압축된 상태는 생존하지만 큰 페이로드는 확률적으로 쇠퇴하는 특성 발견
- 소스 이벤트 삭제가 반드시 정보의 불필요함을 의미하지 않는다는 메모리 계약 제안
장기적 에이전트 (Long-horizon agents)는 KV 캐시 (KV cache)를 메모리로 점점 더 많이 재사용하고 있습니다. 즉, 서빙 시스템 (serving system)이 캐시된 항목의 일부는 유지하고 나머지는 삭제하는 방식입니다. 따라서 제거 (Eviction) 및 에피소드 메모리 (episodic-memory) 체계는 직접적으로 거의 테스트되지 않은 전제, 즉 '보존된 이벤트는 그것을 생성한 관찰 (observations)이 사라진 후에도 여전히 정보력이 있다'는 전제에 기반하고 있습니다. 우리는 동일한 에이전트 이력 중에서 서빙되는 내용으로부터 이전의 관찰 하나를 생략함으로써 이를 테스트합니다. 해당 관찰에 민감한 항목들 중에서, 정답은 서빙되는 구간(span) 중에 어떤 값이 맞는지 명시되어 있지 않음에도 불구하고 압도적으로 생략된 값을 따릅니다. 우리는 이를 의미적 구체화 (semantic materialization)라고 부릅니다. 즉, 하위 이벤트 (downstream event)의 캐시된 행 (rows)은 입력값이 사라진 계산에 대해 독립적으로 서빙 가능한 뷰 (view) 역할을 합니다. 이는 의도적으로 작성될 수도 있습니다. 의도적으로 문구를 구성하여 정답을 포함하지 않은 이벤트는, 값을 직접 언급하지 않고도 Qwen3-8B에서 기여자 정렬 회복 (donor-aligned recovery)을 6%에서 51%로 높이는 반면, 장기 대화에서 자연스러운 언급을 수동적으로 수집하는 것은 감지된 이점이 없습니다. 그러한 행 (row)이 담고 있는 것은 구체적이고 제한적입니다. 압축된 상태 (Compact state)는 생존하지만, 더 큰 페이로드 (payloads)는 확률 수준으로 쇠퇴하며, 구성 (construction)이 실제로 쓰여지는지 여부는 의미뿐만 아니라 문구 (phrasing)에 따라 달라지므로, 모델이 동일하게 잘 이해하는 두 문구가 급격히 갈릴 수 있습니다. 그 결과는 희소 이벤트-KV (sparse event-KV) 서빙을 위한 메모리 계약 (memory contract)입니다: 무엇을 쓸 것인지, 어디에 저장될 것인지, 그리고 소스가 사라진 후 무엇이 살아남을 것인지에 대한 것입니다. 제거 (evict)를 수행하는 누구에게나, 소스 이벤트를 삭제했음에도 정확도 손실이 관찰되지 않는다고 해서 그 소스가 불필요했다는 것을 의미하지는 않는다는 것이 결론입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기