전역적으로 계산하고 지역적으로 구체화하기: 희소 이벤트-KV (Sparse Event-KV)의 메모리 계약
요약
장기적 에이전트의 KV 캐시 관리에서 관찰 데이터가 삭제된 후에도 정보가 유지되는 '의미적 구체화' 현상을 연구합니다. 희소 이벤트-KV(Sparse Event-KV)를 통해 소스 데이터 없이도 모델이 정보를 복구하는 메모리 계약의 원리를 제안합니다.
핵심 포인트
- 관찰 데이터가 삭제되어도 KV 캐시 내 정보는 유지되는 '의미적 구체화' 확인
- Qwen3-8B 모델에서 특정 문구 구성 시 기여자 정렬 회복률이 6%에서 51%로 상승
- 압축된 상태는 생존하지만 큰 페이로드는 확률적으로 쇠퇴하는 특성 발견
- 소스 이벤트 삭제가 반드시 정보의 불필요함을 의미하지 않는다는 메모리 계약 제안
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기