검색 메모리의 시간적 유효성: 진화하는 지식에 대응하는 AI 에이전트의 오래된 사실 오류 제거

요약

RAG 시스템이 시간이 지남에 따라 변화하는 지식(API 변경 등)을 처리할 때 발생하는 '오래된 사실 오류' 문제를 해결하기 위한 MemStrata를 제안합니다. MemStrata는 이중 시간 원장 방식을 통해 LLM 호출 없이도 모순된 정보를 효과적으로 제거하며, 진화하는 지식 환경에서 RAG보다 월등한 정확도를 보여줍니다.

핵심 포인트

• RAG는 임베딩 유사도 문제로 인해 구식 정보와 최신 정보를 구분하지 못하는 구조적 한계가 있음
• MemStrata는 결정론적 대체 규칙을 사용하여 오래된 값을 효율적으로 퇴출함
• 진화하는 지식 벤치마크에서 RAG 대비 압도적인 정확도(0.95-1.00)를 달성함
• LLM 재순위화 방식보다 훨씬 빠른 약 2.1초의 낮은 지연 시간을 기록함