REAL: LLM의 장기 기억 관리를 위한 추론 강화 그래프 프레임워크

대규모 언어 모델 (LLMs)은 점점 더 긴 시간 범위에 걸쳐 사용자와 상호작용할 것이라는 기대를 받고 있습니다. 그러나 유한한 컨텍스트 창 (context window)으로 인해 LLM은 모든 과거 상호작용을 유지할 수 없으며, 이로 인해 컨텍스트 제한을 넘어 과거 정보를 저장, 업데이트 및 검색하기 위한 장기 기억 관리 (long-term memory management)가 필수적입니다. 최근의 메모리 시스템들이 과거 정보를 외부에 저장함으로써 이 문제를 해결하려고 시도하고 있지만, 기존 방식들은 세 가지 주요 한계점을 가지고 있습니다: 평면적인 텍스트 기반 메모리 구조는 메모리 간의 명시적 관계를 포착하지 못하며, 구조화된 메모리 시스템은 진화하는 사실들을 파괴적으로 덮어쓰는 경우가 많고, 현재의 검색 메커니즘은 증거가 불완전할 때 쿼리 불가지론적 (query-agnostic)이며 수동적인 상태로 남아 있습니다. REAL은 각 원자적 사실 (atomic fact)이 엔티티 (entities), 관계 (relations), 유효 시간 구간 (valid-time intervals), 신뢰도 점수 (confidence scores), 그리고 탐색 의도 레이블 (exploration intent labels)로 표현되는 시간적이고 신뢰도를 인식하는 유향 속성 그래프 (directed property graph)로서 장기 대화 메모리를 구축합니다. 메모리 구축 과정에서 REAL은 병렬적인 사실 버전과 그 유효 기간을 보존하는 비파괴적 시간 업데이트 전략을 채택하여, 사실의 진화 과정을 충실하게 추적할 수 있게 합니다. 검색 과정에서 REAL은 쿼리와 관련된 루트 엔티티 (root entities)를 고정하고, 탐색 의도를 분리하며, 의미론적 평가자 유도 하이브리드 빔 서치 (semantic evaluator-guided hybrid beam search)를 수행하여 압축된 메모리 서브그래프 (memory subgraphs)를 추출합니다. 또한, 신뢰할 수 없는 검색 상태를 수리하고 암시적 논리 관계를 통해 누락된 메모리 증거를 복구하기 위해 반사실적 추론 (counterfactual inference)을 통합합니다. 종합적인 실험을 통해 REAL이 평면 텍스트, 그래프 기반, 그리고 기존 메모리 베이스라인 모델들에 비해 장기 기억 성능을 실질적으로 향상시키며, 평균 22.72%의 개선을 달성함을 입증하였습니다.