MEMPROBE: 숨겨진 사용자 상태 복구를 통한 에이전트의 장기 기억 탐사

장기 기억(Long-term memory)은 상호작용을 통해 형성되는 사용자에 대한 정확하고 진화하는 이해를 유지함으로써, 세션이 거듭될수록 더 유능해지는 LLM 에이전트를 약속합니다. 그러나 실제로 이 기억은 주로 나중의 답변, 개인화 품질, 또는 작업 성공과 같은 다운스트림 동작(downstream behavior)을 통해 평가되며, 이는 해당 이해를 간접적으로만 테스트할 뿐 기억 산출물(memory artifact) 자체는 거의 감사(audit)되지 않은 채로 남겨둡니다. 우리는 장기 기억이 대신 감사 가능한 상호작용 후 산출물(auditable post-interaction artifact)로서 평가되어야 한다고 주장합니다. 즉, 일반적인 지원이 이루어진 후, 에이전트가 남긴 기억으로부터 어떤 구조화된 사용자 상태(user state)를 재구성할 수 있는가 하는 점입니다. 우리는 이러한 관점을 MEMPROBE에서 구체화합니다. MEMPROBE는 기억 능력을 갖춘 에이전트가 시뮬레이션된 사용자를 돕는 벤치마크로, 각 사용자는 분류 체계에 기반한 숨겨진 사용자 상태 저장소(user-state bank)를 보유하며, 누출이 제어된 작업 궤적(trajectory of leak-controlled tasks)을 수행합니다. 그 후, 전체 저장(full-store) 및 top-k 액세스 방식 모두에서 에이전트의 결과물인 기억으로부터 해당 저장소를 재구성합니다. 효율적이고 확장 가능한 측정을 위한 합성 정답(synthetic ground truth)을 기반으로 구축된 MEMPROBE는 각각 31개의 숨겨진 차원(1,550개의 복구 대상)을 가진 50명의 시뮬레이션된 사용자를 포괄하며, 5개의 대표적인 기억 시스템을 테스트합니다. 최첨단(state-of-the-art) 기억 에이전트들을 테스트한 결과, 성공적인 지원과 복구 가능한 기억은 서로 별개의 능력으로 작동함을 발견했습니다. 작업 완료율은 기억이 없는 베이스라인(memoryless baseline)조차 거의 포화 상태에 도달하는 반면, 카테고리 균형 복구(category-balanced recovery)는 중간 수준(약 0.6)을 유지하며 top-k 검색(top-k retrieval) 환경에서는 더욱 하락합니다. MEMPROBE는 시스템이 보유하는 사용자 상태를 직접 재구성하고 이를 정답과 비교하여 점수를 매김으로써 기억 복구를 연구하는 최초의 벤치마크입니다. 우리는 복구를 미래의 기억 에이전트가 최적화해야 할 구체적인 목표로 보며, MEMPROBE를 에이전트가 사용자를 기억하도록 훈련되어 사용자를 더 오래 알수록 더 충실해지는 환경을 향한 단계로 보고 있습니다.