MemPro: 진화 가능한 프로그램으로서의 에이전트 메모리 시스템

장기적 목표를 가진 자율 에이전트(Long-horizon autonomous agents)는 과거 정보를 유지하고, 변화하는 상태를 추적하며, 유한한 컨텍스트 창(context windows)을 넘어 관련 지식을 재사용할 수 있는 메모리 시스템을 필요로 합니다. 기존의 에이전트 메모리 시스템은 일반적으로 메모리 구축-검색(Memory Construction-Retrieval, MCR) 파이프라인을 따르지만, 배포 후에는 주변 파이프라인을 고정시킨 채 주로 메모리 뱅크(memory bank)만을 조정하는 경우가 많습니다. 이러한 고정된 파이프라인 설계는 이질적인 작업별 실패 모드(failure modes)를 처리하는 데 어려움을 겪으며, 시간이 지남에 따라 규모와 구조가 진화하는 메모리 뱅크와 정렬되지 않을 수 있습니다. 이러한 한계를 해결하기 위해, 우리는 메모리 뱅크나 프롬프트 텍스트만을 조정하는 대신 전체 MCR 파이프라인을 진화 가능한 프로그램으로 취급하는 시스템 수준의 진화 프레임워크인 MemPro를 제안합니다. MemPro는 실행 가능한 메모리 시스템 구현체들의 버전 트리(version tree)를 유지하며, 여기서 진화 에이전트(Evolving Agent)는 유망한 버전을 반복적으로 선택하고, 반복되는 실패를 진단하며, 실패 모드 가이드 편집-디버그 정제(failure-mode-guided edit-debug refinement)를 통해 개선된 자식 버전을 생성합니다. LongMemEval, LoCoMo, HotpotQA, 그리고 NarrativeQA에 대한 실험 결과, MemPro는 단 몇 번의 반복만으로도 강력한 정적(static) 및 프롬프트 수준 진화 베이스라인을 지속적으로 능가하며, 진화와 함께 성능이 계속 향상되고 유리한 성능-비용 트레이드오프(performance-cost trade-off)를 달성함을 보여줍니다. 코드는 https://github.com/wanghai673/MemPro 에서 확인할 수 있습니다.