RecMem: 효율적이고 효과적인 장기 실행 LLM 에이전트를 위한 재귀 기반 메모리 통합 방식

요약

RecMem은 장기 실행 LLM 에이전트의 메모리 통합 과정에서 발생하는 과도한 토큰 소비 문제를 해결하기 위해 제안된 재귀 기반 메모리 시스템입니다. 모든 상호작용을 즉시 처리하는 대신, 경량 임베딩 모델을 통해 의미적 재귀가 관찰될 때만 LLM을 호출하여 메모리를 통합함으로써 효율성을 극대화합니다. 실험 결과, 기존 SOTA 시스템 대비 토큰 비용을 최대 87% 절감하면서도 더 높은 정확도를 달성했습니다.

핵심 포인트

• 성급한 메모리 통합(Eager consolidation) 대신 재귀 기반의 선택적 통합 방식 채택
• 잠재의식 메모리 계층과 경량 임베딩 모델을 활용한 비용 효율적 인코딩
• 의미론적 클러스터링을 통해 추출 가치가 높은 정보에만 LLM 자원 집중
• 의미론적 정제(Semantic refinement) 메커니즘을 통한 세부 사실 복구 및 정확도 향상
• 기존 SOTA 시스템 대비 토큰 비용 최대 87% 절감 및 성능 우위 증명