MemLens: LLM 기반 에이전트를 위한 대화형 분석 기능을 갖춘 가치 인식 메모리 관리 시스템
요약
MemLens는 LLM 에이전트의 효율적인 메모리 관리를 위해 가치 인식(value-aware) 방식을 제안하는 시스템입니다. Shapley 가치 평가를 통해 메모리 기록의 중요도를 판단하며, 대화형 대시보드를 통해 메모리 수명 주기를 시각화하고 분석할 수 있습니다.
핵심 포인트
- 기존의 균일한 메모리 관리 방식의 한계 극복
- Shapley 방식을 활용한 메모리 기록의 가치 평가
- 메모리 구조 시각화 및 대화형 분석 대시보드 제공
- 응답 품질, 지연 시간, 토큰 소비 측면의 성능 비교 가능
최근 메모리 관리(memory management)는 장기 추론(long-horizon reasoning), 개인화된 응답, 지식 재사용에 직접적인 영향을 미치기 때문에 LLM 기반 에이전트의 핵심 인프라가 되었습니다. 그러나 기존의 LLM 메모리 시스템은 일반적으로 이질적인 사용자-LLM 상호작용 기록을 균일하게 취급하는 조립적(coarse-grained, utility-agnostic) 방식을 채택하여, 중복되거나 영향력이 낮은 기록이 메모리 저장소에 지속적으로 남아 있게 됩니다. 이러한 문제를 해결하기 위해, 우리는 메모리 기록을 일급 데이터 객체(first-class data objects)로 취급하는 가치 인식(value-aware) 메모리 관리 시스템인 MemLens를 제안합니다. MemLens는 Shapley 방식의 메모리 평가, 가치 인식 저장, 메모리 보조 응답을 포함하여 전체 메모리 수명 주기를 노출하는 엔드 투 엔드(end-to-end) 대화형 분석 대시보드를 제공합니다. Study-copilot 애플리케이션을 통해, 이 시스템은 사용자가 메모리 가치를 검사하고, 계층적 메모리 구조를 시각화하며, 응답 품질, 검색 지연 시간(retrieval latency), 토큰 소비 측면에서 다양한 메모리 관리 전략을 비교할 수 있도록 합니다. 따라서 우리의 MemLens는 LLM 기반 에이전트를 위한 효율적이고 해석 가능하며 개인화된 장기 메모리 관리 시스템 역할을 할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기