에이전트형 LLM 시스템을 위한 공유 선택적 영구 메모리

요약

본 글은 에이전트형 LLM 시스템의 컨텍스트 문제를 해결하기 위해 '공유 선택적 영구 메모리(shared selective persistent memory)' 아키텍처를 제안합니다. 이 메모리는 세션별 추론 흔적은 버리고, 작업 사양, 데이터 스키마 등 재사용 가능한 핵심 컨텍스트만 식별하여 유지합니다. 이를 통해 협업 환경에서 중복 없이 높은 효율성과 성능을 입증했습니다.

핵심 포인트

• 공유 선택적 영구 메모리로 LLM 에이전트의 컨텍스트 문제를 해결함.
• 작업 사양, 데이터 스키마 등 핵심 정보를 식별하고 유지하여 재사용성을 높임.
• 역할 기반 접근 통제로 사용자 간 협업 및 지식 공유가 가능해짐.
• 제로-토큰 새로고침으로 LLM 호출을 줄여 작업 시간을 14배 단축함.
• 전통적인 방식 대비 높은 작업 완료율(96%)과 토큰 효율성을 달성함.