ScrapMem: 광학 망각을 통한 에지 디바이스 상용 개인화 에이전트 메모리 프레임워크
요약
ScrapMem은 자원이 제한된 엣지 디바이스에서 대규모 언어 모델(LLM) 에이전트의 장기 개인화 메모리 문제를 해결하기 위해 설계된 프레임워크입니다. 이 프레임워크는 '광학 망각(Optical Forgetting)'이라는 압축 메커니즘을 도입하여 오래된 기억의 해상도를 점진적으로 줄여 저장 비용을 획기적으로 낮춥니다. 또한, 주요 사건들을 인과-시간적 구조로 조직하는 Episodic Memory Graph (EM-Graph)를 구축하여 높은 성능과 뛰어난 메모리 효율성을 동시에 달성합니다.
핵심 포인트
- ScrapMem은 에지 디바이스의 LLM 에이전트가 직면하는 장기 기억 저장 비용 및 복잡성 문제를 해결하는 것을 목표로 합니다.
- 핵심 메커니즘인 '광학 망각(Optical Forgetting)'을 통해 메모리 사용량을 최대 93%까지 줄여 높은 저장 효율성을 제공합니다.
- Episodic Memory Graph (EM-Graph)를 사용하여 기억을 인과적-시간적 구조로 조직함으로써 의미론적 일관성과 회상 능력을 향상시킵니다.
- ATM-Bench 실험에서 Joint@10 51.0%의 새로운 최고 성능 및 Recall@10 70.3%의 개선된 회상 능력을 입증했습니다.
자원이 제한된 에지 (Edge) 디바이스에서 대규모 언어 모델 (LLM) 에이전트의 장기적 개인화 기억은 저장 비용과 다중 모달리티의 복잡성으로 인해 도전적입니다. 이를 해결하기 위해, 우리는 'Scrapbook Page'에 다중 모달리티 데이터를 통합하는 프레임워크인 ScrapMem 을 제안합니다. ScrapMem 은 오래된 기억의 해상도를 점진적으로 줄여 저장 비용을 낮추고 저평가된 세부 사항을 억제하는 광학 망각 (Optical Forgetting) 이라는 광학 압축 메커니즘을 도입했습니다. 의미론적 일관성을 유지하기 위해, 주요 사건들을 인과 - 시간적 구조로 조직하는 Episodic Memory Graph (EM-Graph) 를 구축했습니다. 다중 모달리티 ATM-Bench 의 광범위한 실험은 ScrapMem 이 세 가지 주요 이점을 제공함을 보여줍니다: (1) 강력한 성능, 51.0% Joint@10 점수로 새로운 최상위 수준을 달성; (2) 높은 저장 효율성, 광학 망각을 통해 메모리 사용량을 최대 93% 감소; 및 (3) 개선된 회상 능력, 구조적 집계를 통해 Recall@10 을 70.3%로 증가. ScrapMem 은 다중 모달리티 LLM 에이전트의 에지 상용 장기 기억에 대해 효과적이고 저장 효율적인 해결책을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기