ScrapMem: 광학 망각을 통한 에지 디바이스 상용 개인화 에이전트 메모리 프레임워크

요약

ScrapMem은 자원이 제한된 엣지 디바이스에서 대규모 언어 모델(LLM) 에이전트의 장기 개인화 메모리 문제를 해결하기 위해 설계된 프레임워크입니다. 이 프레임워크는 '광학 망각(Optical Forgetting)'이라는 압축 메커니즘을 도입하여 오래된 기억의 해상도를 점진적으로 줄여 저장 비용을 획기적으로 낮춥니다. 또한, 주요 사건들을 인과-시간적 구조로 조직하는 Episodic Memory Graph (EM-Graph)를 구축하여 높은 성능과 뛰어난 메모리 효율성을 동시에 달성합니다.

핵심 포인트

• ScrapMem은 에지 디바이스의 LLM 에이전트가 직면하는 장기 기억 저장 비용 및 복잡성 문제를 해결하는 것을 목표로 합니다.
• 핵심 메커니즘인 '광학 망각(Optical Forgetting)'을 통해 메모리 사용량을 최대 93%까지 줄여 높은 저장 효율성을 제공합니다.
• Episodic Memory Graph (EM-Graph)를 사용하여 기억을 인과적-시간적 구조로 조직함으로써 의미론적 일관성과 회상 능력을 향상시킵니다.
• ATM-Bench 실험에서 Joint@10 51.0%의 새로운 최고 성능 및 Recall@10 70.3%의 개선된 회상 능력을 입증했습니다.