AI 메모리를 위한 수면 통합 (Sleep Consolidation)

수개월간의 운영 후, AI 에이전트의 메모리 저장소는 수만 개의 항목으로 늘어납니다. 검색(Retrieval) 속도가 느려집니다. 관련 없는 메모리들이 관련 있는 메모리들을 밀어냅니다. 오래된 메모리들이 신호를 희석시키기 때문에 에이전트는 최근의 문맥(Context)을 "잊기" 시작합니다.

인간은 수면을 통해 이 문제를 해결합니다. 뇌는 오프라인 상태에서 메모리를 통합(Consolidate)하며, 중요한 것은 강화하고 관련 없는 것은 가지치기(Pruning)합니다. AI 에이전트도 동일한 작업을 수행할 수 있습니다.

문제점

통합(Consolidation)이 없다면:

• 3개월 후 10,000개 이상의 메모리 항목 발생
• 검색 지연 시간(Retrieval latency)이 저장소 크기에 따라 선형적으로 증가
• 오래되고 관련 없는 메모리가 새롭고 관련 있는 메모리와 경쟁
• 중복되거나 거의 중복된 메모리가 축적됨

수면 통합 프로세스 (Sleep Consolidation Process)

유휴 시간(30분 이상 사용자 활동 없음) 동안, 에이전트는 통합 사이클을 실행합니다:

1. 중복 제거 (Deduplication)

임베딩 유사도(Embedding similarity)가 0.85를 초과하는 메모리를 찾습니다. 이를 하나의 표준 메모리(Canonical memory)로 병합하며, 가장 최근의 타임스탬프를 보존하고 메타데이터를 결합합니다.

2. 중요도 점수 산정 (Importance Scoring)

다음 기준에 따라 각 메모리의 점수를 매깁니다:

• 최신성 (Recency): 얼마나 최근에 액세스되었는가?
• 빈도 (Frequency): 얼마나 자주 검색되었는가?
• 엔티티 풍부도 (Entity richness): 얼마나 많은 엔티티를 포함하고 있는가?
• 종류 가중치 (Kind weight): 절차적 메모리 (Procedural memories) > 의미론적 메모리 (Semantic) > 스크래치패드 (Scratchpad)

3. 가지치기 (Pruning)

중요도 점수가 하위 10%인 항목을 제거합니다. 하지만 다음은 절대 제거하지 않습니다:

• 지난 7일 이내의 메모리
• 절차적 메모리 (Procedural memories, 방법론적 지식을 인코딩함)
• 지갑 주소나 자격 증명(Credentials)을 포함하는 메모리

4. 요약 (Summarization)

중요도가 낮은 메모리들을 주제별로 그룹화하고 요약 메모리를 생성합니다. 개별 메모리들은 가지치기되지만, 요약본은 지식을 보존합니다.

5. 그래프 재구축 (Graph Rebuild)

가지치기 후, 남은 메모리들로부터 엔티티 그래프(Entity graph)를 재구축합니다. 이를 통해 그래프가 현재의 메모리 저장소를 반영하도록 보장합니다.

결과

수면 통합을 구현한 후:

• 메모리 저장소(Memory store)가 약 5,000개 항목으로 안정화됨 (12,000개 이상에서 감소)
• 검색 지연 시간(Retrieval latency) 40% 감소
• Recall@10 15% 향상 (관련 없는 메모리로 인한 노이즈 감소)
• 중요한 지식 손실 없음 — 모든 지갑 주소, 자격 증명(credentials), 절차적 메모리(procedural memories)가 보존됨

실행 시점

• 30분 동안 활동이 없을 때
• 메모리 저장소가 8,000개 항목을 초과할 때
• 소유자의 명시적인 명령이 있을 때
• 예정된 유지보수 시간 동안

결론

수면 통합(Sleep consolidation)은 장기 실행되는 에이전트(agents)에게 필수적입니다. 이것이 없다면 메모리는 시간이 지남에 따라 저하됩니다. 수면 통합을 통해 에이전트는 빠르고 정확한 검색을 무기한으로 지원하는 가볍고 관련성 높은 메모리 저장소를 유지할 수 있습니다.