무엇을 기억하고 무엇을 잊어야 하는지 아는 AI 구축하기

AI 메모리에 대한 대부분의 논의는 어떻게 더 많이 _저장_할 것인가에 관한 것입니다. 즉, 더 긴 컨텍스트 창(context window), 더 큰 벡터 스토어(vector store), 더 많은 기록입니다. 개인 비서에게 있어 더 어렵고 흥미로운 질문은 그 반대입니다. 무엇을 유지하지 말아야 하며, 무엇이 희미해지도록 내버려 두어야 하는가입니다.

이 글은 트레이드오프에 대한 디자인 노트입니다. 저희는 벤치마크를 제시하는 것이 아니라, 개인적인 메모리에 대해 생각할 때 유용하다고 느끼는 추론 과정을 공유합니다.

'모든 것을 기억하기'가 함정인 이유

모든 메시지를 영원히 보존하는 것은 안전하게 들립니다. 하지만 실제로는 문제를 야기합니다:

• 양에 비례하여 노이즈 증가. 동일한 가중치로 더 많이 저장할수록, 검색 시 중요한 정보와 경쟁하는 관련 없는 자료가 많아집니다.
• 오래된 사실의 잔류. 오래된 주소, 취소된 계획, 대체된 선호도가 계속해서 쿼리와 일치합니다.
• 민감한 데이터 축적. 보존되는 모든 것은 보호하고, 내보내고(export), 삭제할 수 있어야 하는 대상입니다.

무엇을 유지할지에 대한 간단한 분류법

들어오는 정보를 _나중에 어떻게 사용될지_에 따라 분류하면 도움이 됩니다:

1. 다시 언급되었는가?
2. 검색되어 사용되었는가?
3. 사용자에게 수정되거나 확인받았는가?
4. 날짜나 반복되는 사람과 연결되어 있는가?

접근되지 않는 것은 우선순위가 떨어질 수 있습니다. 계속해서 등장하는 것은 승격될 수 있습니다.

잊어버림은 사용자가 통제해야 한다

개인 데이터의 경우, '시스템이 잊기로 결정했다'는 것만으로는 충분하지 않습니다. 사용자는 무엇이 저장되어 있는지 보고, 편집하고, 실제로 삭제할 수 있어야 합니다. 사용자 측면에서의 두 가지 실용적인 가이드가 있습니다: AI 서비스에서 데이터를 삭제하는 방법 및 AI 데이터 이식성 체크리스트.

필터로서의 개체 추출

구조화된 추출(사람, 장소, 날짜)은 관련성 필터 역할도 합니다: 날짜와 사람이 포함된 메시지는 보관할 가치가 있을 가능성이 높지만, 단순한 인사말은 그렇지 않습니다. 이 부분은 AI가 메모에서 사람, 장소 및 날짜를 추출하는 방법에서 설명했습니다.

핵심 요약

좋은 개인 기억은 축적되는 것이 아니라 큐레이션되어야 합니다: 약속과 지속적인 사실을 유지하고, 맥락은 빠르게 만료시키며, 업데이트가 이전 값을 대체하게 하고, 항상 사용자가 통제권을 갖도록 해야 합니다. 이 분야에서 구축한다면, 기억하는 것과 함께 잊어버리는 것도 설계해야 합니다.

저희는 WhatsApp, 이메일, 웹 및 데스크톱 전반에 걸친 알림, 목록 및 개인 AI인 Brinn에 이러한 아이디어를 적용하고 있습니다. 여러분의 시스템에서는 잊어버리는 것을 어떻게 처리하시나요? 댓글로 알려주시면 감사하겠습니다.