LangFriend: 장기 기억 (Long-Term Memory)을 가진 일기장

LangChain에서 우리가 가장 관심을 두고 있는 개념 중 하나는 메모리 (Memory)입니다. 우리가 어떤 개념에 관심을 가질 때마다, 우리는 그 개념을 보여줄 수 있는 예시 앱을 만드는 것을 좋아합니다. 메모리의 경우, 우리는 일기 쓰기 앱을 만들기로 결정했습니다! 누구나 시도해 볼 수 있도록 해당 버전의 호스팅을 진행하고 있습니다. 또한 개발자용 API를 위해 몇몇 알파 사용자들과 협업을 시작하고 있습니다. 이에 관심이 있으시다면 아래에서 신청해 주세요.

주요 링크:

💡

우리는 또한 2024년 4월 6일에 New Computer, MongoDB, Anthropic과 함께 메모리 관련 해커톤을 진행합니다. 여기에서 신청하세요.

우리가 가장 낙관적으로 보고 있는 LLM (Large Language Model) 시스템의 구성 요소 중 하나는 메모리 (Memory)입니다. 생성형 AI (Generative AI)의 많은 힘은 즉석에서 독특한 콘텐츠를 생성하는 능력에서 나옵니다. 이는 사용자 경험을 맞춤화하는 데 믿을 수 없을 정도로 강력할 수 있습니다. 이는 사용자에 대한 기존 정보를 활용함으로써 가능할 수도 있지만, 이전의 사용자 상호작용을 기억하고 그로부터 학습함으로써도 가능합니다.

우리가 탐구하고자 하는 것은 바로 이러한 유형의 "기억하기"입니다. 우리는 사용자과 LLM 사이의 상호작용이 점점 더 많아질 것이라고 생각합니다. 챗봇 (Chatbots)은 LLM 애플리케이션의 지배적인 형태입니다. 이는 해당 대화 속에서 점점 더 가치 있는 사용자 정보가 교환될 것임을 의미합니다. 즉, 한 개인의 취향이나 불호, 친구가 누구인지, 목표가 무엇인지와 같은 정보들입니다. 이러한 속성들을 학습하고 이를 다시 애플리케이션에 통합하는 것은 사용자 경험을 크게 향상시킬 수 있습니다.

메모리를 탐구하면서, 우리는 우리의 많은 작업에 동기를 부여하고 근거를 마련하기 위해 유스케이스 (Use case) 예시를 구성하는 것이 도움이 될 것이라고 생각했습니다. 우리는 이 유스케이스로 일기 쓰기 앱을 선택했습니다. 우리는 이 일기 앱의 이름을 "LangFriend"라고 명명했으며, 오늘 대중에게 공개합니다. 아직은 겸손한 연구 프리뷰 (Research preview) 단계이지만, 오픈 소스로 공개하기 전에 무엇이 잘 작동하는지, 어떻게 개선할 수 있는지에 대해 커뮤니티의 피드백을 수집하기를 희망합니다.

이 포스트에서는 기억 (Memory)에 관한 이전의 학술적 연구, 흥미로운 시도를 하고 있는 다른 기업들, 그리고 왜 우리가 일기장 앱에 집중하기로 했는지에 대해 이야기해 보겠습니다. 그런 다음 일기장 앱의 기능을 살펴보며 심층적으로 분석할 것입니다. 만약 저희와 함께 기억 (Memory)을 탐구하는 데 관심이 있다면, 여기로 연락해 주세요.

학술적 연구 (Academic Work)

우리의 기억 (Memory) 관련 작업에 영감을 준 두 가지 주요 학술 논문을 찾았습니다.

첫 번째는 MemGPT입니다. UC Berkeley 연구진의 논문으로, 이 논문의 핵심 요약(TLDR)은 LLM (Large Language Model)에 몇 가지 함수를 호출할 수 있는 능력을 부여한다는 것입니다. 이 함수들은 특정 사실을 기억하거나, 관련된 내용을 회상하는 등의 작업을 수행할 수 있습니다.

대규모 언어 모델 (LLMs)은 AI를 혁신했지만, 제한된 컨텍스트 윈도우 (Context Window)로 인해 제약을 받고 있으며, 이는 긴 대화나 문서 분석과 같은 작업에서의 유용성을 저해합니다. 제한된 컨텍스트 윈도우를 넘어 컨텍스트를 사용할 수 있도록, 우리는 전통적인 운영 체제 (Operating Systems)의 계층적 메모리 시스템에서 영감을 얻은 가상 컨텍스트 관리 (Virtual Context Management) 기법을 제안합니다. 이는 물리적 메모리 (Physical Memory)와 디스크 (Disk) 사이의 페이징 (Paging)을 통해 확장된 가상 메모리 (Virtual Memory)의 환상을 제공합니다. 이 기법을 사용하여, 우리는 LLM의 제한된 컨텍스트 윈도우 내에서 확장된 컨텍스트를 효과적으로 제공하기 위해 다양한 저장 계층 (Storage Tiers)을 지능적으로 관리하는 시스템인 MemGPT (MemoryGPT)를 소개합니다.

두 번째는 Generative Agents입니다. Stanford 연구진의 논문으로, 이 논문의 핵심 요약(TLDR)은 경험에 대한 성찰 (Reflection)을 사용하여 기억을 형성하고, 이를 프로그래밍 방식으로 저장 및 검색한다는 것입니다.

우리는 절제 연구 (Ablation)를 통해 우리 에이전트 아키텍처 (Agent Architecture)의 구성 요소인 관찰 (Observation), 계획 (Planning), 성찰 (Reflection)이 각각 에이전트 행동의 신뢰성에 결정적으로 기여함을 입증합니다. 대규모 언어 모델 (Large Language Models)을 계산적 상호작용 에이전트 (Computational Interactive Agents)와 결합함으로써, 이 연구는 인간 행동의 믿을 수 있는 시뮬레이션을 가능하게 하는 아키텍처 및 상호작용 패턴을 도입합니다.

이 두 논문 사이의 흥미로운 차이점 중 하나는 LLM이 메모리를 사용하는 것을 능동적으로 결정하는 정도와, 그것이 배경 프로세스 (background process)에 더 가까운지의 여부입니다. MemGPT는 LLM이 메모리 함수를 사용하도록 강제하는 반면, Generative Agents는 배경 프로세스에 더 가깝습니다.

기업들

메모리를 활용하여 멋진 일들을 수행하고 있는 몇몇 기업들이 있습니다.

Plastic Labs는 TutorGPT와 같은 프로젝트를 구축하고 있는 스타트업입니다.

LangChain LLM 애플리케이션. 마음 이론 (theory-of-mind) 기반 튜터링을 위한 동적 메타프롬프팅 (Dynamic metaprompting).

Good AI는 장기 기억 (long-term memory)을 가진 채팅 어시스턴트를 막 오픈 소스로 공개한 스타트업입니다.

언뜻 보기에 Charlie는 ChatGPT, Claude, Gemini와 같은 기존의 LLM 에이전트들과 유사해 보일 수 있습니다. 하지만 이 모델의 독특한 특징은 LTM (Long-Term Memory)의 구현으로, 모든 상호작용으로부터 학습할 수 있다는 점입니다. 여기에는 사용자의 메시지, 어시스턴트의 응답, 그리고 환경적 피드백을 LTM에 저장하고 통합하여, 현재 수행 중인 작업과 관련이 있을 때 향후 검색 (retrieval)할 수 있도록 하는 과정이 포함됩니다.

OpenAI는 최근 ChatGPT에 메모리 기능을 통합했습니다.

이러한 기업들을 살펴보면, 메모리를 LLM이 의식적으로 호출해야 하는 능동적인 요소로 구현하는 것 (ChatGPT)과 자동으로 통합되는 배경 프로세스로 구현하는 것 (TutorGPT) 사이의 차이를 확인할 수 있습니다.

왜 일기장 앱인가?

장기 기억을 테스트하기 위해 구현할 좋은 유스케이스 (use case)를 고민할 때, 일기장 앱이 머릿속에 떠올랐습니다. 가장 큰 이유는 이 앱에서의 상호작용이 일반적인 채팅 애플리케이션보다 기억할 만한 가치가 있는 더 관련성 높은 정보를 포함할 것이라고 믿었기 때문입니다.

일반적인 채팅 애플리케이션에서는 "안녕!", "하이", "뭐해" 등과 같은 불필요한 대화가 많을 수 있습니다. 반면 일기를 쓰는 환경에서는 실제적이고 흥미로운 감정과 통찰을 공유하는 단계에 더 빠르게 도달하게 됩니다.

그럼에도 불구하고, 우리는 이 앱에 채팅 컴포넌트 (chat component)를 추가하고 싶었습니다. 가장 큰 이유는 우리 애플리케이션이 사용자에 대한 정보를 학습하고 기억하고 있다는 것을 보여주기 위함이었습니다. 애플리케이션은 이 정보를 사용하여 사용자에게 개인화된 응답 (personalized responses)을 생성할 수 있게 됩니다.

여기서 앱이 제가 이탈리아 요리의 팬이라는 점과, 운동 후에 상쾌함을 느낀다는 점을 기억하는 것을 볼 수 있습니다.

첫 번째 일기를 작성하고 우리의 동반자 (companion)와 채팅을 하고 나면, 내비게이션 바 (navigation bar)에 "Memories" 버튼이 나타나는 것을 확인할 수 있습니다. 이 버튼을 클릭하면 우리가 당신의 일기에서 추출할 수 있었던 모든 주요 기억들을 보여줍니다.

목록이 간결하며 너무 많은 정보를 포함하고 있지 않다는 점을 눈치채셨을 것입니다. 이것들은 우리가 추출한 가장 중요하고 상위 수준의 사실 (high level facts)들일 뿐입니다. 백그라운드 (behind the scenes)에서는 당신의 기록으로부터 이보다 훨씬 더 많은 사실들을 끌어내고 있으며, 그 모든 것들을 검색할 수도 있습니다!

"Search memories..." 입력창에 타이핑을 시작하면, LangFriend가 당신에 대해 저장하고 있는 매우 다양한 사실들을 실시간으로 확인할 수 있습니다:

커스터마이징 (Customizing)

우리는 LangFriend를 모든 사용자에게 최대한 매력적으로 만들고 싶었습니다. 이를 위해, 우리는 누구나 우리의 동반자와 나누는 모든 대화의 접두사 (prefix) 역할을 하며 톤 (tone)을 설정하는 시스템 메시지 (system message)를 업데이트할 수 있도록 허용합니다. 많은 사용자의 요구에 맞게 정성스럽게 제작된 기본값이 포함되어 있습니다. 하지만 약간 다르거나 완전히 다른 것을 찾고 있다면, 원하는 만큼 아주 조금 또는 아주 많이 변경할 수 있습니다.

"Logs" 페이지를 방문하고 "Config" 버튼을 클릭하여 시스템 프롬프트 (system prompt)를 찾아 업데이트하세요. 여기서 클릭하면 시스템 프롬프트가 포함된 대화 상자가 팝업됩니다.

수행된 모든 변경 사항은 세션 (session) 간에 유지되며, 향후 모든 채팅 대화의 접두사로 사용됩니다!

결론 (Conclusion)

LangFriend는 LLM (Large Language Model) 애플리케이션에 장기 기억 (Long-Term Memory)을 통합하는 잠재력을 보여주는 흥미로운 연구 프리뷰 (research preview)입니다. 일기장 앱에 집중함으로써, 우리는 개인화된 응답을 제공하고 사용자 경험을 향상시키기 위해 의미 있는 사용자 정보를 포착하는 것을 목표로 합니다. 이 분야의 학술적 연구와 혁신적인 기업들로부터 영감을 받은 LangFriend는 기억이 어떻게 매력적이고 적응적인 상호작용을 만들기 위해 능동적으로 활용되거나 백그라운드 프로세스 (background process)로 통합될 수 있는지를 보여줍니다. 우리는 커뮤니티가 LangFriend를 탐색하고, 피드백을 제공하며, LLM 애플리케이션에서 기억을 통해 가능한 것들의 경계를 넓히는 여정에 함께하기를 기대합니다. 이를 통해 생성형 AI (Generative AI)의 잠재력을 완전히 끌어올려 더욱 강력하고 개인화되며 의미 있는 사용자 경험을 구현하고자 합니다.