Dreaming: 더 유용한 ChatGPT를 위한 더 나은 메모리 기능

오늘 우리는 ChatGPT에 메모리가 수억 명의 사용자 및 수년에 걸친 시간 범위에 적용될 때 발생하는 정보의 노후화, 정확성, 확장성 문제를 해결하기 위해 개발된, 메모리 합성을 위한 더 유능하고 확장 가능한 시스템을 출시하기 시작합니다.

메모리는 ChatGPT가 사용자의 선호도, 프로젝트, 제약 사항을 학습하도록 도와, 향후 대화가 처음부터 시작하는 대신 공유된 맥락 (context)에서 시작할 수 있게 해주는 요소입니다.

지난 2년 동안 메모리는 ChatGPT 경험의 핵심적인 부분으로 성장했으며, ChatGPT가 사용자의 맥락을 더 잘 이해하여 시간이 지나면서 의미 있는 목표를 달성할 수 있도록 돕고 있습니다. 이는 ChatGPT를 더 유용하게 만드는 데 핵심적입니다. 즉, 사용자를 알고, 사용자를 도우며, 사용자를 위해 더 많은 일을 수행하는 것입니다.

이번 업데이트는 오늘 미국 내 Plus 및 Pro 사용자에게 제공되며, 향후 몇 주에 걸쳐 추가 국가와 Free 및 Go 사용자에게도 출시될 예정입니다.

메모리는 2024년 4월에 처음 출시되었습니다 (saved memories라고도 불림). 이 기능은 사용자가 ChatGPT에게 정보를 기억하도록 요청하고 이를 향후 채팅으로 가져가도록 할 수 있게 했습니다.

저장된 메모리 (Saved memories)는 대화 중에만 기록되었으며, "7월에 싱가포르로 여행 간다는 것을 기억해 줘"와 같은 지침처럼 메모리를 트리거할 시점을 결정하기 위해 강력한 신호에 의존했습니다. 실제로 이 시스템과 상호작용하는 것은 메모를 몇 개 적어두었지만, 적히지 않은 모든 것은 여전히 잊어버리는 사람과 대화하는 것처럼 느껴질 수 있었습니다. 또한 저장된 메모리는 시간이 지남에 따라 노후화되는 경향이 있으며, 결국 부정확하거나 관련 없는 정보가 되기도 합니다.

2025년 4월, 우리는 모델이 저장된 메모리 목록 외의 채팅 맥락 (chat context)을 참조할 수 있는 능력을 부여함으로써 ChatGPT의 메모리를 업데이트했습니다. 이는 dreaming의 첫 번째 버전을 도입함으로써 이루어졌습니다. 이는 ChatGPT가 채팅 기록을 참조하여 백그라운드에서 자동으로 메모리를 큐레이션하는 방법입니다.

저장된 메모리(saved memories)와 대조적으로, Dreaming은 ChatGPT가 수많은 대화로부터 학습하고 ChatGPT의 메모리 상태를 합성(synthesize)할 수 있게 하는 백그라운드 프로세스를 활용하여, 사용자의 대화에 항상 가장 최신의, 가장 관련성 높은 컨텍스트(context)를 제공합니다. 또한 Dreaming은 무언가를 기억해달라는 명시적인 요청에 의존하지 않고도, 대화 중에 자연스럽게 발생하는 컨텍스트를 메모리에 포함하는 것을 더 쉽게 만들어 줍니다.

지난 1년 동안 Dreaming은 저장된 메모리를 *보완(supplemented)*함으로써, ChatGPT가 응답을 개인화하는 능력을 계단식(step-function)으로 향상시키고 저장된 메모리의 노후화(staleness) 문제를 상쇄해 왔습니다. 하지만 역사적으로 Dreaming은 단독 메모리 시스템으로서 충분하지는 않았습니다.

오늘, 우리는 Dreaming을 기반으로 구축된, 훨씬 더 유능하고 연산 효율적인(compute-efficient) 메모리 아키텍처를 출시합니다.

Dreaming에 의해 합성된 메모리는 메모리 요약 페이지에 표시되는 요약을 통해 검토할 수 있습니다. 메모리 요약을 통해 ChatGPT가 사용자에 대해 알고 있는 핵심 내용을 빠르게 파악할 수 있으며, 자신에 대한 정보를 추가하거나 업데이트할 수 있고, ChatGPT가 어떤 주제를 언제 언급해야 하는지에 대한 지침을 제공할 수 있습니다. 특정 영역에 대해 더 자세히 알고 싶다면, 모델과 대화하기만 하면 됩니다.

ChatGPT에서 '좋은 메모리'가 어떤 모습인지 생각할 때, 몇 가지 사항이 떠오릅니다.

유용한 컨텍스트를 계속 유지하기: ChatGPT에게 무언가를 한 번 말하면, 이후의 채팅에서도 그 정보를 기억합니다.
선호도 및 제약 사항 준수하기: 만약 사용자가 선호도(예: 채식주의자임)를 설명한다면, ChatGPT는 향후 그 선호도와 일치하는 행동을 취해야 합니다.
시간이 흐름에 따라 최신 상태 유지하기: 메모리는 시간의 흐름을 고려해야 합니다. 예를 들어

2024: 저장된 메모리 (Saved memories)
2025: 저장된 메모리 + Dreaming V0
2026: Dreaming V3

ChatGPT와 새로운 채팅을 시작할 때, 처음부터 자신을 다시 소개할 필요가 없습니다. ChatGPT는 시간을 절약해 줄 뿐만 아니라, 특히 복잡하고 장기적인 프로젝트의 경우 이전의 문맥 (prior context)을 바탕으로 발전해 나갈 수 있습니다.

예를 들어, 현재 사용 중인 카메라와 호환되는 새로운 카메라 장비를 쇼핑하기 위해 ChatGPT를 사용한다고 가정해 봅시다. 만약 과거에 ChatGPT와 자신의 카메라 설정을 논의한 적이 있다면, "내 사진 장비 구성 (my photography setup)"과 호환되는 제품을 요청할 수 있으며, 사용자의 요구 사항을 충족하는 맞춤형 추천을 받을 수 있습니다.

메모리가 없는 경우

모델이 일반적인 응답을 생성하며, 사용자가 직접 복잡한 호환성 확인을 수행해야 합니다.

메모리가 있는 경우

모델이 사용자의 카메라 설정을 기억하고 호환되는 제품을 추천합니다.

우리는 모델에게 사용자에 대한 사실적 정보를 회상해야 하는 프롬프트에 응답하도록 요청하는, 이와 유사한 사례들로부터 평가 (eval)를 구성할 수 있습니다. 모델이 관련 문맥을 올바르게 사용하여 응답하면 보상을 받게 됩니다. 이 평가에서 새로운 Dreaming 기반 시스템은 관련 사실을 회상하는 모델의 능력을 향상시킵니다.

메모리는 또한 ChatGPT가 사용자의 선호도와 제약 사항에 더 잘 부합하는 방식으로 응답하도록 돕습니다.

싱가포르 여행을 계획하고 있다고 상상해 보세요. 여행 두 달 전, ChatGPT에게 일정 계획을 도와달라고 요청합니다. ChatGPT는 과거의 여행 계획을 통해 당신이 야생 동물 사진 촬영을 즐기고, 에어컨이 빵빵한 호텔을 선호하며, 북적이는 바보다는 조용한 저녁 식사를 즐긴다는 것을 이미 알고 있습니다.

메모리가 없는 경우

모델이 더 관광객 위주의 일반적인 응답을 생성하며, 호텔 예약에 도움이 되지 않고 사용자의 관심사를 대체로 무시합니다.

메모리가 있는 경우

모델이 야생 동물 사진 촬영, 조용한 저녁 식사, 그리고 호텔 예약 시의 우선순위 등 사용자의 관심사에 맞춤화된 응답을 생성합니다.

선호도는 여러 가지 형태로 나타날 수 있습니다:

• ChatGPT가 어떻게 응답해야 하는지에 대한 지침 ("Stan에 대해 다시 언급하지 마세요")
• 개인적인 선호도 또는 제약 사항 ("저는 채식주의자입니다")
• 사용자에게 무엇이 관련 있는지 결정하는 암묵적 선호도 ("저는 샌프란시스코 근처에 삽니다" → 지역 옵션이 이 지역에 맞춰 제공되어야 함)

새로운 메모리 (Memory) 시스템을 개발하면서, 우리는 과거 대화로부터 관련 선호도를 적용하는 ChatGPT의 능력을 향상시켰습니다. 위의 "저는 채식주의자입니다"라는 예시를 따라, 채식주의자 사용자가 식사 준비 제안을 요청했을 때 모델이 메모리를 올바르게 활용하여 채식 친화적인 식사 옵션을 생성하는지 평가할 수 있습니다.

채팅이 끝난다고 해서 시간이 멈추는 것은 아닙니다.

전통적인 메모리 시스템은 오래되어 쓸모없게 될 수 있습니다. 예를 들어, 사용자가 ChatGPT에게 "저는 지금 싱가포르에 있고 오늘 저녁 식사 추천이 필요해요"라고 말합니다. 그 후 시간이 흐르고 여행이 끝났는데, ChatGPT가 왜 여전히 사용자가 싱가포르에 있다고 생각하는지 의아해할 수 있습니다.

Dreaming을 통해, 시간이 흐름에 따라 메모리가 자동으로 업데이트되어, 여행이 끝나면 ChatGPT가 메모리를 "7월에 싱가포르에 갈 예정입니다"에서 "2026년 7월에 싱가포르에 다녀왔습니다"로 수정할 수 있게 됩니다. 그 후 사용자가 집으로 돌아오면, ChatGPT는 다시 사용자의 집 위치와 시간대에 맞춘 추천을 제공할 수 있습니다.

오래된 메모리 (Stale memory)

모델은 사용자가 여전히 싱가포르에 있다고 생각합니다.

메모리 적용 시 (With memory)

모델은 사용자의 집 위치와 관련된 응답을 제공합니다.

우리의 메모리 평가에서는 시간의 경과가 정답이나 추천에 실질적인 영향을 미치는 프롬프트에 ChatGPT가 올바르게 응답할 수 있는지 측정합니다. Dreaming은 이 영역에서 상당한 성능 향상을 제공합니다:

OpenAI의 미션은 인공 일반 지능 (AGI)이 인류 전체에 이익이 되도록 보장하는 것입니다.

Dreaming 기반의 메모리 기능은 이미 Plus 및 Pro 사용자들에게 일정 기간 제공되어 왔으나, 이제서야 당사의 품질 기준을 충족하면서도 대규모로 서비스하기에 실용적인 버전을 Free 사용자들에게 제공할 수 있게 되었습니다. 최근의 개선을 통해 Free 사용자들에게 Dreaming을 제공하는 데 필요한 연산량 (compute)을 약 5배 줄였으며, 이를 통해 향후 몇 주에 걸쳐 Free 사용자들에게 Dreaming 기능을 순차적으로 배포하고 Plus 및 Pro 사용자의 메모리 용량을 늘리는 것이 가능해졌습니다.

앞으로 Dreaming은 모든 사용자를 위한 공유 메모리 기반 (shared memory foundation)을 제공할 것입니다. 이번 업데이트는 당사의 가장 강력한 메모리 시스템을 나타내며, 저희는 이를 지속적으로 개선해 나갈 것입니다.