ChatGPT와 Claude는 긴 대화에서 문맥 (context)을 잊어버리는데, 이는 모든 모델이 고정된 문맥 창 (context window)을 가지고 있기 때문입니다. 대화 스레드가 이 범위를 넘어서면 가장 오래된 대화 내용이 삭제됩니다. 해결책은 더 긴 스레드를 사용하는 것이 아닙니다. 해결책은 대화를 짧고 구조화된 메모리로 압축하여 새로운 채팅에 붙여넣는 것입니다. 이것은 올해 저의 시간을 가장 많이 아껴준 단 하나의 기술이며, 여기서 그 전체 방법을 알려드리겠습니다.

이를 위해 플러그인, 메모리 스타트업, 또는 유료 티어가 필요하지 않습니다. 필요한 것은 하나의 습관과 출력물을 보관할 한 곳뿐입니다.

왜 긴 대화는 문맥을 잃어버리는가

문맥 창 (context window)은 모델이 한 번에 볼 수 있는 텍스트의 양입니다. 이를 여러분의 채팅 중 가장 최근 부분만을 보는 카메라라고 생각하십시오. 대화가 그 한계를 넘어서면, 이전 메시지들은 프레임 밖으로 밀려납니다. 그래서 모델은 여러분이 한 시간 전에 내린 결정을 추측하기 시작하거나, 스스로 모순된 말을 하거나, 이미 제공한 세부 정보를 다시 요청하게 됩니다.

이는 보고해서 고칠 수 있는 버그가 아니라 문서화된 동작 방식입니다. PCWorld의 설명에 따르면, 긴 스레드는 창이 가득 차고 모델이 시작 부분을 잃어버리기 때문에 정확히 그렇게 성능이 저하됩니다. 흔히 권장되는 방식인 "그냥 새 채팅을 시작하세요"라는 조언은 방향은 맞지만 실행 방법은 틀렸습니다. 왜냐하면 새로 시작하는 것은 이전 스레드가 학습한 모든 것을 버리는 것이기 때문입니다.

해결책: 압축 인계 (compression handoff)

해결책은 압축 인계 (compression handoff)입니다. 스레드가 너무 길어지기 전에, 모델에게 대화의 요약본을 작성하게 한 다음, 그 요약본을 새로운 채팅의 시작 메모리로 가져가는 것입니다. 제대로 수행한다면, 5,000단어 분량의 스레드는 중요한 모든 결정을 보존하고 노이즈는 버린 채 약 500단어의 메모리 블록으로 압축됩니다.

원리는 간단합니다. 모델은 긴 대화를 기억하는 데는 서툴지만, 대화를 요약하는 데는 매우 능숙합니다. 따라서 모델이 가진 기술을 사용하여 모델이 부족한 기술을 해결하는 것입니다.

6단계 압축 방법

스레드(thread)가 무겁게 느껴지기 시작할 때마다 — 보통 하드 리미트(hard limit)에 도달하기 훨씬 전에 — 이 과정을 실행하세요:

1. 인수인계 요약(handoff summary)을 요청하세요. 모델에게 다음과 같이 프롬프트(prompt)를 입력합니다: "새로운 채팅에 붙여넣을 수 있는 인수인계 요약을 작성해 줘. 우리가 무엇을 하려는지, 확정된 결정 사항, 추측할 경우 틀릴 수 있는 내용, 미결 질문, 그리고 다음의 구체적인 단계를 포함해 줘."
2. 구조를 강제하세요. 목표(Goal), 결정 사항(Decisions), 제약 사항(Constraints), 미결 질문(Open Questions), 다음 단계(Next Step)와 같이 제목이 있는 섹션을 요구하세요. 구조화는 메모리가 단순한 텍스트 더미가 아닌 재사용 가능한 형태가 되도록 만듭니다.
3. 핵심적인 사실(load-bearing facts)만 남기세요. 다음 채팅에서 스스로 다시 찾아낼 수 있는 내용은 모두 삭제하세요. 사용자의 개입 없이는 모델이 틀릴 수 있는 내용만 유지하세요.
4. 약 500단어를 목표로 하세요. 결정 사항을 전달할 수 있을 만큼 충분히 길면서도, 새로운 채팅이 과거 내역을 다시 읽는 데 시간을 쓰지 않고 작업에 집중할 수 있을 만큼 충분히 짧아야 합니다.
5. 새로운 채팅을 열고 메모리를 가장 먼저 붙여넣으세요. 새로운 스레드는 이미 방향이 잡힌 상태로 시작하며, 앞으로 사용할 전체 컨텍스트 윈도우(window)를 확보하게 됩니다.
6. 메모리를 나중에 다시 찾을 수 있는 곳에 저장하세요. 이 단계가 일회성 요령을 하나의 시스템으로 바꿔줍니다.

이것이 전체 방법론입니다. 비용은 전혀 들지 않으며 ChatGPT, Claude, 또는 채팅 인터페이스를 가진 모든 어시스턴트(assistant)에서 작동합니다.

메모리를 재사용할 수 있도록 저장하는 곳

각 메모리 블록을 검색 가능한 곳에 저장하는 것이, 이 방법을 한 번 해보는 사람과 이를 복리로 쌓아가는 사람을 가르는 차이점입니다. 채팅 기록 속에서 잃어버리는 붙여넣기 된 요약은 오늘 당장만 도움이 됩니다. 하지만 대화당 한 행씩 프로젝트별로 태그를 달아 작은 데이터베이스(database)에 저장한 동일한 요약은, 몇 달 후에 다시 꺼내 쓸 수 있는 성장하는 기록이 됩니다.

저는 이를 프로젝트(project), 날짜(date), 그리고 메모 블록(memory block) 자체라는 세 가지 필드를 가진 Notion 데이터베이스에 저장합니다. 특정 주제로 돌아갈 때, 해당 행을 열고 메모를 새 채팅에 붙여넣기만 하면 몇 초 만에 이전에 멈췄던 지점으로 바로 돌아갈 수 있습니다. 문맥 손실(Context loss)은 2026년 헤비 AI 사용자들 사이에서 가장 흔한 불만 중 하나이며, 이를 보완하기 위한 별도의 도구 카테고리들이 존재할 정도입니다. 하지만 정작 자신이 이미 생성한 요약본을 보관하는 사람은 거의 없습니다. 그 아카이브(archive)의 유무가 처음부터 다시 시작하느냐, 아니면 이어서 진행하느냐의 차이를 만듭니다.

FAQ

왜 ChatGPT는 같은 채팅 내에서 이전에 했던 말을 잊어버리나요?
대화가 모델의 컨텍스트 윈도우(context window)를 초과하여 가장 초기의 메시지들이 삭제되었기 때문입니다. 모델이 당신을 무시하는 것이 아니라, 해당 스레드(thread)의 그 부분을 더 이상 볼 수 없는 상태인 것입니다.

ChatGPT의 메모리(memory) 기능을 켜면 이 문제가 해결되나요?
부분적으로는 그렇습니다. 내장된 메모리는 여러 채팅에 흩어진 사실들을 포착하지만, 특정 긴 대화의 전체적인 추론 과정(reasoning)을 보존하지는 못합니다. 의도적인 압축 전달(compression handoff)은 이를 가능하게 하며, 무엇을 전달할지 당신이 정확히 제어할 수 있습니다.

전달용 요약은 어느 정도 길이여야 하나요?
밀도 높은 작업 스레드(working thread)의 경우 약 500단어 정도가 적당합니다. 목표는 결정 사항은 유지하고 대화 기록(transcript)은 버리는 것입니다. 읽는 데 1분 이상 걸린다면 더 줄이세요.

이를 위해 유료 도구나 플러그인이 필요한가요?
아니요. 이 방법은 위에 제시된 프롬프트(prompt)와 결과를 저장할 수 있는 공간만 있으면 됩니다. 전용 메모리 도구들이 존재하지만, 무료 버전으로도 충분히 작동하며 당신의 데이터를 직접 제어할 수 있습니다.

압축 과정을 자동화할 수 있나요?
프롬프트를 템플릿화하여 클릭 한 번으로 실행할 수는 있지만, 무엇이 보관될지는 사람이 직접 확인해야 합니다. 핵심적인 가치는 하중을 견디는 중요한 사실(load-bearing facts)을 선택하는 데 있으며, 그 판단을 내리는 30초의 시간은 충분히 가치가 있습니다.

위의 압축 프롬프트 (compression prompt)는 제가 실제로 사용하는 워크스페이스 내 12가지 표준 운영 절차 (SOPs) 중 하나입니다. 그중에서도 긴 대화용 SOP는 제가 반드시 지키고 싶은 핵심적인 것입니다. 해당 방법론과 대화 아카이브 (Conversations Archive) 데이터베이스가 이미 구축된 무료 Notion 프리뷰가 준비되어 있으니, 프리뷰를 체험하고 채팅 하단에서 기억을 잃어버리는 대신 오늘부터 바로 기억을 보관해 보세요.

언급된 상표는 각 소유자의 자산입니다. ChatGPT는 OpenAI의 상표이며, Claude는 Anthropic의 상표이고, Notion은 Notion Labs, Inc.의 상표입니다.

최종 업데이트: 2026-07