대부분의 AI 메모리는 부패할 것이다. 예외는 틀렸음을 기억하는 메모리뿐이다.

2026년이 되면 당신의 AI가 당신을 기억할 수 있는지에 대한 질문은 더 이상 의미가 없어질 것입니다. AI는 할 수 있습니다. 메모리(Memory)는 약 1년 만에 연구 데모 단계에서 범용 인프라(Commodity infrastructure)로 변모했습니다. 관리형 서비스(Managed services), 수십 개의 프레임워크, 벤치마크 제품군, 그리고 수많은 즉시 적용 가능한 통합(Drop-in integrations) 기능들이 등장했습니다. 곧 모든 어시스턴트와 에이전트(Agent)는 당신의 별도 노력 없이도 기본적으로 당신에 대한 실행 메모리를 보유하게 될 것입니다. 여기서 메모리를 판매하는 누구도 입 밖으로 꺼내지 않는 사실이 있습니다. 그중 대부분은 가치가 없게 될 것이라는 점입니다. 그리고 그중 상당수는 가치가 없는 것보다 더 나쁠 것입니다. 왜냐하면 메모리는 자연스러운 경향에 맡겨두면 아첨(Flattery)이 되기 때문입니다.

슬러지(Sludge) 문제
기본 메모리 시스템이 실제로 무엇을 보존하는지 생각해 보십시오. 당신의 선호도, 당신이 좋아했던 답변, 당신이 유지했던 출력물(Outputs), 그리고 당신이 말하는 방식의 분위기(Vibe)입니다. 이는 다음 상호작용을 더 매끄럽고 동의하기 쉽게 만드는 데 최적화되어 있습니다. 즉, 구조적으로 당신이 이미 듣고 싶어 했던 말을 더 많이 해주는 기계라는 뜻입니다. 이미 당신을 기쁘게 하려는 성향이 있는 모델에 당신 자신의 선호도가 담긴 아카이브(Archive)가 계속 주입되는 것은 지능이 아닙니다. 그것은 거울의 방(Hall of mirrors)입니다.

그리고 여기서 위험한 부분이 있습니다. 검증되지 않고 자기 확증적인(Self-confirming) 메모리의 거대한 아카이브는 중립적인 노트 더미가 아닙니다. 그것은 모델이 이제 '증거(Receipts)'까지 갖춘 채 더 자신 있게 틀릴 수 있는 더 넓은 표면이 됩니다. 더 많이 기억할수록, 그 실수는 더 권위 있게 들립니다. 더 많은 메모리가 더 많은 지능을 의미하지는 않습니다. 나쁜 메모리는 그저 더 설득력 있게 전달되는 더 큰 거짓말일 뿐입니다.

이것은 단순한 예감이 아닙니다. 연구 결과도 같은 방향을 가리키고 있습니다. 2026년 연구인 Interaction Context Often Increases Sycophancy in LLMs (arXiv:2509.12517)에 따르면, 모델에게 당신에 대한 메모리나 컨텍스트(Context)를 제공하는 것이 모델이 단순히 당신에게 동조하는 빈도를 측정 가능한 수준으로 높인다는 사실이 밝혀졌습니다.

그리고 정확히 이 문제를 위해 구축된 벤치마크들 — MemoryArena (arXiv:2602.16313) 및 PersistBench (arXiv:2602.01146) — 은 동일하고 불편한 패턴을 드러냅니다. 사실을 수동적으로 회상(passively recalling)할 때는 강력해 보이는 모델들이, 의존적인 결정들에 걸쳐 메모리를 사용해야 할 때는 눈에 띄게 성능이 저하된다는 점입니다. 즉, 무엇을 기억할지만큼 무엇을 잊을지 아는 것이 중요하다는 사실이 밝혀졌습니다. 더 많이 기억하는 것과 더 잘 생각하는 것은 동일한 기술이 아닙니다. 기본 메모리는 전자를 날카롭게 만드는 반면, 후자는 조용히 무디게 만듭니다. 그렇다면 앞으로 쏟아져 나올 저렴한 메모리의 홍수가 대부분 진흙탕(sludge)뿐이라면, 예외는 무엇일까요? 모델이 강력해질수록 실제로 가치가 상승하는 기록은 어떤 종류일까요?

틀렸음을 기억하는 메모리

드물고 가치 있는 것은 당신이 무엇을 결정했는지에 대한 기록이 아닙니다. 그것은 당신의 사고가 어떻게 변했는지, 그리고 '왜' 변했는지에 대한 기록입니다. 이를 '교정 메모리 (correction memory)'라고 부릅시다. 출력값(outputs)이 아니라, 교정(corrections)입니다. 거부되었거나, 완화되었거나, 일시 중지되었거나, 논쟁의 대상이 되었거나, 철회되었던 것들의 흔적 말입니다. 대부분의 시스템은 결론을 저장합니다. 하지만 결론에 도달하는 과정에서 소멸한 결론들에 대한 부검(autopsy) 기록을 보관하는 시스템은 거의 없습니다.

제가 운영하는 작은 멀티 에이전트 시스템(multi-agent system)의 로그를 살펴보면, 가장 가치 있는 항목들은 당혹스러운 것들입니다. 두 에이전트가 의견을 달리하다가 한쪽이 증거에 의해 기각된 기록. 제가 흥미를 느꼈던 아이디어가 5분간의 테스트를 견디지 못해 보류된 기록. 제품을 출시하는 대신 끝없이 구축만 하려는 저의 습관을 끊기 위해 추가해야 했던 규칙. 검증 단계에서 포착되어 확산되기 전에 사살된 저의 주장. 이러한 항목들은 깨끗하고 성공적인 모든 출력값을 합친 것보다 더 큰 가치가 있습니다. 그리고 이것들은 바로

"비동기 경로로 전환되었습니다." 몇 달 후, 제가 새로운 에이전트 (agent)에게 동일한 문제의 새로운 버전에 어떻게 접근해야 하는지 물었을 때, 그것은 뻔한 수를 찾지 않았습니다. 그것은 그 오래된 수정 사항을 떠올렸고, 그것으로부터 추론했습니다. 그것은 저의 선호도가 아니라, 무엇이 작동하지 않는지 그리고 그 이유가 무엇인지에 대해 제가 어렵게 얻은 판단 (judgment)을 물려받은 것이었습니다. 기본 메모리 (default memory)라면 목표를 기억했겠지만, 수정 메모리 (correction memory)는 교훈을 기억했습니다.

이것이 왜 다가올 미래를 위한 베팅인가: 모델 (Models)은 한 번에 전체 아카이브 (archives)를 읽을 수 있을 만큼 커지고 있습니다. 그것이 완전히 실현되었을 때, 모델이 당신의 기록으로부터 끌어낼 수 있는 가치는 당신의 기록이 무엇을 보존하려고 노력했느냐에 전적으로 달려 있을 것입니다. 당신의 선호도와 만족스러운 답변들로 구성된 코퍼스 (corpus)를 입력하면, 모델은 당신에게 아부하는 법을 더 빨리 배웁니다. 하지만 자신의 모순, 오류, 수정, 그리고 그로 인한 결과들을 보존한 코퍼스를 입력하면, 모델은 당신의 취향보다 훨씬 더 희귀한 것, 즉 판단력 (judgment)을 물려받게 됩니다. 모델은 당신이 내린 결론뿐만 아니라, 당신이 어디서 틀렸는지, 무엇이 당신을 바로잡았는지, 그리고 그 대가가 무엇이었는지까지 볼 수 있습니다. 이것이 당신의 선호도를 아는 에이전트와 당신과 함께 실제로 사고할 수 있는 에이전트 사이의 차이입니다.

하지만 코퍼스가 그러한 종류의 자산이 되려면 다음 네 가지 기준을 통과해야 합니다:

1. 정밀한 검토를 견딜 만큼 진실할 것 (Truthful enough to survive scrutiny) — 아부하기 위한 허구가 포함되어서는 안 됩니다.
2. 검색이 가능할 만큼 구조화될 것 (Structured enough to be retrieved) — 아무도 검색할 수 없는 더미는 죽은 무게일 뿐입니다.
3. 판단력을 보여줄 만큼 충분히 수정될 것 (Corrected enough to show judgment) — 결과뿐만 아니라 수정 과정(revisions)을 보존해야 합니다.
4. 행동을 유도할 만큼 유용할 것 (Usable enough to drive action) — 실행되는 내용을 변화시키지 못한다면 그것은 박물관에 불과합니다.

이 중 하나라도 놓치면 아카이브는 부패합니다.

누구에게 이것이 필요한가 — 그리고 누구에게는 필요 없는가: 적합성에 대해 솔직해지십시오. 이 규율은 그저 비서가 자신의 커피 주문을 기억해주길 바라는 사람에게는 과잉 대응입니다. 만약 당신의 AI 사용이 가볍고 일회적이라면, 기본 메모리 (default memory)로 충분하며 여기서 들이는 노력은 당신에게 낭비가 될 것입니다. 실제로 이득을 보는 대상은 다음과 같습니다: 장기적인 작업 (long-horizon work)을 수행하는 1인 운영자 — 한 사람이 수많은 스레드 (threads)를 다루며 수개월간 결정을 내려가는 경우입니다.

당신을 갉아먹는 것은 매일같이 맥락 (context)을 다시 도출해내는 비용이며, 수정 기록 (correction trail)이 바로 그것을 해결합니다. 당신의 AI가 매일 아침 당신을 낯선 사람처럼 대하는 일이 멈추게 됩니다. 판단력이 진화하고 있는 사람이라면 누구든 해당됩니다 — 연구자, 분석가, 창업자, 빌더 (builders)가 그러합니다. 만약 당신이 생산하는 가치가 "나는 X라고 믿었으나, 왜 내가 틀렸는지 배웠다"라면, 당신의 수정 사항들이 곧 당신의 제품입니다. 그것들을 버리는 것은 작업 결과물을 버리고 영수증만 남기는 것과 같습니다. 자신에게 동조하는 에이전트가 아니라, 자신에게 도전하는 에이전트를 원하는 사람들을 위한 것입니다. 만약 당신이 다시 아첨을 들어 실수를 반복하기보다, 차라리 실수를 지적당하는 쪽을 택한다면, 이것이 유일하게 그 역할을 수행할 수 있는 메모리입니다 — 왜냐하면 이것은 당신이 어디서 틀렸는지를 기억하고 그렇게 말할 수 있기 때문입니다. 만약 이 중 어디에도 해당하지 않는다면, 그냥 지나치셔도 좋습니다. 누구를 위한 것이 아닌지 명확히 밝히는 것 또한, 누구를 위한 것인지에 대한 주장을 신뢰할 수 있게 만드는 요소 중 하나입니다.

정직한 비용: 이러한 코퍼스 (corpus)는 공짜가 아니며, 그렇지 않은 척하는 것은 메모리를 제안하는 누구라도 의심하게 만들어야 할 전형적인 과장 광고입니다. 실제 트레이드오프 (tradeoffs): 규율에 따른 비용 (discipline tax). 단순히 결정 사항뿐만 아니라 거절 (rejection) 사항까지 기록하는 것은 지속적인 노력이 필요합니다. 실제로 소요되는 시간 비용은 작습니다 — 수정 사항이 발생할 때 기록하는 데 몇 분, 일주일에 관리하는 데 20분 정도면 충분합니다 — 하지만 대부분의 사람들은 여전히 이를 지속하지 못할 것이며, 바로 그 점 때문에 이것이 희귀하게 유지되고 따라서 가치 있는 것입니다. 어려운 점은 시간이 아니라 일관성 (consistency)입니다.

큐레이션 (Curation)은 필수적입니다. 모든 것이 보관될 가치가 있는 것은 아닙니다. 과도한 기록은 신호 (signal)를 묻어버리고, 반대 방향에서 슬러지 (sludge) 문제를 재발시킵니다. 코퍼스는 정원처럼 가지치기 (pruning)가 필요합니다.

이것은 의도적으로 겸손함을 요구합니다. 자신의 오류를 보존한다는 것은 그것을 반복해서 다시 바라본다는 것을 의미합니다. 어떤 사람들은 그것을 견디지 못하며, 이 시스템은 당신이 그것을 견딜 수 있을 때만 작동합니다. 이것은 민감한 문제입니다. 당신이 실제로 어떻게 생각하는지에 대한 진실된 기록은 꾸밈없는 당신 자신입니다. 그것을 미래의 모델에게 전달하는 것은 강력한 일이지만, 유출될 경우 진정한 노출 위험 (exposure risk)이 됩니다. 그것을 사적인 것으로 취급하십시오. 관리가 필요합니다. 그대로 방치하면, 어떤 메모리든 부패합니다.

유지 관리 — 통합(consolidating), 오래된 사실의 수정(correcting stale facts), 노이즈 제거(pruning noise) — 는 가치 상승(appreciation)을 위해 지불해야 하는 대가입니다. 그 보상은 당신의 업무가 속도보다 판단력(judgment)에 보상을 줄 때만 정당화됩니다. 만약 그렇다면, 그 무엇도 이처럼 복리로 성장하지 않습니다. 만약 그렇지 않다면, 당신은 결코 현금화할 수 없는 자산에 대해 세금을 내고 있는 셈입니다.

중요한 경계선
AI 시대에 희귀한 자산은 에이전트(agent)를 보유하는 것이 아닙니다. 모두가 에이전트를 갖게 될 것입니다. 희귀한 자산은 에이전트에게 건네줄 가치가 있는, 진실되고 구조화되며 자기 수정이 가능한 코퍼스(corpus, 말뭉치)를 보유하는 것입니다.

이것이 아닌 것
이것은 새로운 도구가 아니며, 당신이 이미 사용하고 있는 도구들을 비하하는 것도 아닙니다. 당신은 LLM 플러그인이 있는 노트 앱, 프레임워크의 메모리 모듈(memory module), 또는 단순한 구조화된 변경 로그(changelog)에 이와 같은 코퍼스를 보관할 수 있습니다. 파일 레이아웃은 쉬운 부분이며, 그 중 어떤 것이든 이를 담아낼 수 있습니다. 하지만 그 중 어느 것도 기본적으로 제공하지 않는 것은 그 밑바탕에 깔린 규율(discipline)입니다. 즉, 거부된 것, 의견 불일치, 기각된 내용과 그 이유를 보존하는 것을 기본값으로 삼는 태도입니다. 구조는 오후 한나절이면 복제할 수 있습니다. '수정 우선(correction-first)'의 습관이 실제 제품이며, 그것은 설치할 수 없는 부분입니다.

실제로 유지하는 방법
이것은 설치하는 프레임워크가 아닙니다. 당신이 지키는 일련의 습관입니다:

• 결정뿐만 아니라 거절(rejection)을 보존하십시오. 무언가가 삭제될 때, 그것이 무엇이었는지와 왜 탈락했는지를 기록하십시오.
• 의견 불일치가 기록에 남게 하십시오. 두 에이전트(또는 당신과 당신의 에이전트)가 충돌했다면, 승자뿐만 아니라 그 충돌 자체를 유지하십시오.
• 수정 사항에 날짜를 기록하십시오. "Y가 나타나기 전까지 나는 X라고 믿었다"는 문장은 X라고 단정 지어 말하는 것보다 훨씬 더 가치 있습니다.
• 직관을 출처와 결합하십시오. 도약(leap)과 그것을 뒷받침한 근거 — 또는 근거를 찾는 데 실패한 내용 — 를 함께 보관하십시오.
• 확신에 찬 발명(confident invention)을 설령 그것이 맞았을지라도 실패로 취급하십시오. 왜냐하면 그것은 시스템 전체가 허세를 부리도록 훈련시키기 때문입니다.

맺음말
앞으로 몇 년 동안 엄청난 양의 '기억하는 AI'가 만들어질 것입니다. 그중 거의 대부분은 매끄럽고, 동조적이며, 조용히 쓸모없을 것입니다. 당신의 도구가 당신에게 동조하도록 가르치면서, 당신이 이해받고 있다는 기분만 들게 만드는 진흙탕(sludge) 말입니다.

자신의 수정 경로(correction trail)를 보존한 아주 적은 부분만이 다음에 올 무엇인가에게 전달할 가치가 있는 유일한 부분이 될 것입니다. 증명은 결코 방법론이 아니었습니다. 누구나 방법론은 복제할 수 있습니다. 증명은 기록입니다. 그리고 틀렸었다는 사실을 보존한 기록이야말로 사후에 제조될 수 없는 유일한 것입니다.

Sources
Interaction Context Often Increases Sycophancy in LLMs — arXiv:2509.12517
MemoryArena: Benchmarking Agent Memory in Interdependent Multi-Session Agentic Tasks — arXiv:2602.16317
PersistBench: When Should Long-Term Memories Be Forgotten by LLMs? — arXiv:2602.01146
A Survey on the Security of Long-Term Memory in LLM Agents (Mnemonic Sovereignty) — arXiv:2604.16548

저는 소규모 멀티 에이전트 시스템(multi-agent system) 전반에 걸쳐 이와 같은 코퍼스(corpus)를 유지하고 있으며, 실제 구조 — 즉 파일 아키텍처, 수정 경로가 기록되는 방식, 에이전트들이 의견 불일치를 기록하는 방식, 그리고 메모리가 아첨(flattery)으로 부패하는 것을 방지하는 구체적인 규칙들을 정리해 두었습니다. 내용은 여기에 있습니다: The Correction-Memory Playbook .