결론

「AI가 제대로 기억하지 못한다」는 문제의 해답은 컨텍스트 윈도우(Context Window)를 넓히는 것이 아니다.

2026년 중반, 이러한 인식이 독립된 여러 소스로부터 동시에 터져 나왔다. 스타트업 창업자, Amazon AGI Lab의 인지과학자, 그리고 연달아 발표된 arXiv 논문들이 모두 동일한 진단에 도달했다——「더 길게 읽게 만드는 것」은 한계에 다다랐다고.

그리고 처방은 두 계통으로 나뉘고 있다. 하나는 「기억 = 지식을 가중치(Weights)에 담아내는 것」이라는 시스템 측면의 해답. 다른 하나는 「이해 = 표현을 인간과 맞추는 것」이라는 인지과학 측면의 해답이다. 이 기사는 AI 버블이나 요금 경쟁 같은 매크로 비평에는 깊이 관여하지 않고, 에이전트를 실제로 구축하는 인간의 현장에서 이 두 가지 재정의를 정리한다.

제1부: 무엇이 동시에 일어나고 있는가

단기간에 동일한 문제의식이 이토록 많은 곳에서 모습을 드러냈다.

**Engram (Dan Biderman)**은 「지속 학습(Continual Learning)이나 메모리의 문제는 모두 롱 컨텍스트(Long Context) 문제가 모습을 바꾼 것이다」라고 단언한다. 무한한 컨텍스트가 있어도 한계가 있다는 것이다. Latent Space 인터뷰 -
**arXiv 「Remember When It Matters」**는 확장되는 컨텍스트에 중요 정보가 매몰되는 "behavioral state decay"에 대해, 별도의 메모리 에이전트가 선택적으로 리마인더(Reminder)를 주입하는 수법으로 Terminal-Bench 2.0을 +8.3포인트 개선했다. arXiv:2607.08716 -
LangChain OpenWiki Brains는 메모리를 「말한 것만 기억하는 (Reactive)」 방식에서 「능동적으로 관련 정보를 찾는 (Proactive)」 방식으로 전환한다고 선언했다. LangChain Blog -
**Amazon AGI Lab (Danielle Perszyk)**은 에이전트의 신뢰성을 「매번 올바른 버튼을 클릭하는 것」이 아니라 「사용자의 마음을 모델링하는 것」으로 재정의했다. Latent Space 인터뷰

제각각인 플레이어들이 각자의 어휘로 「지금의 방식으로는 부족하다」고 말하고 있다. 이는 우연이 아니라, 같은 벽에 서로 다른 방향에서 부딪히고 있는 것이다.

제2부: 왜 롱 컨텍스트만으로는 부족한가 (2가지 재정의)

(1) 기억 = 가중치로의 학습 — context rot와 「KV 캐시의 괴물」

Biderman 주장의 핵심은 **context rot (컨텍스트 부패)**이다. 토큰을 대량으로 넣어도 에러는 발생하지 않는다. 하지만 모델은 그것들을 전체적(Holistic)으로 추론할 수 있는 것이 아니라 혼란을 겪는다. 「1,000만 토큰 창이 생기면 해결되지 않겠느냐?」라는 반론에 대해 그는 선제적으로 부정한다——에러가 나지 않는 것과 올바르게 추론할 수 있는 것은 다르다.

비용 측면의 구체적인 예시가 통렬하다. Llama 70B에 수십 KB의 Wikipedia 문서 하나를 읽히면, GPU 상의 「뇌 상태」(KV 캐시)는 약 80GB로 불어난다. 모델 전체 파라미터가 FP16 기준으로 약 140GB이므로, 문서 하나가 전체 파라미터와 맞먹는 수준의 메모리를 잡아먹는다. 그는 이를 「KV 캐시의 괴물」이라고 부른다.

Engram의 처방은 지식을 다시 읽는 것을 그만두고, 가중치(Weights) 측면에 학습으로서 담아내는 것이다. 컨텍스트를 약 1,000배 압축한 "cartridges (지식 캡슐)"를 만든다. 비유가 탁월하다——현재의 LLM은 요리에 비유하자면 「매번 처음 주방에 와서, 교과서를 읽고, 모든 재료를 계량하여 만드는」 상태다.

"Current LLMs are like coming into the kitchen first time every time, reading the textbook, cooking the dish, measuring everything, but they don't have the intuition of a chef that's pinching salt and kneading dough."

「현재의 LLM은 매번 처음 주방에 와서 교과서를 읽고, 요리를 만들고, 모든 것을 계량한다. 하지만 소금을 한 꼬집 집어넣고 반죽을 치대는 셰프의 직관은 없다.」

다만 그는 RAG나 노트를 부정하지 않는다. 세계 최고의 셰프도 일기와 레시피 북을 가지고 있다. 진정한 실력은 「노트 + 그것을 구현하고 혁신할 수 있는 신경계 (=가중치에 새겨진 직관)」의 총체라는 것이다. 「메모를 쓰지 못하면 불리하다. 하지만 매일 밤 뇌가 지워진다면 심각한 불리함이다. 그래서 양쪽의 장점을 모두 취하고 싶다.」 지속 학습이나 기억을 둘러싼 그의 질문은 결국 하나로 수렴한다.

"지속 학습과 기억에 관한 이 모든 질문들은 결국 롱 컨텍스트 (long context) 문제의 변형된 형태라고 봅니다."

「지속 학습이나 기억을 둘러싼 질문은, 모두 롱 컨텍스트 문제가 모습을 바꾼 것이라고 보고 있다.」

(2) 이해 = 표현의 정렬 (Alignment of Representations) — "신뢰성이란 사용자의 마음을 모델링하는 것이다"

Perszyk은 다른 관점에서 동일한 벽을 두드린다. 그녀의 출발점은 인지과학이다. —— "인간의 지능은 근본적으로 사회적이며, 상호작용으로부터 창발한다."

그로부터 그녀는 에이전트의 신뢰성 정의를 다시 쓴다. 여행 예약을 예로 들어, GUI를 조작하면서 "경유지에서 며칠을 보낼 것인가"와 같은 **목표 자체가 실시간으로 형성 및 정교화(unfold)**된다고 지적한다. 유능한 비서와의 차이점은 사용자의 마음, 목표, 의도를 이해하고 분해할 수 있다는 점에 있다.

"궁극적으로 신뢰성은 같은 곳을 클릭하는 것과는 거리가 멀며, 사용자의 마음을 모델링하는 것과 더 관련이 있습니다. 그리고 그 전환이 모든 것을 결정합니다."

「신뢰성이란 같은 곳을 클릭하는 것이 아니라, 사용자의 마음을 모델링하는 것. 이 전환이야말로 모든 것을 바꾼다.」

그녀는 목적 함수 (objective function) 수준에서 질문을 던진다. 다음 토큰 예측 (next-token prediction)이나 태스크 특화 RL (강화학습)은 일반화되지 않고 "두더지 잡기"가 된다. 인간이 최적화하고 있는 것은 "타자의 마음을 추론하는 것"과 "표현을 상대와 맞추는 것 (aligning representations)"이라고 말한다. 그리고 날카로운 경고를 덧붙인다. 현행 AI는 오히려 인간의 에이전시 (agency)를 감소시키고 있다고. 문장 지원 과정에서 AI의 제안을 수용하다 보면 주장이 무난한 쪽으로 바뀌게 되고, 과학 전체가 균질화된다는 것이다.

(3) 두 가지 교차점 — "국소해 (Local Optima)"로부터의 탈출

계통 A (기억 = 시스템)와 계통 B (이해 = 인지과학)는 어휘도 출처도 다르다. 하지만 결정적인 한 지점에서 일치한다. "챗봇 × 롱 컨텍스트 × 턴제"라는 국소해로는 부족하다는 진단이다.

Biderman는 "효율과 지능은 분리될 수 없다. more with more에서 more with less로 가야 한다"라고 말하고, Perszyk는 "정렬 (alignment)은 (안전성의) 문제가 아니라, 에이전시를 부여하는 AI를 만들기 위한 해답이다"라고 말한다. 한쪽은 비용을, 한쪽은 목적 함수를 이야기하고 있지만 가리키는 방향은 같다. —— 규모를 더하는 것이 아니라, 무엇을 기억하고, 무엇을 잊고, 누구에게 맞출지를 설계하는 방향이다.

또한, 이 맥락에서 간과할 수 없는 것이 검증 (verification) 연구다. arXiv의 LLM-as-a-Verifier는 스코어링 토큰의 로짓 (logit) 분포의 기댓값으로 연속 점수를 생성하여, 검증 자체를 새로운 스케일링 차원으로 만든다 (SWE-Bench Verified 78.2%). "기억하기·이해하기" 옆에 "자신의 출력을 검증하기"가 나란히 놓이기 시작했다.

제3부: 에이전트를 구축하는 사람은 내일부터 무엇을 바꿀 것인가

이론만으로는 빌려온 것에 불과하다. 지금부터는 실제로 AI 에이전트를 일상적으로 운용하는 입장에서의 실천적인 함의를 기술한다.

처방 1: 장시간 세션에서는 "압축 (compaction)은 손실적 (lossy)이다"를 전제로 설계하라

Biderman는 모델이 자신의 컨텍스트를 관리하여 일부를 퇴피시키는 압축 (compaction)을 "올바른 방향이지만 정의상 손실적 (lossy)이다"라고 평가한다. 세션이 깊어질수록 혼란과 망각이 발생한다.

실무적으로 이것은 **"오래 돌린다고 해서 점점 똑똑해지는 것은 아니다"**라는 경고다. 나 자신도 Claude Code와 같은 에이전트로 긴 세션을 실행하면, 중반 이후부터 초반의 지시가 잘 먹히지 않는 느낌을 반복해서 받는다 (＝본 기사의 브레인스토밍 단계에서도, 수집 메모가 길어질수록 개별 수치를 잘못 파악하기 쉬워져 1차 소스에서 다시 확인했다). 대책은 간단하다. 중요한 제약 사항은 요점에서 재주입(re-inject)하고, 긴 태스크는 나누어서 상태를 명시적으로 넘겨주는 것이다. arXiv의 "선택적 개입 > 상시 주입"은 이를 연구로서 뒷받침하고 있다.

처방 2: "벡터 검색에서 탈락하는 쿼리"를 구별하라

Biderman이 제시하는 예시는 시사하는 바가 크다 (Engram이 협업하는 법률 AI Harvey와 같이 거대한 파일 시스템을 가진 현장의 이야기). "올해 아직 클로징되지 않은 M&A 딜은 무엇인가?" —— 이 질문은 모든 안건을 하나씩 읽으며 "루프가 닫히지 않았다"는 것을 요지로 이해해야 하는데, 이는 RAG (Retrieval-Augmented Generation)의 벡터 검색 (Vector Search)으로는 포착하기 어렵다. 게다가 프론티어 모델 (Frontier Model) + 압축 (Compaction)으로 해결하려 하면, 직원이라면 누구나 답할 수 있는 질문임에도 쿼리 1회당 수천 달러를 소비할 수 있다. 전체적인 파악이 필요한 ambient 쿼리는 단순한 검색 확장 (Retrieval Augmentation)의 범주 밖에 있다.

나의 에이전트 (Agent) 설계에서도, "해당 문서를 하나만 가져오면 답할 수 있는 질문"과 "전체를 조망하지 않으면 답할 수 없는 질문"을 나누어 다룬다. 후자에 검색을 적용해도 조용히 실패한다.

처방 3: 자동화하는 것은 노동이지, 책임이 아니다

Perszyk의 "신뢰 = 사용자의 마음 모델링"은 묘하게도 r/indiehackers에서 논의되던 실무 원칙과 일치한다. AI 영업 도구 개발자가 도달한 결론은 **"Automate the labor, not the responsibility (노동은 자동화하되, 책임은 자동화하지 마라)"**였다. r/indiehackers

연구자와 현장의 기업가가 독립적으로 같은 지점에 도달해 있다. 공개성·비가역성이 높을수록 사람은 제어권을 놓지 않는다. 모델 라우팅 (Model Routing, 저렴한 모델과 똑똑한 모델의 구분 사용) 역시 Biderman 스스로가 "유망하지만 미해결 상태"라고 못을 박았다. 과도한 기대는 금물이다.

결론

"더 긴 컨텍스트를"이라는 2024~2025년의 구호는 2026년에 한 번 멈춰 섰다.

다음 질문은 규모가 아니다. 무엇을 무게감 있게 새기고, 무엇을 잊으며, 누구의 표현에 맞출 것인가. 기억과 이해라는, 인간의 지능에서는 너무나 당연해서 아무도 정의하지 않았던 것이 이제 엔지니어링 (Engineering)의 대상이 되고 있다.

롱 컨텍스트 (Long Context)는 해답이 아니었다. 하지만 그 "해답이 아니었다"라는 발견이야말로 다음 주전장의 지도가 되고 있다. 에이전트를 구축하는 우리 입장에서는 벤치마크 (Benchmark) 수치보다 먼저, "이 태스크는 기억해야 하는 문제인가, 이해해야 하는 문제인가"를 구분하는 눈을 갖는 것이 당분간 가장 강력한 무기가 될 것이다.

Discussion