AI 에이전트의 '기억'이란 무엇인가? 종류, 구조, 운용 설계 실례 해설

AI 에이전트의 '기억'이란, 대화할 때마다 사라져 버리는 정보 중에서 남겨두어야 할 전제·결정·취향을 추출하여 유지하고, 다른 대화에서도 꺼낼 수 있도록 만든 구조를 말합니다. 대화 이력(Conversation History)이 '흐름'이라면, 기억은 '쌓여가는 것'입니다.

이 기사에서는 기억과 대화 이력의 차이부터 기억의 종류, 저장부터 회상(Recall)까지의 구조, 기억에 층(Layer)을 만드는 설계, 그리고 기억을 외부에 두는 사고방식까지, AI를 실제로 운용해 온 1차 정보를 바탕으로 체계적으로 정리합니다.

먼저, 자주 혼동되는 두 가지를 구분하겠습니다. 대화 이력과 기억입니다.

대화 이력은 지금 나누고 있는 주고받음의 기록입니다. 모델은 이 이력(컨텍스트 윈도우 (Context Window))을 읽고 응답합니다. 편리하지만, 윈도우를 벗어난 오래된 대화는 참조되지 않으며, 다른 스레드를 열면 처음부터 모르는 상태로 돌아갑니다.

기억은 그 이력 중에서 '다음에도 필요할 전제·결정·취향'만을 뽑아내어 외부에 유지한 것입니다. 예를 들어 '이 사람은 코드에 secret을 직접 작성하지 않는 방침', '지난주에 이 안은 기각되었다'와 같이 반복적으로 적용되는 사실입니다. 이력은 대화가 끝나면 흘러가 버리지만, 기억은 대화를 가로질러 쌓여갑니다. 이 차이가 AI를 단발적인 작업 상대에서, 문맥을 가지고 함께 나아가는 상대로 변화시킵니다.

기억은 우선 시간축에 따라 두 가지로 나뉩니다.

단기 기억은 해당 대화 안에서만 유효한 컨텍스트(Context)입니다. 지금 열려 있는 스레드의 흐름이 이에 해당합니다. 빠르고 편리하지만 휘발됩니다. 장기 기억은 대화를 가로질러 남는 영속적인 기억입니다. AI 에이전트에게 '성장해 나가는' 감각을 주는 것은 바로 이것입니다.

나아가 장기 기억은 성질에 따라 세 가지로 정리하면 다루기 쉬워집니다.

많은 'AI가 똑똑하다고 느껴지는' 순간은 이 세 가지가 맞물릴 때 생겨납니다. 과거의 실패(에피소드 (Episode))와 확립된 전제(의미 (Semantics))와 절차(프로시저 (Procedure))가 갖춰지면, AI는 '그것과 같은 패턴이군요'라며 짐작할 수 있게 됩니다.

AI 활용이 잘 되지 않는 이유는 대개 기술 부족이 아닙니다. 운용을 위한 기억이 남아 있지 않기 때문입니다.

새로운 프롬프트(Prompt)나 도구를 추가해도 매번 처음부터 전제를 다시 설명해야 한다면, 판단의 무게는 1인분 그대로 남습니다. 실운용에서 반복적으로 효과를 발휘하는 것은 다음과 같은 기억입니다.

이것들이 남아 있는 것만으로도 매번 다시 설명해야 하는 일이 줄어들며, AI와의 대화는 '도구의 조작'에서 '관계성'에 가까워집니다. 반대로 이곳이 공백이라면, 모델이 아무리 똑똑해도 운용은 정체되기 쉽습니다.

기억을 '그저 전부 쌓아두는 상자'로 만들면 금방 파탄 납니다. 실제로 기능하게 하려면 세 단계가 필요합니다.

저장: 대화에서 남길 가치가 있는 전제·결정·실패를 추출하여 기록합니다. 여기서 전부를 평면적으로 저장하면 나중에 혼동할 수 있으므로, 막 들어온 정보는 '가설'로서 둡니다.

승격: 반복적으로 등장하여 확실하다고 판명된 것만을 판단에 사용해도 좋은 '확정' 단계로 올립니다. 반대로 방침이 바뀌어 오래된 전제는 조용히 내립니다. 기억은 올리는 것뿐만 아니라 내리는 메커니즘이 있어야 비로소 계속 살아남습니다.

회상: 다음 대화에서 지금 필요한 기억만을 꺼내어 문맥에 주입합니다. 매번 전부를 끌어내는 것이 아니라, 관련 있는 것을 선택하여 전달합니다. 이 부분이 기억 설계의 가장 큰 실력을 보여주는 대목이며, 양보다 '꺼내는 방식'에서 차이가 납니다.

저장·승격·회상을 뒷받침하는 것이 기억의 층(Layer)입니다. 사람도 들은 이야기를 전부 액면 그대로 믿지 않고, '일단 기억해 둘 이야기'와 '확신한 이야기'를 구분합니다. AI의 기억에도 동일한 구분이 필요합니다.

층을 나누어 두면 새로 들은 한마디로 인해 이미 확립된 전제가 쉽게 덮어씌워지는 사고를 줄일 수 있습니다. 자세한 내용은 'AI의 기억은 전부 쌓아두기만 하면 되는 것이 아니다'에서도 깊이 있게 다루고 있습니다.

또 하나, 운용에서 효과를 발휘하는 판단이 있습니다. 기억을 모델 내부에 둘 것인가, 모델 외부에 독립적으로 둘 것인가 하는 문제입니다.

기억을 모델 부속 기능 안에만 두면, 해당 모델을 교체하는 순간 쌓아온 기억도 함께 사라집니다. 반년 동안 키워온 전제가 교체 첫날에 제로로 돌아갑니다. 이것은 성능의 문제가 아니라 기억의 위치 문제입니다 (참고: AI를 교체했더니 다시 처음부터 설명해야 했다).

기억을 외부에 독립적으로 두면 세 가지 성질을 얻을 수 있습니다.

마지막으로 운용에서 실수하기 쉬운 세 가지를 꼽겠습니다.

• 전부를 섞음: 용도도 상대도 다른 기억을 하나에 쌓아두고, 어떤 장면에서든 전부를 끌어냄. 관련 없는 문맥이 판단에 섞임. → 용도별로 경계를 그을 것.

• 오래된 전제를 방치함: 방침이 바뀌었는데도 확정 층에 그대로 둠. AI는 오래된 지도 그대로 달림. → 모순된 전제는 내릴 것.

• 양만 늘리기: 어쨌든 전부 기억시키면 똑똑해질 것이라고 생각함. 오인(Misinterpretation)이 늘어납니다. → 양보다, 정리와 인출(Retrieval) 방식을 설계할 것.

Q. AI 에이전트의 기억과 대화 이력(Conversation History)은 무엇이 다른가요? 대화 이력은 그 자리에서의 주고받은 기록이며, 윈도우(Window)를 벗어나면 참조할 수 없게 됩니다. 기억은 거기서 남겨두어야 할 전제나 결정을 추출하여 유지하고, 다른 대화에서도 꺼낼 수 있도록 만든 것입니다. 이력은 흐름이고, 기억은 쌓이는 것입니다.

Q. AI에게 장기 기억(Long-term Memory)을 갖게 하려면 어떻게 해야 하나요? 대화할 때마다 중요한 전제·결정·취향을 추출하여 외부에 저장하고, 다음번에 그 문맥(Context)을 읽어 들여 대화에 주입합니다. 저장(Storage)·승격(Promotion)·상기(Recall)의 3단계(3-stage)를 설계하고, 가설(Hypothesis)·확정(Confirmation)·실행(Execution)으로 층(Layer)을 나누면 안정적입니다.

Q. 기억은 많을수록 좋은가요? 아니요. 양이 늘어날수록 오인도 늘어납니다. 중요한 것은 정리되는 방식이며, 확인된 전제만을 판단의 토대로 올리고, 오래된 전제는 내리며, 용도별로 섞이지 않도록 경계를 긋는 것입니다.

AI 에이전트의 기억이란, 대화의 흐름에서 남겨야 할 것을 추출하여 대화를 넘어 쌓아 올리고, 필요할 때 꺼낼 수 있도록 만든 메커니즘입니다. 단기(Short-term)와 장기(Long-term)가 있으며, 장기는 에피소드(Episodic)·의미(Semantic)·절차(Procedural)로 나뉩니다. 실운용에서 효과적인 것은 저장·승격·상기의 3단계와 가설·확정·실행의 층, 그리고 기억을 외부에 두어 이식·공유·소유할 수 있는 상태로 만드는 것입니다.

기억은 쌓아두는 대상이 아니라, 정리해서 꺼내는 대상입니다. 이를 설계할 수 있게 되면, AI는 단순한 작업자에서 문맥을 가지고 함께 나아가는 존재로 변해갑니다.

에이전트 메모리즈(Agent Memories)는 AI의 '기억 레이어(Memory Layer)'를 만들고 있습니다. 기억을 모델 내부가 아닌 외부에 둠으로써, 어떤 AI에 삽입하더라도 동일한 문맥이 돌아오는——그런 메커니즘을 실록과 함께 키워나가고 있습니다.