AI 에이전트의 기억을 TTL로 승격/강등 운용하기

AI 에이전트가 똑똑하게 행동하기 위해서는 「기억」이 필수적입니다. 하지만 기억을 단순히 축적하기만 해서는 중복성, 노후화, 그리고 무엇보다 비용 문제에 직면하게 됩니다. agentmemories에서는 이 과제에 대해 「기억의 티어링 (Tiering)」이라는 접근 방식으로 해결을 도모하고 있습니다. 본 기사에서는 AI 에이전트의 기억을 「가설 → 확정 → 실동」의 3가지 티어(Tier)로 나누고, 참조 빈도와 검증에 기반하여 승격시키며, 미사용 기간에 따라 강등(TTL)시키기 위한 최소 구현을 Qiita 독자분들을 위해 해설합니다.

AI 에이전트의 기억은 생성된 직후에는 그 신뢰성이 낮을 수 있습니다. 예를 들어, LLM이 생성한 태스크 실행 계획이나 사용자와의 대화에서 추출한 정보 등은 그대로 영속화하기에는 리스크가 따릅니다. 그래서 저희는 다음과 같은 3가지 티어를 마련했습니다.

가설 (Provisional): 에이전트가 막 생성하여 아직 검증되지 않은 정보. 단기간 내에 폐기되거나 검증을 거쳐 다음 티어로 승격됩니다. -
확정 (Confirmed): 에이전트 자신 또는 외부 시스템에 의해 검증되어 신뢰성이 높다고 판단된 정보. 일정 기간 유지되며 에이전트의 행동에 영향을 주기 시작합니다. -
실동 (Active): 빈번하게 참조되며 에이전트의 주요 지식 베이스(Knowledge Base)로 기능하는 정보. 가장 장기간 유지되며 에이전트의 추론이나 계획 수립에 직접적으로 이용됩니다. -

이러한 티어링을 통해 에이전트는 항상 최신이며 가장 관련성 높은 정보에 액세스하면서도, 불확실한 정보의 영속화 비용을 최소한으로 억제할 수 있습니다.

기억 객체는 그 내용뿐만 아니라 티어, 최종 참조 일시, 참조 횟수와 같은 메타데이터를 가져야 합니다. 여기서는 간결한 JSON 형식을 상정합니다.

{
"id": "mem_001",
"content": "사용자는 지난주에 새로운 프로젝트를 시작했다.",
...

id
: 기억의 고유 식별자. -
content
: 실제 기억 내용. -
tier
: 현재의 티어 (provisional, confirmed, active). -
last_used
: 기억이 마지막으로 참조된 일시. 승격·강등의 판단 기준이 됩니다. -
hit_count
: 기억이 참조된 횟수. 승격의 판단 기준이 됩니다. -
created_at
: 기억이 생성된 일시. -
ttl_days
: 각 티어에서의 기본 TTL (일수).

기억의 승격은 주로 hit_count와 last_used를 기반으로 이루어집니다. 예를 들어, 「가설」 기억이 일정 횟수 이상 참조되고, 또한 최근에 이용되고 있다면 「확정」으로 승격시킵니다. 나아가 「확정」 기억이 빈번하게 이용된다면 「실동」으로 승격시킵니다.

import datetime
def promote_memory(memory: dict) -> dict:
current_tier = memory["tier"]
...

이 승격 로직은 에이전트가 기억을 이용할 때마다 실행되거나, 정기적인 배치 처리(Batch Processing)로 실행되는 것을 상정하고 있습니다.

기억의 강등(또는 삭제)은 각 티어에 설정된 TTL (Time To Live)에 기반합니다. last_used로부터 TTL 기간을 초과한 기억은 티어가 강등되거나, 최종적으로는 삭제됩니다.

import datetime
def demote_or_delete_memory(memory: dict) -> tuple[dict | None, bool]:
current_tier = memory["tier"]
...

이 강등 로직은 정기적인 배치 처리(예를 들어 일간 또는 주간)를 통해 모든 기억 객체에 대해 실행되어야 합니다.

agentmemories의 운용 중에서 저희는 몇 가지 「함정」을 경험해 왔습니다.

실록: 승격 임계값 조정 부족으로 인한 과적합 (Overfitting)

처음에는 승격 임계값(threshold)을 너무 낮게 설정했습니다. 「가(仮)」 기억이 조금만 참조되어도 「확정(確定)」으로 승격되어 버리기 때문에, 에이전트가 일시적인 정보나 잘못된 정보를 과도하게 기억하여 이후의 추론에 악영향을 미치는 상황이 발생했습니다. 예를 들어, 사용자가 농담으로 던진 한마디가 「확정」 기억으로 남아 에이전트가 그 정보를 사실로 취급해 버리는 케이스입니다. 이 경험을 통해 승격 임계값은 신중하게, 그리고 지속적으로 튜닝(tuning)할 필요가 있다는 것을 절감했습니다. 특히 「확정」이나 「실동(実働)」으로의 승격에는 더욱 엄격한 검증 프로세스(예: 인간에 의한 확인, 복수 에이전트에 의한 검증, 외부 API와의 대조 등)를 포함하는 것이 중요합니다.

승격 임계값의 정기적인 재검토: hit_count나 last_used의 기간 설정은 에이전트의 이용 상황이나 기억의 성질에 맞춰 조정이 필요합니다.

TTL 설정의 최적화: 각 티어(tier)의 TTL은 기억의 노후화 속도나 스토리지 비용을 고려하여 결정합니다. 너무 짧으면 중요한 기억이 손실되고, 너무 길면 쓰레기 데이터가 늘어납니다.

수동 티어 변경 기능: 긴급 상황이나 특정 중요한 기억에 대해서는 인간이 수동으로 티어를 승격 또는 강등할 수 있는 관리 기능이 있으면 편리합니다.

감사 로그(Audit Log) 기록: 기억의 승격·강등이 수행되었을 때, 누가, 언제, 어떤 이유로 수행했는지를 기록함으로써 문제 발생 시 추적이 용이해집니다.

백업 전략: 실수로 중요한 기억이 삭제되지 않도록 정기적인 백업은 필수입니다. 특히 「실동」 티어의 기억은 중요도가 높습니다.

기억의 중복 제거: 동일한 내용의 기억이 여러 티어에 존재하지 않도록 정기적인 중복 제거 처리를 검토합니다.

성능 모니터링: 기억의 양이 늘어남에 따라 검색이나 티어링(tiering) 처리의 성능이 저하될 가능성이 있습니다. 적절한 인덱스(index) 설계나 데이터베이스 선정도 중요합니다.

AI 에이전트의 기억을 「가→확정→실동」의 티어로 운용하고, 참조 빈도와 미사용 기간에 기반하여 승격·강등시킴으로써 에이전트는 더욱 효율적이고 똑똑하게 행동할 수 있습니다. 본 기사에서 소개한 최소 구현과 운용상의 함정 체크리스트가 여러분의 AI 에이전트 개발에 도움이 되기를 바랍니다. 기억 관리는 AI 에이전트의 성능을 좌우하는 중요한 요소이며, 지속적인 개선이 요구됩니다.

더 자세한 설계 사상에 대해서는 Zenn의 기사를 확인해 주세요.

agentmemories의 공식 사이트는 이쪽입니다.