기억하는 방식에 대한 재고: 평생 학습하는 LLM 에이전트 메모리에서의 원자적 사실을 넘어
요약
기존 LLM 에이전트의 메모리 시스템은 대화를 원자적 사실로 압축하는 과정에서 세부 사항을 누락하고 깊은 추론을 지원하지 못하는 한계가 있습니다. 이를 해결하기 위해 제안된 TriMem은 원시 대화, 추출된 사실, 합성 프로필이라는 세 가지 입도의 표현 방식을 결합하여 저장 충실도와 추론 능력을 동시에 확보합니다. 또한 TextGrad 기반의 프롬프트 최적화를 통해 파라미터 업데이트 없이도 지속적인 성능 개선이 가능함을 입증했습니다.
핵심 포인트
- 기존의 사실 기반 패러다임이 가진 정보 누락 및 추론 한계 지적
- TriMem: 원시 세그먼트, 원자적 사실, 합성 프로필의 3단계 표현 입도 구조 제안
- TextGrad를 활용한 프롬프트 최적화로 모델 파라미터 수정 없는 평생 학습 구현
- LoCoMo 및 PerLTQA 벤치마크에서 기존 메모리 베이스라인 대비 우수한 성능 증명
신뢰할 수 있는 장기 상호작용을 가능하게 하려면, LLM (Large Language Model) 에이전트는 축적된 대화 기록을 충실하게 저장하고, 효율적으로 검색하며, 그에 대해 깊이 있게 추론할 수 있는 메모리 시스템이 필요합니다. 대부분의 기존 방법론은 추출된 사실 기반 패러다임 (extracted fact based paradigm)을 채택합니다. 즉, 수작업으로 제작된 정적 프롬프트 (static prompts)가 가공되지 않은 대화를 원자적 사실 (atomic facts)로 압축하며, 이후 이 사실들이 저장, 매칭되어 하위 추론 과정에 주입됩니다. 그럼에도 불구하고, 이러한 사실 중심의 설계는 원래 대화에 담긴 세밀한 세부 사항을 필연적으로 누락시키며, 흩어져 있는 고립된 사실들에 대한 깊은 추론을 지원하지 못합니다. 또한, 정적 프롬프트는 다양한 대화 스타일에 걸쳐 일관된 추출 입도 (extraction granularity)를 유지할 수 없습니다. 이러한 한계를 해결하기 위해, 우리는 TriMem을 제안합니다. TriMem은 공존하는 세 가지 표현 입도 (representation granularities)를 유지합니다. 여기에는 저장 충실도를 위해 소스 식별자 (source identifiers)로 고정된 원시 대화 세그먼트 (raw dialogue segments), 효율적인 메모리 검색을 위한 추출된 원자적 사실 (extracted atomic facts), 그리고 깊은 추론을 위해 분산된 사실들을 총체적인 의미론적 이해로 집약한 합성 프로필 (synthesized profiles)이 포함됩니다. 나아가 우리는 TextGrad 기반의 프롬프트 최적화 (prompt optimization)를 채택하였으며, 이는 응답 품질 피드백을 통해 추출 및 프로파일링 프롬프트를 반복적으로 개선함으로써, 어떠한 파라미터 업데이트 없이도 평생 진화 (lifelong evolution)를 달성합니다. 다양한 LLM 백본 (backbones)에 대해 LoCoMo 및 PerLTQA에서 수행된 광범위한 실험은 TriMem이 강력한 메모리 베이스라인 (memory baselines)들을 일관되게 능가함을 입증합니다. 코드는 https://TMLR-TriMem.github.io 에서 확인할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기