ThinkFlow: 평생 대화 에이전트를 위한 자체 진화 확률적 잠재 메모리
요약
본 글은 장기 대화 에이전트의 메모리 한계를 극복하기 위해 ThinkFlow라는 새로운 잠재 메모리 프레임워크를 제안합니다. ThinkFlow는 대화 흐름을 확률적 잠재 공간에 동적으로 압축하여 텍스트 병목 현상을 우회하고, 복잡한 사용자 상태를 자율적으로 통합합니다. 또한 테스트 시간 진화 패러다임을 도입해 콜드 스타트 문제와 레이블 없는 평생 개인화를 달성했습니다.
핵심 포인트
- ThinkFlow는 대화 에이전트를 위한 잠재 메모리 프레임워크입니다.
- 텍스트 병목 현상을 우회하여 복잡한 사용자 상태를 자율적으로 통합합니다.
- 테스트 시간 진화 패러다임을 통해 콜드 스타트 문제를 해결했습니다.
- 장기 대화에서 높은 개인화 및 맥락적 정확도를 입증했습니다.
평생 대화 에이전트는 사용자들과 깊고 맥락을 인지하는 상호작용을 유지하기 위해 메모리 시스템에 의존합니다. 하지만 기존의 명시적인 텍스트 메모리 파이프라인은 심각한 정보 병목 현상을 겪어, 미묘한 행동 패턴과 감정 변화를 자주 잃게 됩니다. 더욱이, 배포 후에는 일반적으로 정적(static)이기 때문에 수동 피드백 없이는 개인의 습관이나 선호도에 자율적으로 적응할 수 없습니다. 하지만 인지 과학은 인간이 정신 모델을 순수하게 잠재 공간(latent space)에서 유지하며 예측 코딩(predictive coding)을 통해 지속적으로 정교화한다고 시사합니다. 이에 영감을 받아, 우리는 평생 대화 에이전트를 위한 새로운 종단 간(end-to-end) 잠재 메모리 프레임워크인 ThinkFlow를 제안합니다. ThinkFlow는 대화 흐름을 확률적 잠재 메모리 스킬로 동적으로 압축하여 텍스트 병목 현상을 우회하며, 의미론적 간섭 없이 복잡한 사용자 상태를 분리된(disentangled) 연속 벡터로 자율적으로 통합합니다. 이 장벽을 깨기 위해, 우리는 테스트 시간 진화 패러다임(test-time evolution paradigm)을 도입했습니다. 교사 안내 잠재 정렬(teacher-guided latent alignment)을 사용하여 초기 상태를 부트스트랩하고, 자기 지도적 다음 사용자 발화 예측 작업(self-supervised next-user-utterance prediction task)을 통해 지속적인 정교화를 수행함으로써, 이 프레임워크는 콜드 스타트(cold-start) 문제를 성공적으로 극복하고 레이블 없는 평생 개인화(label-free lifelong personalization)를 달성합니다. 장기 대화 벤치마크에 대한 광범위한 실험은 ThinkFlow가 기존의 메모리 시스템보다 훨씬 뛰어남을 입증하며, 연장된 다중 세션 상호작용 동안 고도로 개인화되고 맥락적으로 정확한 응답을 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기