Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
UniMem은 태스크 스트림 환경에서 안정성과 가소성의 균형을 맞추기 위해 제안된 자율적 메모리 관리 프레임워크입니다. 에피소드 메모리와 파라메트릭 메모리를 셀프 라우팅 토큰으로 적응적으로 조정하여 효율적인 태스크 실행을 지원합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기메모리는 LLM 에이전트가 태스크 경험을 축적하고 태스크별 실행 전략을 재사용하는 데 필수적입니다. 그러나 경계 인식 불필요(boundary-agnostic)하고 진화하는 태스크 스트림(task streams) 환경에서의 실제 배포는 근본적인 안정성-가소성 딜레마(stability-plasticity dilemma)를 드러냅니다. 외부 검색 기반 메모리(External retrieval-based memory)는 새로운 증거를 빠르게 흡수할 수 있지만, 반복되는 실행 패턴을 내재화하는 데 실패하는 경우가 많고 추론 시 검색 오버헤드(retrieval overhead)가 발생합니다. 파라메트릭 메모리(Parametric memory)는 학습되면 안정적이고 효율적인 실행을 가능하게 하지만, 일반적으로 명시적인 태스크 경계와 고정된 파라미터 예산(parameter budgets)에 의존합니다. 상보적인 에피소드 저장(episodic storage)과 점진적인 통합(gradual consolidation)을 통해 가소성과 안정성의 균형을 맞추는 인간의 뇌에서 영감을 받아, 우리는 자율적 메모리 관리를 위한 셀프 라우팅 프레임워크인 UniMem을 제안합니다. UniMem은 학습 가능한 라우팅 토큰(routing tokens)을 메모리 컨트롤러로 사용하여 상보적인 메모리 경로 간의 적응형 조정(adaptive coordination)을 가능하게 합니다. 즉, 새롭거나 희소한 태스크는 검색 증강 실행(retrieval-augmented execution)을 위해 에피소드 버퍼(episodic buffer)에 유지되는 반면, 반복적이고 신뢰할 수 있는 패턴은 확장 가능한 파라메트릭 메모리(parametric memory)로 통합됩니다. 라우팅 토큰과 파라메트릭 메모리 블록을 통해 태스크 식별을 태스크 실행으로부터 분리함으로써, UniMem은 배포 중 태스크 라벨 없이도 또는 통제되지 않는 파라미터 성장 없이도 필요에 따라 메모리를 확장합니다. 장기적 스트리밍 태스크 시퀀스(long-horizon streaming task sequences)에 대한 실험 결과, UniMem은 실행 충실도(execution fidelity)를 유지하면서 베이스라인 모델들을 지속적으로 능가하며, 세 가지 백본 모델(backbone models) 전반에 걸쳐 평균 4.0 EM 포인트의 이득을 달성했습니다.