메모리 접근이 아닌 메모리 깊이: 장기 실행 언어 에이전트를 위한 선택적 파라미터 통합 (Selective Parametric
요약
장기 실행 언어 에이전트의 목표 지속성을 위해 '메모리 깊이'라는 개념을 제안합니다. 단순 검색을 넘어 LoRA 기반의 EVAF 메커니즘을 통해 중요한 경험을 파라미터에 선택적으로 통합하는 연구를 다룹니다.
핵심 포인트
- 단순 검색(Retrieval)과 차별화된 메모리 깊이(Memory Depth) 개념 도입
- EVAF: 놀라움과 가치에 기반한 LoRA 통합 메커니즘 제안
- GPT-2, TinyLlama, Mistral-7B를 통한 목표 지속성 성능 검증
- 선택(Selection)과 실행(Actuation)의 제어 차원 분리 확인
장기 실행 언어 에이전트 (Long-running language agents)에게는 단순한 메모리 접근 (memory access) 이상의 것이 필요합니다. 검색 시스템 (Retrieval systems)은 쿼리 시점에 과거의 사실들을 가져올 수 있지만, 작업 컨텍스트 (working context)가 언로드된 후 어떤 경험이 행동을 계속 형성해야 하는지를 결정하지는 못합니다. 우리는 이 별개의 문제를 메모리 깊이 (memory depth)로 연구합니다: 즉, 작은 파라미터 저장소 (parametric store)에 기록된 내구성이 있는 목표 조건부 성향 (goal-conditioned tendencies)입니다. 우리는 루프 드리프트 프로토콜 (loop-drift protocol)을 도입합니다. 이는 작업 컨텍스트가 언로드되는 동안 검색 인덱스 (retrieval index)는 온전하게 유지되면서, 장기 루프 간섭 (long-loop interference) 하에서도 목표 조건부 행동이 지속되어야 하는 통제된 스트레스 테스트입니다. 우리는 놀라움 (surprise) 및 가치 (valence)에 의해 게이트가 조절되는 LoRA 통합 메커니즘인 EVAF를 평가합니다. GPT-2와 TinyLlama를 대상으로 평가한 결과, 검색 (retrieval)은 얕은 사실적 회상 (shallow factual recall)에서 가장 강력한 성능을 보였으나 (단기 사실 정확도 0.956--0.973), EVAF는 200개의 이벤트당 단 2--3회의 파라미터 쓰기 (parametric writes)만으로도 목표 지속성 (goal persistence) 및 언로드 후 회복 (post-unload recovery)에서 가장 강력한 성능을 보였습니다 (0.812--0.904). 메커니즘 제어 실험을 통해 선택적 통합 (selective consolidation)이 선택 (selection)과 실행 (actuation)이라는 두 가지 제어 가능한 차원으로 인수분해됨을 보여줍니다. 매칭된 무작위 게이트 (Matched random gates)는 희소 쓰기 (sparse writing)를 넘어선 선택을 분리해냅니다; GPT-2, TinyLlama, Mistral-7B에 걸친 고정된 내부 제어 (fixed-inner controls)는 내부 루프 쓰기 강도 (inner-loop write strength)가 모델 의존적임을 보여줍니다; 그리고 Mistral-7B 매칭 게이트 반전 (matched-gate inversion) 실험은 잘못 보정된 실행 (miscalibrated actuation) 하에서 비대칭적인 선택-실행 결합 (selection-actuation coupling)을 드러냅니다. 공개된 Memora 이벤트 스트림은 외부 진단 도구 역할을 하며, 해결되지 않은 경계로서 오래된 메모리 무효화 (stale-memory invalidation) 문제를 노출합니다. 이 탐사 내에서, 선택적 파라미터 통합 (selective parametric consolidation)은 검색 접근 (retrieval access)과는 구별되면서도 이를 보완하는 메모리 깊이 (memory depth)를 제공합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.LG의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기