장기 대화 에이전트 (Long-term Conversational Agents) 는 외부 메모리에 어떤 턴(turn) 을 저장할지 결정해야 하지만, 최근 시스템은 이 결정을 위해 각 턴마다 자기회귀 LLM 생성을 의존하고 있습니다. 우리는 MemRouter 를 제시합니다: 이는 메모리 수용 (admission) 을 다운스트림 답변 백본과 분리하며, 턴별 메모리 관리 디코딩을 임베딩 기반 라우팅 정책으로 대체하는 쓰기측면 메모리 라우터입니다.

MemRouter 는 각 턴과 최근 컨텍스트를 함께 인코딩하고, 이를 통해 생성된 임베딩을 고정된 LLM 백본을 통과시키며, 경량 분류 헤드를 사용하여 턴이 저장될지 여부를 예측합니다. 12M 파라미터만 학습하는 경우에도 이 방법을 사용합니다.

LoCoMo 의 통제된 매칭 해스 (matched-harness) 비교에서, 검색 파이프라인, 답변 프롬프트, QA 백본 (Qwen2.5-7B) 은 동일하게 유지되며 MemRouter 는 LLM 기반 메모리 관리자에 비해 모든 질문 카테고리에서 성능을 뛰어납니다 (전체 F1 52.0 vs 45.6, 겹치지 않는 95% 신뢰구간). 또한 메모리 관리 p50 지연시간을 970ms 에서 58ms 로 줄였습니다.

설명적 요인 평균 (factorial averaging) 은 학습된 수용이 무작위 저장에 비해 평균 F1 을 +10.3 개선하고, 카테고리 특화 프롬프트가 일반 프롬프트에 비해 +5.2 개선하며, 검색이 +0.7 기여함을 보여줍니다.

이 결과는 쓰기측면 메모리 수용이 작은 감독 라우터로 학습될 수 있으며, 답변 생성은 장기 지평 대화형 QA 에서 별도의 다운스트림 구성 요소로 남아있음을 시사합니다.