MemGym: LLM 에이전트를 위한 장기적 관점의 메모리 환경

메모리는 장기적 관점의 과업 (long-horizon tasks)을 수행하는 LLM 에이전트에게 핵심적인 능력입니다. 기존의 메모리 벤치마크는 주로 다회차 채팅 시나리오에서 개인화된 정보의 유지 능력을 평가하며, 에이전트의 장기 실행 과정에서 발생하는 동적인 메모리 형성 과정을 간과하고 있습니다. 결과적으로, 이러한 벤치마크를 통해 생성된 메모리 시스템은 코딩이나 웹 탐색과 같은 실제적인 에이전트 환경 (agentic environments)으로의 전이가 잘 이루어지지 않습니다. 우리는 기존의 에이전트 짐 (agent gyms)과 자체적인 메모리 기반 파이프라인을 하나의 메모리 추론 인터페이스로 통합한 에이전트 메모리용 벤치마크인 MemGym을 제시합니다. MemGym은 네 가지 에이전트 체제 (agentic regimes)로 그룹화된 다섯 가지 평가 트랙을 아우릅니다: 도구 사용 대화 (tool-use dialogue, tau2-bench), 다회차 심층 연구 검색 (multi-turn deep-research search, MEMGYM-DR), 코딩 (coding, SWE-Gym 및 MEMGYM-CODEQA), 그리고 컴퓨터 사용 (computer use, WebArena-Infinity). MemGym은 메모리 성능을 추론 (reasoning), 검색 (retrieval), 도구 사용 (tool-use) 능력과 분리하여 메모리 고립 점수 (memory-isolated scores)를 보고하므로, 이러한 혼란 변수 (confounders) 없이 메모리 전략의 순위를 매길 수 있습니다. MEMGYM-CODEQA 및 MEMGYM-DR을 위한 우리의 합성 파이프라인 (synthetic pipelines)은 길이를 조절할 수 있고, 모든 단계에서 어블레이션 검증 (ablation-verified)을 거쳤으며, 다운스트림 시나리오와 밀접하게 정렬되어 있습니다. 코딩 환경에서의 평가를 학술적으로 다루기 용이하게 만들기 위해, 우리는 전체 Docker 롤아웃 (rollouts)을 대신하여 압축 품질을 빠른 스칼라 값으로 읽어 점수를 매기는 경량 보상 모델 (reward model)인 MemRM (QLoRA로 미세 조정된 Qwen3-1.7B)을 학습시켰습니다.