대규모 언어 모델 (LLM) 에이전트는 본질적인 무상태성 (statelessness)으로 인해 장기적 과업 (long-horizon tasks) 수행에 어려움을 겪으며, 이로 인해 모든 과업 관련 정보를 계속해서 커지는 입력 컨텍스트 (input contexts)에 인코딩해야 합니다. 그 결과 발생하는 추론 품질 저하, 추론 비용 증가 및 지연 시간 (latency) 상승은 효율적인 작업 메모리 (working memory) 메커니즘을 필요로 합니다. 그러나 기존 방식들은 손실이 있는 압축 (lossy compression) 또는 유사도 기반 검색 (similarity-based retrieval)에 의존하며, 이는 다단계 에이전트 과업에 필요한 시간적 구조와 인과 관계 (causal dependencies)를 포착하는 데 종종 실패합니다.

본 연구에서는 경험을 파일 시스템과 유사한 계층적 구조로 정리하는 계층적 정리-및-검색 메모리 에이전트인 HORMA를 제안합니다. 여기서 요약된 엔티티 (entities)는 해당 원시 궤적 (raw trajectories)과 연결되어, 상세한 정보를 잃지 않으면서도 효율적인 접근을 가능하게 합니다. HORMA는 작업 메모리를 두 단계, 즉 구조화된 메모리 구축 (structured memory construction)과 탐색 기반 검색 (navigation-based retrieval)으로 분해합니다. 구축 모듈은 정보 누락으로 인한 실패와 오도되거나 과부하된 컨텍스트로 인한 실패를 구분함으로써 경험이 구조화되는 방식을 반복적으로 개선합니다. 탐색 모듈은 강화학습 (reinforcement learning)으로 훈련된 경량 에이전트를 사용하여 계층 구조를 탐색함으로써 과업 관련 컨텍스트를 검색하며, 이 에이전트는 최소하면서도 충분한 컨텍스트를 선택하여 실행 경로를 따라 지연 시간을 줄입니다.

ALFWorld, LoCoMo, LongMemEval 전반에 걸쳐, HORMA는 제한된 컨텍스트 예산 하에서 과업 성능을 향상시키는 동시에, 긴 대화 과업에서 베이스라인 토큰 사용량의 최대 22.17%만을 요구합니다. 기존 방법들과 비교했을 때, HORMA는 일관되게 더 나은 효율성-성능 트레이드오프 (efficiency-performance trade-offs)를 달성하며 미학습 과업에도 효과적으로 일반화됩니다.