Always-OnAgents: LLM 에이전트의 지속적 메모리, 상태 및 거버넌스에 관한 조사

Always-on 에이전트(Always-on agents)는 미래의 행동이 이전의 상호작용을 통해 축적된 내구적인 상태(durable state)에 의존하는 시스템입니다. 우리는 이를 지속적 상태 시스템(persistent-state systems)으로 취급합니다. 즉, 운영 체제에는 검색 가능한 메모리뿐만 아니라 작업 원장(task ledgers), 권한(permissions), 자격 증명(credentials), 약속(commitments), 출처(provenance) 및 감사 기록(audit records), 공유 상태(shared state), 트리거 조건(trigger conditions), 그리고 해당 기록과 연결된 외부적으로 약속된 효과(externally committed effects)가 포함됩니다. 본 조사(survey)는 각 상태 항목에 대해 권한(authority), 범위(scope), 가변성(mutability), 출처(provenance), 복구 가능성(recoverability), 실행 가능성(actionability)이라는 6가지 진단 축을 통해 문헌을 검토하며, 상태가 기록되고, 검증되고, 조직되고, 검색되고, 실행되고, 업데이트되고, 망각되고, 감사되고, 때로는 롤백(rolled back)되는 생애주기(lifecycle)를 통해 살펴봅니다. 포괄적인 인구 조사라기보다는 범위가 지정된 지도(scoped map)로 취급된 435개의 코딩된 말뭉치(corpus)를 통해 분석한 결과, 문헌들은 상태를 관리(governing), 복구(recovering)하거나 포기(relinquishing)하는 것보다 상태를 축적하고 검색하는 것에 더 집중되어 있습니다. 따라서 우리는 정답의 품질뿐만 아니라 상태 변이(state mutation) 및 복구 의무(recovery obligations)를 점수화함으로써 이러한 거버넌스 요구 사항을 구체화하는 파일럿 평가 계약인 Always-On 평가 프로토콜(AOEP-v0)을 도입합니다. 그 결과 도출된 의제는 Always-on 에이전트를 데이터베이스(databases), 분산 시스템(distributed systems), 형식 방법론(formal methods), 권한 보안(capability security), 그리고 머신 언러닝(machine unlearning)과 연결합니다.