Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
LLM 에이전트가 지속적인 상태(durable state)를 유지하고 관리하기 위한 거버넌스 체계를 조사한 연구입니다. 메모리, 권한, 감사 기록 등 상태의 생애주기를 분석하고, 상태 변이 및 복구 능력을 평가하는 새로운 프로토콜(AOEP-v0)을 제안합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Always-on 에이전트(Always-on agents)는 미래의 행동이 이전의 상호작용을 통해 축적된 내구적인 상태(durable state)에 의존하는 시스템입니다. 우리는 이를 지속적 상태 시스템(persistent-state systems)으로 취급합니다. 즉, 운영 체제에는 검색 가능한 메모리뿐만 아니라 작업 원장(task ledgers), 권한(permissions), 자격 증명(credentials), 약속(commitments), 출처(provenance) 및 감사 기록(audit records), 공유 상태(shared state), 트리거 조건(trigger conditions), 그리고 해당 기록과 연결된 외부적으로 약속된 효과(externally committed effects)가 포함됩니다. 본 조사(survey)는 각 상태 항목에 대해 권한(authority), 범위(scope), 가변성(mutability), 출처(provenance), 복구 가능성(recoverability), 실행 가능성(actionability)이라는 6가지 진단 축을 통해 문헌을 검토하며, 상태가 기록되고, 검증되고, 조직되고, 검색되고, 실행되고, 업데이트되고, 망각되고, 감사되고, 때로는 롤백(rolled back)되는 생애주기(lifecycle)를 통해 살펴봅니다. 포괄적인 인구 조사라기보다는 범위가 지정된 지도(scoped map)로 취급된 435개의 코딩된 말뭉치(corpus)를 통해 분석한 결과, 문헌들은 상태를 관리(governing), 복구(recovering)하거나 포기(relinquishing)하는 것보다 상태를 축적하고 검색하는 것에 더 집중되어 있습니다. 따라서 우리는 정답의 품질뿐만 아니라 상태 변이(state mutation) 및 복구 의무(recovery obligations)를 점수화함으로써 이러한 거버넌스 요구 사항을 구체화하는 파일럿 평가 계약인 Always-On 평가 프로토콜(AOEP-v0)을 도입합니다. 그 결과 도출된 의제는 Always-on 에이전트를 데이터베이스(databases), 분산 시스템(distributed systems), 형식 방법론(formal methods), 권한 보안(capability security), 그리고 머신 언러닝(machine unlearning)과 연결합니다.