증명 기반 에이전트 동작 (Proof-Carrying Agent Actions): 이기종 에이전트 시스템을 위한 모델 불가지론적 런타임 거버넌스

에이전트 시스템은 로컬 코딩 도구, 프레임워크 SDK, 관리형 에이전트 플랫폼, API 게이트웨이, 그리고 관찰 전용 통합(observer-only integrations) 등 매우 다양한 제어 지점을 가진 런타임(runtimes)을 통해 실행됩니다. 따라서 데이터를 외부로 게시하는 것과 같은 고위험 동작은 한 런타임에서는 셸 명령(shell command)으로, 다른 런타임에서는 도구 호출(tool call)로, 또 다른 런타임에서는 호스팅된 세션 전환(hosted session transition)으로 나타날 수 있습니다. 이로 인해 다음과 같은 기본적인 거버넌스 질문에 일관되게 답하기가 어려워집니다: 어떤 동작이, 누구의 권한 하에, 어떤 승인 의미론(approval semantics)을 가지고 승인되었으며, 실행 후 어떤 증거가 남았는가? 본 논문은 벤더 네이티브 세션 기록(vendor-native session record) 대신 동작 인증서(action certificate)를 중심으로 하는 런타임 중립적 거버넌스 모델인 증명 기반 에이전트 동작 (Proof-Carrying Agent Actions, PCAA)을 제시합니다. PCAA는 동작 전 허용 가능성(pre-action admissibility), 동작 개시(action open), 가정 캡처(assumption capture), 승인(approval), 그리고 결과 종료(outcome closure)라는 다섯 가지 체크포인트를 중심으로 제어를 구성합니다. 이 모델은 이러한 체크포인트들을 휴대 가능한 동작 봉투(action envelope), 런타임 및 승인 영수증(runtime and approval receipts), 그리고 재현 가능한 증명(replay-ready proof)에 결합합니다. 이 모델은 두 가지 실용적인 방식으로 확장됩니다: 첫째, 인증서는 외부성(externality)을 인식하여 목적지 가시성(destination visibility) 및 계정 출처(account provenance)와 같은 경계 사실(boundary facts)을 포함합니다. 둘째, 승인은 단일한 '검토됨(reviewed)' 또는 '검토되지 않음(unreviewed)' 비트가 아닌 명시적인 강제 가능성 클래스(enforceability classes)에 의해 설명됩니다. 우리는 이기종 에이전트 제어 평면(control plane)에서의 참조 구현과 공개 제한 평가 프로토콜(disclosure-bounded evaluation protocol)을 통해 이 모델을 연구합니다. 24개의 실행 가능한 시드(executable seeds)에서 4개의 런타임 제품군에 걸친 96개의 트레이스(traces)로 확장된 보호된 벤치마크에서, PCAA는 경로 품질(route quality)을 유지하면서도 절제 연구(ablation) 하에서 뚜렷한 실패 모드(failure modes)를 드러냅니다. 본 논문은 인증서를 수반하는 동작을 중심으로 한 런타임 거버넌스의 시스템 공식화(systems formulation)와, 해당 공식화가 벤더별 제어 표면(vendor-specific control surfaces)으로 붕괴되지 않고 런타임 변동(runtime churn) 속에서도 어떻게 휴대성을 유지할 수 있는지에 대한 구현 기반의 설명을 기여합니다.