관찰할 수 없는 것을 통제하기: 자율 AI 에이전트를 위한 적응형 런타임 거버넌스

자율 AI 에이전트는 코드 변경 없이도 행동의 드리프트 (drift), 적대자의 적응, 결정 패턴의 변화 등으로 인해 완전히 승인된 상태에서도 안전하지해질 수 있습니다. 우리는 extbf{정보적 생존 가능성 원칙 (Informational Viability Principle)}을 제안합니다. 이 원칙에 따르면 에이전트를 통치하는 것은 관찰되지 않은 위험의 상한선 $ extstyle \hat{B}(x) = U(x) + SB(x) + RG(x)$을 추정하고, 안전 마진 내에서 그 용량 $S(x)$이 $ extstyle \hat{B}(x)$보다 클 때만 행동을 허용하는 것으로 축소됩니다. Aubin의 생존 가능성 이론 (viability theory)에 기반한 extbf{에이전트 생존 가능성 프레임워크 (Agent Viability Framework)}는 문서화된 실패 모드를 개별적으로 필요하고 집합적으로 충분인 세 가지 속성 -- 모니터링 (P1), 예견 (P2), 단조 제한 (monotonic restriction, P3) --을 확립합니다. extbf{RiskGate}는 전용 통계적 추정량 (KL 발산, segment-vs-rest $z$-tests, 순차 패턴 매칭), 실패 시 안전한 단조 파이프라인, Aubin의 규제 맵 (regulation map) 의 인스턴스로 형식화되고 kill-switch 를 최후의 수단으로 포함하는 폐쇄 루프 Autopilot 로 프레임워크를 구현합니다. 스칼라 생존 가능성 지수 $VI(t) \in [-1,+1]$ 와 1 차원 $t^*$ 예측은 거버넌스를 반응형에서 예측형으로 전환합니다. 기여물은 이론적 프레임워크, 참조 구현, 그리고 공개된 에이전트 실패 분류학에 대한 분석적 커버리지입니다. 정량적 경험 평가는 후속 작업의 범위로 설정됩니다.