AI 코딩 에이전트를 위한 실행 경계 거버넌스 (Execution-Boundary Governance)

저는 AI 산업에서 앞으로 더 많이 필요하게 될 것이라고 생각하는 기능의 공개 안전(public-safe) 데모를 오픈 소스로 공개했습니다:

실행 경계 거버넌스 (Execution-boundary governance).

오늘날 대부분의 AI 에이전트 시스템은 모델이 무엇을 할 수 있는지에 집중합니다.

이 데모는 결과가 구속력을 갖는 행동이 발생하기 전에, 모델이 무엇을 제안할 수 있도록 허용되는지에 집중합니다.

이 저장소(repo)는 Claude 또는 Codex와 같은 외부 코딩 에이전트를 위한 결정론적 거버넌스 체인 (deterministic governance chain)을 보여줍니다:

Claude/Codex 의도 (intent)

→ 의도 수신 (intent receipt)

→ 사전 비행 거버넌스 수신 (preflight governance receipt)

→ 재생 검증 (replay verification)

→ 위험한 명령 거부 (dangerous command denial)

중요한 부분은 영수증(receipts)이 재생 검증(replay-verifiable) 가능하다는 점입니다. 시스템은 원시 입력(raw inputs)으로부터 거버넌스 결정을 독립적으로 재계산하며, 단순한 해시 불일치가 아닌 의미론적 변조 (semantic tampering)를 탐지합니다.

전체 저장소는 권고/시뮬레이션 전용입니다:

• 쉘 실행 (shell execution) 없음
• Git push 권한 없음
• 배포 (deployment) 없음
• 네트워크 호출 (network calls) 없음
• 자격 증명 접근 (credential access) 없음
• 실제 실행 권한 (real execution authority) 없음

또한 다음을 포함합니다:

• 결정론적 SHA-256 영수증 해싱 (deterministic SHA-256 receipt hashing)
• 재생 검증 (replay verification)
• 영수증 만료/신선도 확인 (receipt expiry/freshness checks)
• 명시적인 위협 모델 문서화 (explicit threat model documentation)
• 명시적인 보안 제한 사항 (explicit security limitations)
• 73개의 통과된 테스트

제가 의도적으로 명확하게 문서화한 한 가지가 있습니다:
정규 표현식 거부 목록 (regex deny-list)은 데모용 가드(guard)일 뿐, 프로덕션 샌드박스 (production sandbox)가 아닙니다. 실제 배포에는 프로세스 격리 (process isolation), 권한 범위가 지정된 실행 (capability-scoped execution), 신뢰할 수 있는 시계 (trusted clocks), 서명된 검증자 키 (signed verifier keys), 그리고 강화된 런타임 제어 (hardened runtime controls)가 필요합니다.

여기에서의 목표는 "AI 자율성 (AI autonomy)"이 아닙니다.

목표는 현실이 바뀌기 전에 거버넌스를 재생 가능하고, 검사 가능하며, 독립적으로 검증 가능하게 만드는 것입니다.

저장소 확인하기