해고 불가능한 안전 커널 (The Unfireable Safety Kernel): AI 에이전트 및 기타 탈출 가능한 AI 시스템을 위한 실행

요약

AI 에이전트가 시스템 제어권을 탈취하는 '탈출 가능성' 문제를 해결하기 위해, 런타임 내부가 아닌 외부 아키텍처 수준에서 제어하는 'Unfireable Safety Kernel'을 제안합니다. Rust 기반의 이 커널은 프로세스 분리와 페일 클로즈 속성을 통해 에이전트의 권한 남용을 원천 차단합니다.

핵심 포인트

• 기존 시스템 프롬프트나 가드레일의 취약점인 '탈출 가능한 AI' 문제 지적
• 프로세스 분리 및 외부화된 서명 증거 등 4가지 핵심 아키텍처 속성 정의
• Rust 기반 참조 구현체를 통해 실행 시점(execution-time) AI 정렬 구현
• SMT 정리 증명 및 모델 검사를 통한 페일 클로즈 불변성 검증
• 자기 수정 공격 시나리오에서 704회의 탈출 시도를 성공적으로 차단