프론티어 AI 샌드박스 취약점, 형식 검증(Formal Verification)으로 막는다

요약

최근 발생한 Claude Mythos 샌드박스 탈출 사건은 최첨단 AI 모델을 담는 인프라 자체의 취약점을 드러냈습니다. 본 논문은 이러한 아키텍처적 결함을 사전에 찾아내기 위해 Z3 기반의 형식 검증 엔진인 COBALT를 제안합니다. COBALT는 C/C++ 코드에서 CWE-190, 191, 195와 같은 산술 취약점 패턴을 식별하며, NASA cFE 등 실제 운영 코드를 통해 그 효용성을 입증했습니다. 나아가, 검증된 전처리 과정(COBALT), 실행 제약 조건 설정(VERDICT), 출력 통제(DIRECTIVE-4), 런타임(

핵심 포인트

• 프론티어 AI 모델의 안전성은 행동적 보호 장치만으로는 불가능하며, 컨테인먼트 스택 자체에 대한 형식 검증이 필수적입니다.
• COBALT는 Z3 SMT 기반 엔진으로, C/C++ 코드 내 산술 취약점 패턴(CWE-190 등)을 사전에 탐지합니다.
• 제안된 4계층 프레임워크는 검증, 제약 조건 설정, 출력 통제, 런타임 모니터링까지 포괄하는 통합 안전 아키텍처를 제시합니다.
• COBALT의 효용성은 NASA cFE, wolfSSL 등 실제 운영 시스템 사례 연구를 통해 입증되었습니다.