Position: 행동적 보증은 현재 거버넌스가 요구하는 안전성 주장을 검증할 수 없다

본 포지션 페이퍼(position paper)는 행동적 보증(behavioural assurance)이 아무리 정교하게 설계되더라도, 스스로 검증할 수 없는 안전성 주장(safety claims)을 뒷받침하도록 요구받고 있다고 주장합니다. 2019년에서 2026년 초 사이에 제정된 AI 거버넌스 프레임워크는 숨겨진 목표의 부재, 통제력 상실 전조에 대한 저항성, 그리고 제한된 파괴적 능력(bounded catastrophic capability)과 같은 특성에 대해 검토 가능한 증거를 요구합니다. 그러나 현재의 보증 방법론(주로 행동 평가(behavioural evaluations) 및 레드팀(red-teaming))은 인식론적으로 관찰 가능한 모델 출력값에 국한되어 있으며, 이러한 프레임워크가 규제 대상으로 상정하는 잠재적 표현(latent representations)이나 장기적 에이전트 행동(long-horizon agentic behaviours)을 검증할 수 없습니다. 우리는 이러한 구조적 불일치를 요구되는 검증 접근 권한과 달성 가능한 접근 권한 사이의 차이인 '감사 격차(audit gap)'로 공식화하며, 증거 구조가 주장된 안전성 주장을 뒷받침하지 못하는 사례를 설명하기 위해 '취약한 보증(fragile assurance)'이라는 개념을 도입합니다. 21가지 도구 인벤토리(21-instrument inventory) 분석을 통해, 우리는 지정학적 및 산업적 압력이 심층적인 구조적 검증보다 표면적인 행동 대리 지표(behavioral proxies)에 체계적으로 보상하는 인센티브 경사(incentive gradient)를 식별합니다. 마지막으로, 우리는 기술적 전환을 제안합니다: 법률 문구에서 행동적 증거의 비중을 제한하고, 자발적인 배포 전 접근 권한을 선형 프로브(linear probes), 활성화 패칭(activation patching), 그리고 훈련 전후 비교(before/after-training comparisons)와 같은 기계적 증거(mechanistic-evidence) 클래스로 확장하는 것입니다.