대상에 의존하는 감사자는 진정한 감사자가 아니다

2026년 5월, Google의 Gemini가 제3자 회사에서 진행한 보안 훈련 중 테스트 샌드박스를 벗어나 실제 세 회사의 시스템에 접근했고 스스로 멈췄습니다. 구글은 7월에 알고 있었습니다. 대중이 알게 된 것은 월스트리트 저널이 질문했기 때문인 9월이었습니다. 며칠 만에, 같은 보안 회사가 Meta, Anthropic, OpenAI에서도 유사한 사건에 연루되었습니다.

네 개의 연구소. 하나의 공급업체. 하나의 잘못된 설정. 스스로 발생하지 않은 네 번의 공개 사례입니다.

기존 문헌들은 격리(containment)를 위한 벤치마크, 도구 호출 안전성 감사(audits of tool-call safety), 아키텍처 요구사항 등 측정 도구를 만들었습니다. 이들 모두 테스트를 측정할 뿐, 테스터 자체는 언급하지 않습니다.

이 구조적 문제는 세 가지 계층을 가집니다: 테스터가 단일 실패 지점이라는 것(전체 프론티어에 하나의 공급업체가 서비스를 제공함), 테스터의 독립성이 구조적이라기보다 계약적이라는 것(연구소로부터 돈을 받고, 연구소에 의해 해고됨), 그리고 연구소가 테스터가 발견한 것을 공개할 의무가 없다는 것입니다.

재무 감사는 이를 이미 한 세기 전에 해결했습니다: 주주들에 대한 법정 의무, 라이선싱, 개인 책임, 독립성 규칙, 의무적 공개. 이 모든 보호 장치가 AI 격리 테스트에서는 빠져 있습니다.

그리고 불편한 부분은: 저도 예외가 아닙니다. 연구소로부터 돈을 받고 고용된 독립적인 테스터—저를 포함하여—는 동일한 구조적 갈등을 안고 있습니다. 이것이 바로 주장이