이제 AI 모델 하나가 미국 정부에 상시 의무를 지는 시대가 됐다.

피터 디아만디스의 팟캐스트 문샷츠에서 나온 얘기다. 앤트로픽의 프런티어 모델 페이블 5가 7월 1일 글로벌 서비스를 재개하면서 미 정부에 세 가지를 약속했다. 특정 탈옥 프롬프트를 걸러내는 안전 분류기, 탈옥 시도를 24시간 감시하다 악성 활동을 발견하면 정부에 알리는 체계, 그리고 지정된 정부 파트너에게 최신 모델을 먼저 열어주는 조기 접근권이다.

시작은 아마존 연구자가 이 모델의 가드레일을 뚫은 사건이었다. 파고들어보니 다른 최상위 모델들도 같은 위험 행동을 그대로 재현했다고 한다.

진행자들의 결론은 분명하다. 프런티어 AI 랩은 이제 주주를 둔 사기업이자 국가안보 의무를 진 준공공기관이 됐다. 가장 똑똑한 기술이 더는 혼자 움직일 수 없게 된 첫 장면이다.