Claude Fable 5가 출시 며칠 만에 전 세계에서 막혔다. 그런데 방아쇠를 당긴 쪽이 묘하다.

경쟁사가 아니라 앤트로픽 최대 투자자인 아마존이었다. 아마존 연구원들이 이 모델을 탈옥해 보안 취약점 정보를 뽑아냈고, 그 사실이 미국 정부에 닿자 상무부가 곧장 수출통제 지시를 내렸다.

핵심은 탈옥 방식이다. 위험한 걸 대놓고 물으면 막히지만, 질문을 잘게 쪼개 하나하나 평범하게 물으면 그냥 통과한다. 조각은 멀쩡한데 합치면 위험한 답이 된다 — 지금의 AI 안전장치는 보통 사용자만 막고, 작정한 고수는 못 막는다는 뜻이다.

앤트로픽은 "좁은 우회 하나로 수억 명이 쓰는 모델을 회수하는 건 과하다"며 맞서는 중이다. 하지만 프런티어 AI가 전략자산이 된 시대에, 정부의 1순위는 늘 '일단 전부 차단'이다.

가장 큰 피해자는, 아무 잘못 없는 전 세계 일반 사용자다.