🚨 속보: 미국 정부가 Anthropic에게 Fable 5와 Mythos 5를 중단하도록 강제했습니다.

• 출시 후 단 3일 만에.

이유는 알려진 탈옥(jailbreak) 때문입니다.

(탈옥이란 누군가가 모델의 일부 안전장치를 무시하고, 원래 의도하지 않았던 방식으로 답변하거나 행동하게 만드는 방법을 발견했다는 의미입니다.)

놀라운 점은 이것이 단순히 임의의 챗봇이 아니었다는 것입니다. Fable 5와 Mythos 5는 역대 가장 지능적인 AI 모델 중 일부였습니다.

Anthropic은 이 모델들을 둘러싸고 수개월 동안 안전장치를 구축하는 데 시간을 들였습니다. 회사는 이러한 모델들이 가질 수 있는 잠재력 때문에 출시를 매우 신중하게 진행했습니다.

그런데도, 지금 이렇게 되었습니다.
출시 후 단 3일 만에 미국 정부가 개입한 것입니다.

이 명령은 너무 광범위해서, 심지어 외국 국적자라도 미국 내부에 물리적으로 있는 경우에도 적용됩니다.

이는 Anthropic 자체에서 근무하는 직원들에게도 해당합니다.

만약 여러분이 여전히 AI를 이메일 작성, 이미지 생성, 작업 자동화에 사용되는 귀여운 생산성 도구라고 생각한다면, 다시 생각해 보셔야 합니다.

정부들은 이러한 시스템들을 매우 다르게 보고 있습니다.

그들은 세계에서 가장 똑똑한 모델들을 국가 안보, 사이버 방어, 그리고 글로벌 권력에 영향을 미칠 수 있는 무언가로 취급하고 있습니다.

그리고 솔직히 말하자면?
정부는 아마도 대부분의 사람들이 모르는 무언가를 알고 있을 것입니다.