Anthropic Claude Fable

대통령 자문위원회 과학기술 공동 의장직과 행정부 전 AI 책임자였던 David Sacks는 미국 정부가 Anthropic에게 Claude Fable 5가 탈옥되었음을 경고했으며, CEO Dario Amodei가 이 결함을 수정하거나 모델을 철회하는 것을 거부했다고 말했다. Sacks는 토요일 X에 올린 게시물에서, 정부가 Fable 5와 Mythos 5 모두를 전 세계적으로 비활성화하도록 명령한 다음 날의 행정부 입장을 설명했다. Sacks에 따르면, 정부는 이러한 거부 이후 '마지못해' 수출 통제를 발동했으며, 탈옥이 패치되면 이 제한을 해제하기를 원하고 있으며,

한 백악관 근처 사람에 따르면, 뉴스 매체 Semafor가 아마존이 정부 측에 해당 탈옥(jailbreak) 문제를 제기했으며, 아마존 CEO Andy Jassy가 행정부와 이 문제로 접촉해 왔다고 전했습니다. Anthropic에 수십억 달러를 투자하고 클라우드 컴퓨팅의 상당 부분을 공급하는 아마존은 세부 사항을 확인해주지 않았으며, 대변인은 Semafor에게 정부들이 보안 위험에 대해 종종 자문을 구하지만 그러한 대화 내용은 논의하지 않는다고 말했습니다.

이것이 Mythos 접근 권한이 유출된 첫 사례는 아닙니다. 지난 4월에도 무단 제3자가 데이터 유출 정보를 이용해 제한된 모델에 접근했던 적이 있습니다. Anthropic의 공개적인 입장은 이러한 우회(bypass)가 좁고 보편적이지 않으며, 모델에게 코드베이스를 읽고 소프트웨어 결함을 식별하도록 요청하는 것에 불과하고, 동일한 결과는 OpenAI의 GPT-5.5를 포함한 다른 공개 모델에서도 생성될 수 있다는 것입니다. 이 회사는 제한적인 탈옥이 수억 명의 사람들이 사용하는 모델을 리콜해야 할 필요성을 초래한다는 개념에 동의하지 않는다고 밝혔습니다. 그러나 Sacks는 이에 반대하며, 사이버 무기 운영을 가능하게 하는 우회(bypass)를 심각한 것 외에는 정의하기 어렵다고 주장합니다.

Semafor는 이 사안에 정통한 사람을 인용하여 백악관이 중국과 연계된 그룹이 Mythos에 접근했다는 의혹 때문에 부분적으로 행동했다고 전하며, 이는 모델이 리버스 엔지니어링되거나 증류(distilled)될 가능성을 제기합니다. Anthropic 대변인은 해당 매체에 백악관이

Tom's Hardware를 Google News에서 팔로우하거나 즐겨찾는 출처로 추가하여 최신 뉴스, 분석 및 리뷰를 피드에서 받아보세요.

Luke James는 프리랜서 작가이자 기자입니다. 그의 배경은 법률 분야이지만, 기술 전반, 특히 하드웨어와 마이크로일렉트로닉스, 그리고 규제 관련 모든 것에 개인적인 관심을 가지고 있습니다.