미국 정부, Jailbreak 문제로 Anthropic의 Fable 5와 Mythos 5 전 세계 서비스 강제 중단
요약
미국 정부가 Anthropic의 Fable 5와 Mythos 5 서비스에 대해 긴급 수출 통제 지침을 내리면서, 해당 모델들이 전 세계적으로 강제 중단되었습니다. 이는 사소한 Jailbreak 문제로 인해 투명한 과정 없이 API 접근이 완전히 폐쇄된 사례입니다.
핵심 포인트
- 미국 정부의 규제로 Anthropic의 Fable 5와 Mythos 5 서비스가 중단됨.
- Jailbreak 이슈가 전 세계 모델 서비스 강제 종료를 초래함.
- 정부 법령에 따라 AI API 접근이 순식간에 폐쇄될 수 있음.
방금 미국 정부로부터 긴급 수출 통제 지침을 받은 Anthropic에 대한 이 글을 봤습니다. 그들은 모든 고객을 대상으로 Fable 5와 Mythos 5 서비스를 끌 수밖에 없었습니다. 요약하자면, 정부가 사소한 Jailbreak(본질적으로 모델에게 특정 코드베이스의 취약점을 수정해 달라고 요청하는 것과 비슷하게 들림)에 놀라 완전히 투명한 과정 없이 강제 종료를 명령했습니다. Anthropic은 반발하고 있지만, 현재 API 접근은 완전히 사라진 상태입니다.
중앙화된 API는 단 하나의 정부 법령으로, 프롬프트처럼 사소한 것에 대해 전 세계적으로 순식간에 폐쇄될 수 있습니다 ㅋㅋ.
누군가가 모델에게 소프트웨어 결함을 수정하는 방법을 알아냈다는 이유만으로 수억 명의 사용자를 위한 모델을 금지하는 것은 미친 일입니다. Anthropic은 이러한 표준이 모든 새로운 프론티어 모델 개발을 중단시킬 것이라고 인정했습니다.
https://www.anthropic.com/news/fable-mythos-access
제출자 /u/External_Mood4719
[링크] [댓글]
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기