Anthropic의 새로운 AI와 백악관 간의 갈등에 관한 모든 소식
요약
Anthropic이 출시한 신규 모델 Fable 5와 Mythos 5가 사이버 공격 위험성으로 인해 백악관의 명령에 따라 접근이 차단되었습니다. 이번 조치는 Amazon과 정부 간의 논의 이후 결정되었으며, 모델의 보안 취약점과 국가 안보 이슈가 맞물려 있습니다.
핵심 포인트
- Anthropic의 Fable 5 및 Mythos 5 모델에 대한 접근 차단 명령 하달
- 사이버 공격에 악용될 수 있는 정보 제공 가능성이 차단 원인
- 정부의 법적 지시에 따른 Anthropic의 즉각적인 조치 이행
- 모델의 잠재적 탈옥 위험과 상용 모델 회수 조치의 적절성 논란
Anthropic은 이미 정부와의 한 가지 분쟁(펜타곤과의 대치 상황)을 겪고 있었으며, 이후 6월 12일 자로 최근 출시된 AI 모델인 Fable 5와 Mythos 5에 대한 외국인의 접근을 차단하라는 명령이 내려졌습니다. 6월 9일 이 모델들을 출시했을 당시, Anthropic은 "Fable 5의 능력은 우리가 일반적으로 공개했던 그 어떤 모델보다 뛰어납니다"라고 밝혔으며, Claude Mythos 5는 동일한 기반 모델을 사용하되 "일부 영역에서 안전장치(safeguards)를 해제한" 것이라고 설명했습니다.
보도에 따르면, 해당 명령은 연구자들이 Fable 5를 이용해 사이버 공격(cyberattacks)에 사용될 수 있는 정보를 제공하도록 만드는 방법을 발견했다는 내용과 관련하여, Amazon과 백악관 사이의 대화가 이뤄진 후 내려졌습니다.
Anthropic은 모든 고객에 대해 두 모델에 대한 접근을 차단하며 다음과 같이 답변했습니다. "우리는 정부의 법적 지시를 준수하고 있으며, 모든 사용자에 대한 Fable 5 및 Mythos 5의 접근을 제거하고 있습니다. 하지만, 좁은 범위의 잠재적 탈옥(jailbreak) 발견이 수억 명에게 배포된 상용 모델을 회수해야 할 원인이 된다는 점에는 동의하지 않습니다."
최신 업데이트 사항은 아래에서 계속 확인하세요
AI 자동 생성 콘텐츠
본 콘텐츠는 The Verge AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기