Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Anthropic의 Fable5가 보안 취약성 보고로 인해 미국 정부의 수출 규제를 받았으나, 세이프가드 강화를 통해 규제를 해제하고 서비스 재개를 완료했습니다. 이번 사건은 기술 발전 속도를 법이 따라가지 못해 정부의 재량이 제품의 운명을 결정하는 새로운 국면을 보여줍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기6월 9일, 미국 Anthropic은 Mythos의 세이프가드 (Safeguard) 버전인 Fable5의 일반 제공을 시작했다.
그리고 3일 뒤 Mythos도 포함하여 정부의 재량으로 제공 중단이 명령되었다.
6월 30일, 미국 정부는 Fable5 및 Mythos의 수출 규제를 해제했습니다.
이를 받아 Anthropic은 7월 1일부터 2일에 걸쳐 단계적으로 제공을 재개했습니다.
일련의 사건의 열쇠가 된 것은 Amazon의 연구원이 미국 정부에 대해, Fable5에는 탈옥 (Jailbreak)할 수 있는 취약성이 있다고 보고한 것이었다.
Anthropic은 이 수출 규제 기간 중에 미국과 협의를 거듭하여, Fable5의 세이프가드 (Safeguard)를 더욱 강화함으로써 수출 규제 해제에 이르렀습니다.
이 강화된 세이프가드 (Safeguard)는 Amazon의 연구원이 보고한 탈옥 (Jailbreak) 방법을 99% 이상 차단하며, Opus4.8로 처리를 인계하게 되었습니다.
이 19일 동안 Anthropic은 Fable5에 무엇을 추가했을까.
그것은 앞 섹션에서 기술한 바와 같이, 「세이프가드 (Safeguard)」의 강화.
하지만 그것은 단순한 강화에만 머물지 않았다.
왜냐하면, 조금이라도 사이버 보안 (Cybersecurity)에 관한 질문이든, 일반적인 코딩이든, 높은 확률로 세이프가드 (Safeguard)가 발동하여 Opus4.8로 처리를 인계하게 되어버렸기 때문이다.
Fable5라는 초효율적인 코딩, 개발 환경을 원해서 Anthropic Claude에 결제했는데, 빈번하게 하이클래스 모델인 Opus로 인계되어 버린다.
제목에도 나와 있듯이, 이번 Fable5의 수출 규제.
이것은 법 정비가 따라가지 못하고 있어, 정부의 재량으로 제품을 공개할 수 있을지가 결정된다.
실제로 Anthropic은 이번 사건을 통해, 향후 프론티어 모델 (Frontier Model)에 해당하는 모델은 정부와의 협의를 통해 공개 여부를 결정하게 되는 것으로 결론지었다.
법 정비가 따라가는 것보다 기술의 진보가 더 빨랐다.
이는 좋은 일이기도 하지만, 그 반면으로 법 정비가 따라가지 못해 정부의 재량으로 제품의 운명이 결정되어 버린다.