Anthropic의 Fable 5 및 Mythos 5 서비스 중단 사태: 기술적 문제를 넘어선 소통의 문제

최신 소식:
Anthropic이 Fable 5와 Mythos 5를 모두 서비스 중단(下架)한 이 사건은 오늘날까지 전개되면서, 기술적인 문제는 더 이상 중요하지 않게 되었습니다.

저는 Axios의 최초 내부 폭로부터 오늘 CNBC의 양측 입장 업데이트까지 3일 동안 이 사건을 추적해 왔습니다. 이 전체 사건은 점점 하나의 수업처럼 느껴집니다. 즉, AI 기업과 정부가 도대체 어떻게 대화해야 하는가에 대한 수업 말입니다.

타임라인은 명확합니다.

6월 9일, Anthropic이 모델을 출시했습니다. 당시 정부와 소통했으나 상대측은 제지하지 않았습니다.
6월 12일, 정부가 갑자기 전화를 걸고 공식 서한을 추가로 보내왔습니다. 제보를 받았으며, 누군가 보안 제한을 우회하는 탈옥 (Jailbreak)이 가능하여 국가 안보 리스크가 있다는 내용이었습니다. 이에 따라 미국 내 외국인 직원을 포함하여 모든 외국인의 사용을 즉시 금지할 것을 요구했습니다.
6월 13일, Anthropic은 국적을 실시간으로 구분할 수 없었기에 전 세계적으로 일괄 서비스 중단 조치를 취했습니다. 미국 사용자들도 갑자기 사용할 수 없게 되었고, 개발자 커뮤니티는 즉각 폭발했습니다.

이 시점까지만 해도 사람들은 이것이 기술적 보안 사건이라고 생각했습니다.

하지만 이후 Axios가 폭로한 내부 정보는 사건의 면모를 완전히 뒤집어 놓았습니다.

정부 측의 원문 발언이 인용되었습니다: "Anthropic은 우리와 전혀 대화하지 않는다. 마치 완전히 다른 두 개의 언어를 사용하는 것 같다." 또한 한 관료는 원래 기회를 주려고 주장했으나, 이제는 그들이 스스로 기회를 날려버렸다고 생각한다고 말했습니다. 또 다른 한 마디는 더욱 의미심장합니다: "우리도 이렇게 하고 싶지 않지만, 손이 묶여 있다."

Anthropic 측의 입장은 이렇습니다: 우리는 테스트에 협조했고 문제가 없다고 생각했다. 좁은 범위의 리스크 때문에 전면적인 서비스 중단을 결정한 것은 너무 과하다.

양측은 각자의 주장을 펼치고 있습니다. 하지만 한 가지는 점점 더 명확해지고 있습니다. 모델이 탈옥 (Jailbreak)될 수 있느냐는 더 이상 핵심이 아닙니다. 핵심은 소통 채널이 완전히 붕괴되었다는 점입니다.

오늘 CNBC는 최신 진행 상황을 업데이트했습니다. Anthropic의 경영진이 현재 워싱턴에 머물며 상무부, CIA, 백악관 과학 고문 등을 차례로 만나 접속 재개 방안을 논의하고 있습니다.

하지만 솔직히 말해서, 신뢰라는 것은 비행기를 타고 날아간다고 해서 바로 회복될 수 있는 것이 아닙니다.

이 사건에서 제가 가장 되새겨볼 만하다고 느낀 점은 누구의 잘못인가가 아니라, 앞으로 모든 AI 기업이 직면하게 될 문제를 드러냈다는 점입니다.

정부가 신경 쓰는 것은 결코 기술적 파라미터 (Parameter)만이 아닙니다.
그들은 "당신이 나와 제대로 대화하고 있는가", "당신은 내 편인가", "내가 퇴로를 열어줄 때 당신이 받아들이는가"를 신경 씁니다.

반면 대부분의 AI 기업은 여전히 기술적인 문제에 대한 답변만을 준비하고 있습니다.

Anthropic은 이번에 기술력이 부족해서 진 것이 아닙니다. 상대방이 이미 기술적인 채널이 아닌 곳에서 대화를 나누고 있을 때, 채널이 이미 바뀌었다는 사실을 알아차리지 못했기 때문에 진 것일 가능성이 매우 높습니다.