규제 요청을 했던 Anthropic, 오히려 어려움에 처하다

Anthropic이 오랫동안 주장해 온 규제가 오히려 독이 되고 있다.

현재 가치가 거의 1조 달러에 달하는 이 인공지능(AI) 회사는 안전성을 강조하며 수년간 자신들의 노력을 과시해 왔다. 그러나 올해 두 번째로 Anthropic은 트럼프 행정부의 표적이 되었는데, 이번에는 최신 모델의 안전성 문제 때문이었다.

지난 금요일, SpaceX가 기록적인 기업공개(IPO) 첫날 거래를 마친 지 몇 시간 만에, Anthropic은 수출 통제 지침을 받았다고 밝혔다. 이 지침은 회사에게 최신 Claude 모델인 Fable 5와 Mythos 5의 접근을 중단하도록 명령했으며, 이는

하지만 금요일의 조치는 Anthropic이 염두에 두었던 형태의 감독이 아니었다. 회사는 이에 대한 대응으로 Trump 행정부의 결정이 리콜(recall)의 원인이 된다는 점에 동의하지 않는다고 밝혔으며, 이번 중단 사태를 "오해 (misunderstanding)"라고 규정했다.

Anthropic은 블로그 게시물을 통해 "우리가 공개적으로 밝힌 바와 같이, 우리는 정부가 투명하고, 공정하며, 명확하고, 기술적 사실에 근거한 법적 절차의 일부로서 안전하지 않은 배포 (deployments)를 차단할 수 있는 능력을 갖추어야 한다고 믿는다"라고 말했다. "이번 조치는 그러한 원칙을 준수하지 않는다."

Anthropic의 고위 직원들은 월요일에 Trump 행정부 관계자들을 만나기 위해 워싱턴 D.C.로 날아갔다. 회사는 CNBC에 "양측 모두 이 문제를 해결하기 위해 신속하게 협력하고 있다"라고 전했다.

Anthropic은 자사의 모델들이 언제 다시 온라인 상태로 복구될 것으로 예상하는지에 대해서는 언급하지 않았다.

**'**이것은 확실히 강제적인 것으로 보인다'

Anthropic에 대한 지침이 내려지기 10일 전 발표된 Trump의 행정 명령 (executive order)은 구체적인 세부 사항이 부족했다.

해당 명령은 기업들에게 자발적인 기준으로, 전체 출시 (full release)에 앞서 연방 정부에 모델을 제공하여 그 역량을 평가받을 것을 요청했다. 또한 이 명령은 행정부 관리들에게 AI 기업들이 고려할 수 있는 관련 검토 프레임워크 (review frameworks)를 개발하고 유지할 수 있도록 60일의 시간을 부여했다.

Anthropic의 최신 모델들에 대한 강제 중단 조치가 해당 행정 명령과 연관되어 있다는 징후는 없다. 오히려 The Wall Street Journal에 따르면, 이번 조치는 Amazon의 CEO인 Andy Jassy가 Scott Bessent 재무장관을 포함한 미국 정부 관리들과 나눈 대화에 의해 촉발되었다. 해당 사안에 정통한 관계자들을 인용하며, Journal은 Jassy가 행정부에 Amazon 연구원들이 일련의 프롬프트 (prompts)를 사용하여 Fable 5가 사이버 공격 (cyberattacks)에 도움이 될 수 있는 정보를 제공하도록 만들었다고 말했다고 보도했다.

새로운 미국 안보 센터 (Center for a New American Security)의 선임 연구원인 Daniel Remler는 대통령의 행정 명령은 자발적인 준수를 요구했던 반면, 금요일의 지침은 매우 다른 어조를 띠고 있었다고 말했다.

"정부가 말하는 대로 하지 않았을 때 결과(consequences)가 뒤따른다면, 이것은 확실히 강제적인 것으로 보입니다,"라고 Remler는 CNBC와의 인터뷰에서 말했다.

Fable 5와 Mythos 5는 소프트웨어 내의 보안 취약점(security vulnerabilities)을 식별하는 데 탁월한 강력한 제품인 Claude Mythos Preview의 4월 출시를 기반으로 구축되었습니다. Anthropic은 Project Glasswing이라고 불리는 사이버 보안 이니셔티브(cybersecurity initiative)의 일환으로 출시 대상을 엄선된 기업 그룹으로 제한했습니다.

기밀 사항을 논의하기 위해 익명을 요구한 논의 내용을 잘 아는 관계자에 따르면, Anthropic은 모델 출시 전에 정부 기관과 협력하여 모델을 테스트했으며 이를 배포할 수 있는 승인을 받았다고 합니다. 해당 관계자는 정부로부터 국가 안보 위협에 대한 어떠한 통보도 받지 않았다고 말했습니다.

"모델 액세스(model access)에 대해 전혀 통제권이 없던 환경에서, 기본적으로 이 도구를 사용하여 단 몇 시간 만에 한 기업의 모델을 무력화하는 수준으로 넘어간 것은 상당히 놀라운 일입니다,"라고 Remler는 말했습니다.

그는 변동성이 큰 정책 환경을 고려할 때, 이것은 회사가 아마도 예상했어야 할 종류의 "반응적 규제 (reactive regulation)"라고 덧붙였습니다.

"항상 매우 빠르게 변화하는 기술로 리스크를 관리하는 것은 어렵습니다,"라고 그는 말했습니다.

'공은 Anthropic의 코트로 넘어갔다'

이 모든 일은 Anthropic에게 중대한 전환점에서 일어나고 있습니다.

이 회사와 주요 경쟁사인 OpenAI는 모두 최근 비밀리에 기업공개 (IPO) 투자설명서를 제출했으며, 이는 AI에 뛰어들기를 갈망하는 투자자들을 위한 잠재적으로 역사적인 주식 판매를 준비하는 것입니다. IPO 이후 SpaceX의 3일간의 랠리는 많은 이들에게 새로운 대규모 기회에 대한 월스트리트(Wall Street)의 열광을 보여주는 증거로 간주됩니다.

Amodei의 편에는 목소리를 높이는 이들이 있습니다.

Corridor의 최고 제품 책임자(Chief Product Officer)이자 전 Facebook 보안 책임자인 Alex Stamos는 Howard Lutnick 상무장관과 Sean Cairncross 국가 사이버 디렉터에게 보내는 "투명한 AI 사이버 보호(transparent AI cyber protections)"에 관한 공개 서한을 작성했습니다. 150명 이상의 경영진과 기술 리더들이 서명한 이 서한은 수출 통제 지침(export control directive)을 해제할 것을 요청하고 있습니다.

Stamos는 CNBC와의 인터뷰에서 규칙이 "과학에 기반(based upon science)"해야 한다고 말했습니다.

"그 규칙들은 문서화되어야 하고 투명해야 합니다. 하지만 그런 일은 일어나지 않았습니다."라고 Stamos는 말했습니다. "Anthropic이나 그 누구도 무엇을 할 수 있고 무엇을 할 수 없는지 판단할 수 있는 근거가 전혀 없습니다."

그는 모든 미국 기업에 있어 "두려움은, 행정부의 눈 밖에 날 경우 언제든 완전히 자의적이고 변덕스러운 결정으로 인해 폐쇄될 수 있다는 점입니다"라고 덧붙였습니다.

Anthropic에게 있어 정부와의 충돌은 회사의 이야기에서 큰 부분이 되었습니다. 올해 초, Anthropic은 국방부(Department of Defense, DOD)와 세간의 주목을 받는 분쟁을 벌였습니다. 국방부는 지난 3월 Anthropic을 공급망 리스크(supply chain risk)로 선언했으며, 이 지정에 따라 국방 계약업체들은 군 관련 업무에 Claude 모델을 사용하지 않겠다는 것을 증명해야 합니다.

토요일 X(구 트위터)에 올린 게시물에서 Pete Hegseth 국방장관은 정부의 최신 지침을 언급하며, "하루하루가 지날수록" Anthropic을 블랙리스트에 올린 것이 "옳은 결정"이었음을 증명하고 있다고 썼습니다.

Anthropic은 공급망 리스크 지정을 뒤집기 위해 트럼프 행정부를 상대로 소송을 제기했습니다. 해당 소송은 현재 진행 중입니다.

Stamos는 행정부가 정부 정책에 반대하는 몇 안 되는 주목할 만한 기업 중 하나인 Anthropic에 분명히 문제를 제기하고 있다고 말했습니다.

그는 "만약 그들이 이 규칙들을 공정하게 집행한다면, OpenAI와 Google에 대해서도 똑같이 집행해야 할 것입니다"라고 말했습니다.

Anthropic의 한 목소리 높은 비판자는 트럼프의 AI 및 암호화폐 담당관(czar)을 역임했던 벤처 캐피털리스트 David Sacks입니다. 지난 10월 한 기업 임원이 AI의 위험성에 관한 에세이를 발표한 후, Sacks는 X(구 트위터)의 게시물을 통해 Anthropic이 "공포 조성을 기반으로 한 정교한 규제 포획 (regulatory capture) 전략을 실행하고 있다"라고 비난했습니다.

Sacks는 Anthropic이 수출 통제 지침을 받은 후 의견을 보탰으며, X에 해당 기업의 블로그 게시물에 포함된 "완화하는 표현 (minimizing language)"이 "AI 안전 기업 (the AI safety company)"이라는 그들의 브랜드 이미지와 일치하지 않는다고 작성했습니다.

Sacks는 "행정부(The Admin)는 Anthropic의 기술적 역량을 높게 평가하며, 이 문제가 심각하기는 하지만 쉽게 해결될 수 있어야 한다고 느낀다"라고 썼습니다. "공은 이제 Anthropic의 코트에 있습니다."

—CNBC의 Kate Rooney가 이 보고서에 기여했습니다.