"그들이 우리를 망쳤다": 성격 차이로 인해 Anthropic의 모델들이 오프라인 상태가 되다

Anthropic이 효과적인 소통 능력 부족으로 인해 다시 한번 트럼프 행정부의 표적이 되었다고 소식통들이 Axios에 전했습니다.

중요한 이유: 세계에서 가장 중대한 기술을 관리하는 문제가 트럼프 대통령의 언어로 말할 수 있느냐의 문제로 귀결되고 있습니다.

---

• Anthropic이 최근의 사이버 행정 명령 (cyber executive order)을 "준수"하지 못했다고 행정부 관리들은 주장하며, 이 문제를 심각하게 받아들이지 않은 회사의 태도로 인해 가장 강력한 제품들이 인터넷에서 삭제되었다고 밝혔습니다.
• 한 행정부 관리는 "모두가 Anthropic을 악의적인 행위자 (bad actor)라고 말했습니다. 우리 중 일부는 그들에게 기회를 줄 때라고 말했죠. 이제 그 사람들은 그 결정을 의심하고 있습니다. 그들이 우리를 망쳤습니다"라고 말했습니다.

빠른 요약: 목요일, Amazon의 CEO Andy Jassy는 재무장관 Scott Bessent에게 Anthropic의 가장 강력한 모델인 Mythos와 Fable이 탈옥 (jailbreak)될 수 있다는 우려를 표명했습니다.

• 행정부 관리는 Anthropic이 탈옥이 발생할 수 있음을 알고 있었음에도 불구하고 배포를 선택했다고 말했습니다: "그들은 갈림길이 나올 때마다 잘못된 길을 선택했습니다."
• Anthropic은 Fable을 배포하는 데 대해 정부로부터 명시적인 승인을 받았다고 말합니다.
• 금요일 밤, 정부는 엄격한 수출 통제 (export controls)를 부과했으며, 이는 결과적으로 Anthropic이 모델들을 완전히 오프라인 상태로 전환하게 만들었습니다.

비하인드 스토리: 행정부의 생각을 잘 아는 한 소식통은 "Anthropic은 행정부와 대화하고 이념적 차이를 이해하려는 노력을 제대로 하지 못했습니다"라고 말했습니다.

• 해당 소식통은 "마치 그들이 서로 다른 언어로 말하는 것과 같습니다"라고 덧붙이며, 회사가 이 행정부와 소통하는 방법을 아직 찾아내지 못했다고 전했습니다.

행정부는 우선 백악관에 따르면, Anthropic의 최첨단 Mythos 모델이 중국 공산당과 직접적인 연관이 있는 외국 기관에 제공되었다는 사실을 알게 된 후 약 2주 전 Anthropic에 수출 통제 (export controls)를 위협했습니다.

• Anthropic에 정통한 한 소식통은 회사가 Mythos 접근 권한을 확대하는 과정에서 정부와 항상 긴밀히 협력해 왔다고 밝혔습니다. 이번 사례의 경우, 글로벌 통신 기업이 연루되었으나 Anthropic은 수출 통제 위협 없이 Mythos 접근 권한을 취소했습니다.
• Amazon의 보고서는 새로운 우려를 불러일으켰지만, 행정부의 생각을 잘 아는 소식통은 Anthropic의 "초기 입장은 '아니오, 우리는 아무것도 하지 않을 것입니다. 이것은 실제 문제가 아닙니다'였습니다"라고 전했습니다.
• Anthropic에 정통한 소식통은 회사가 문제 해결을 거부한 것은 아니라고 말했습니다.

이러한 결렬이 일어나기 전에도, Anthropic과 펜타곤 (Pentagon) 사이의 이전 갈등 역시 어떤 면에서는 협상 테이블 맞은편에 앉은 사람이 마음에 들지 않는다는 점으로 귀결되었습니다.

• 한 백악관 관계자는 Axios에 펜타곤과의 갈등은 완전히 별개의 문제라고 말했습니다. 하지만 Anthropic이 효과적으로 소통하지 못한 무능함은 이와 유사하게 도움이 되지 않는 방식으로 나타났습니다.
• 백악관 관계자는 "우리는 이런 일이 일어나기를 결코 원하지 않았습니다. 우리의 최우선 과제는 혁신이지만, 우리의 손이 묶여 있었습니다"라고 말했습니다.
• 대외적인 모습(optics)이 불에 기름을 부었습니다. Anthropic은 Amazon의 보고서를 일축하는 블로그 게시물을 올렸습니다. 그 후 회사는 행정부가 "급진적 민주당원"으로 간주하는 사이버 보안 전문가를 영입했으며, 이 전문가는 트럼프가 막 해임한 Chris Krebs에 의해 찬사를 받았습니다.

전체적인 그림: Anthropic은 프런티어 AI (frontier AI) 연구소 중 안전 문제에 대해 가장 목소리를 높여온 곳으로, 강력한 규제를 촉구하며 자신들의 모델이 가진 사이버 능력으로 트럼프 행정부와 대중을 놀라게 해 왔습니다.

• 백악관은 펜타곤(Pentagon)과의 갈등 이후, 곤경에 처한 해당 기업과의 관계를 해빙시키는 데 앞장섰습니다.
• 소식통에 따르면 기술은 빠르게 발전하고 있으며 정부는 이를 따라잡기 위해 고군분투하고 있습니다. 그러한 상황이 성격 차이와 결합되어, 정교한 메스(scalpel) 대신 투박한 도구(blunt instrument)가 성급하게 배치되는 결과로 이어졌습니다.

향후 전망: 한 행정부 관계자는 "당장의 위기는 피했지만, 장기적으로는 문제가 있습니다"라고 말했습니다.

• 관계자들이 Axios에 전한 바에 따르면, 상무부(Commerce Department)는 월요일에 Anthropic의 선임 기술진인 Logan Graham, Dave Orr, Nicholas Carlini와 만날 예정입니다.
• 또한 해당 사이버 행정 명령 준수 방안을 논의하기 위해 CIA 및 백악관 과학 고문인 Michael Kratsios와의 회의도 예정되어 있습니다.

핵심 요점: 한 가지 방안은 Anthropic의 모델들이 탈옥(jailbreak)되지 않도록 보장하는 것이지만, 완벽한 탈옥 저항성은 불가능할 수도 있습니다.

• 그것이 불가능할 경우, 행정부의 생각을 잘 아는 한 소식통은 결국 태도를 바로잡는 문제로 귀결될 수 있다고 말했습니다. 즉, 무시당한다는 느낌 대신 "모두가 안전하고, 안심하며, 행복하다고 느끼는" 상태가 되는 것입니다.