Anthropic은 이번 겨울과 봄 동안 스스로를 업계의 도덕적 양심으로 자처하며 프런티어 (Frontier) 영역을 정복하는 동시에 미국 AI 붐의 총아로서 시간을 보냈습니다.

• 여름이 되자, Claude 제조사는 자신만의 원칙이라는 섬 위에 홀로 남겨진 자신을 발견했습니다.

중요한 이유: Anthropic은 세계에서 가장 가치 있는 스타트업인 동시에 가장 고립된 AI 리더입니다. 이 회사의 특이성은 잠재적인 1조 달러 규모의 IPO를 향해 질주하는 가운데 개발자, 정책 입안자 및 파트너들과의 관계를 긴장시키고 있습니다.

---

뉴스 핵심: Anthropic은 현재 중국이 주도하고 있는 범주인 오픈 웨이트 (Open-weight) 모델을 워싱턴이 제한하지 말 것을 촉구하는 Nvidia CEO Jensen Huang이 주도한 공개 서한에 서명하기를 거부한 유일한 프런티어 AI 연구소입니다.

• 오픈 웨이트 (Open-weight) 모델은 사용자가 기업이 제어하는 인터페이스에 비용을 지불하지 않고도 실행, 수정 및 구축할 수 있는 다운로드 가능한 시스템입니다. 이는 더 저렴하고 유연하게 만들지만, 일단 출시되면 통제하기가 더 어렵다는 특징이 있습니다.
• Anthropic의 두 가장 큰 폐쇄형 모델 (Closed-model) 경쟁사인 Google과 OpenAI는 지난 주말 수십 명의 다른 서명자들과 합류했으며, 이 세 회사 모두가 여전히 의존하고 있는 비즈니스 모델을 옹호하는 데 있어 Anthropic을 홀로 남겨두었습니다.

그들의 말: Anthropic CEO Dario Amodei는 월요일에 블로그 게시물을 발표하며 Anthropic이 오픈 모델을 금지하자고 요구한 적이 없음을 주장하며 갈등을 직접 완화하려 노력했습니다. 하지만 여전히 해당 서한에는 서명하지 않았습니다.

• Amodei는 성능이 낮은 오픈 모델(open models)을 "공공재"라고 불렀으며, 미국 기업이 중국의 오픈 모델을 사용하는 것을 금지하는 것은 적대적인 정부나 악의적인 행위자(bad actors)를 막는 데 거의 도움이 되지 않을 것이라고 말했습니다.
• 하지만 그는 권위주의 정부로 흘러 들어가는 첨단 칩을 포함하여, 강력한 모델을 위험하게 만들 수 있는 구성 요소와 행동에 대해 더 엄격한 통제가 필요하다는 점을 거듭 강조했습니다.

행간 읽기 (Between the lines): 오픈 웨이트(open-weight) 논란은 실리콘밸리를 뒤흔들고 있는 새로운 감정적 갈등을 보여줍니다. 이곳에서는 정책만큼이나 스타일과 태도 또한 중요하게 작용합니다.

• Anthropic은 주요 경쟁사인 OpenAI보다 공개적인 대립을 더 마다하지 않는 경향이 있으며, 이는 두 회사가 지적 또는 상업적으로 항상 그렇게 멀리 떨어져 있는 것은 아님에도 불구하고 나타나는 특징입니다.

확대해 보기 (Zoom out): AI 경쟁이 가속화됨에 따라, 이 회사는 거의 모든 주요 정책 갈등에서 고립되어 가고 있습니다:

• 🪖 군사적 이용 (Military use): 펜타곤(Pentagon)은 Claude가 대규모 감시나 자율 무기에 사용될 수 있는지에 대한 격렬한 논쟁 끝에 지난 2월 Anthropic을 블랙리스트에 올렸습니다. 펜타곤의 고위 관리인 Emil Michael은 지난 금요일 Anthropic을 향해 맹비난을 퍼부으며 "전투원(warfighter)에게 이보다 더 적대적인 AI 기업은 없다"라고 주장했습니다.

• ⚠️ 가드레일 (Guardrails): 그 어떤 연구소도 Anthropic만큼 규제를 강력하게 추진하지 않았습니다. Anthropic은 주(state) 단위의 AI 법안을 지지해 왔으며, 모델 출시 전 첨단 모델을 심사하기 위해 FAA(연방항공청) 스타일의 규제 기관을 제안하기도 했습니다. 하지만 이번 여름 백악관이 보안 취약점을 지적했을 때, Anthropic은 그 심각성에 대해 이의를 제기했습니다. 이는 수출 통제를 촉발하여 자사의 Fable 및 Mythos 모델이 약 3주 동안 오프라인 상태가 되는 결과를 초래했습니다.

• 🧑‍🔬 증류 (Distillation): Anthropic은 중국 연구소들이 "산업적 규모의 증류 캠페인 (industrial-scale distillation campaigns)"을 통해 Claude의 출력물을 활용하여 저비용 모델을 학습시키고 있다고 비난했습니다. 비판론자들은 증류 (distillation)가 AI 개발의 표준적인 부분이며, Anthropic은 해적판 도서와 관련된 $15억 달러 규모의 저작권 소송을 해결한 이후에 이러한 주장을 하는 것이 어색한 전달자라고 반박합니다.

다른 측면: Anthropic은 화요일, OpenAI, Google DeepMind, Meta 및 기타 경쟁사 출신의 1,100명 이상의 AI 종사자들이 참여한 별도의 청원에 동참하여, 미국 정부가 프런티어 AI (frontier AI) 개발을 "의도적으로 속도 조절 (deliberately pace)"할 수 있는 도구 개발을 지원할 것을 촉구했습니다.

• 이 서한은 Anthropic이 고립되어 있음에도 불구하고, 프런티어 AI가 산업계나 정부가 안전하게 통제할 수 있는 속도보다 빠르게 움직이고 있다는 Anthropic의 최우선 관심사가 이를 구축하기 위해 경쟁하는 연구소들 사이에서 점점 더 공유되고 있음을 보여줍니다.

현실 점검 (Reality check): 온갖 소음에도 불구하고, Anthropic은 매우 강력한 위치를 유지하고 있으며, 아마도 전 세계 어떤 AI 연구소보다도 강력한 위치에 있다고 할 수 있습니다.

• Anthropic의 모델들은 여전히 대부분의 독립적인 벤치마크 (benchmarks)에서 최상위권을 차지하고 있으며, 비용과 제한 사항에 대한 반발에도 불구하고 기업 고객들은 계속해서 프리미엄 가격을 지불하고 있습니다.
• 이 회사는 지난 5월 OpenAI를 앞질러 $9,650억 달러의 기업 가치를 기록했으며, 기업 가치를 훨씬 더 높게 평가받을 수 있는 IPO (기업공개)를 준비하고 있습니다.

기록을 위해: 논평 요청에 대해 Anthropic은 주요 이슈들에 대한 자사의 입장을 옹호하는 Amodei의 블로그 포스트를 언급했습니다.

결론 (The bottom line): Anthropic을 고립시키는 것과 동일한 특성들 — 신중함, 굴복하지 않는 태도, 호감을 얻기보다 옳음을 고수하는 태도 — 이 바로 Anthropic이 애초에 선두를 확립할 수 있게 도와준 특성들입니다.