기성 언론(Legacy Media) 매체들은 이번 Alex Karp의 인터뷰를 '폭주(crash-out)'라고 부르고 있는데, 이는 그가 실제로 매우 통찰력 있는 이야기를 하고 있다는 첫 번째 단서입니다. 그는 기업 환경에서 진정한 'AI 안전(AI safety)'이 어떤 모습인지 명확히 설명하고 있습니다.

추상적인 정렬 연구(alignment research)나 정부가 운영하는 AI 면허 시험장(DMV) 같은 인증이 아닙니다. 기업을 위한 진정한 AI 안전이란 자신들의 데이터, 모델 가중치(model weights), 그리고 컴퓨팅 자원(compute)을 스스로 통제할 수 있는 능력입니다. 그래야 프런티어 연구소(frontier lab)가 기업의 독점적 지식을 긁어모아 그들의 다음 제품으로 만들어버리는 일을 방지할 수 있습니다.

Karp가 설명하듯, 기술 고객들은 "자신의 컴퓨팅 자원, 모델, 데이터 스택, 그리고 알파(alpha)에 대한 통제권"을 원합니다. 그들은 자신들이 생산 수단을 소유하고 있으며, 그것이 다른 누군가에게 이전되지 않는다는 것을 알고 싶어 합니다.

그런 일이 일어날 수 없다고 생각하시나요? Figma를 보십시오. The Information에 따르면, Anthropic은 Claude Design을 출시하며 당시 비즈니스 파트너였던 Figma의 허를 찔렀습니다. Figma의 창업자는 Anthropic이 자신들에게 "일관되게 정직하지 않았다"고 말했습니다. Anthropic의 최고 제품 책임자(CPO)는 Claude Design이 출시되기 불과 사흘 전까지 Figma의 이사회 멤버로 재직하기도 했습니다. 올해 Figma의 주가는 급락한 반면, Anthropic의 기업 가치는 급등했습니다.

이것은 단일 사례가 아닙니다. Anthropic은 Claude Science, Claude Security, Claude Legal, 그리고 물론 Claude Code를 출시하며, 각각 기존에 그들의 모델 위에서 서비스를 구축하던 기업들이 점유하던 카테고리로 확장하고 있습니다. 패턴은 일관적입니다. 가치가 어디에서 창출되는지 지켜본 다음, 그곳으로 직접 진입하는 것입니다. 모델 계층(model layer)을 지배한 다음, 그 위치를 이용해 가장 수익성이 높은 수직 시장(verticals)을 장악하는 방식입니다.

Dario는 Anthropic과 경쟁할 수 있을 만큼 강력한 오픈 소스 모델은 "위험하다"고 주장해 왔습니다. 하지만 누구에게 위험하다는 말입니까? 자신의 데이터와 워크플로우에 대한 통제권을 유지하려는 기업들에게는 위험하지 않습니다. 모델 계층에서 고객이 실질적인 대안을 거의 갖지 못함으로써 이득을 얻는 비즈니스 모델에게 위험할 뿐입니다.

Karp가 폭로하듯, 진정한 기업용 안전 (enterprise safety)이란 연구소의 향후 로드맵에 귀사의 비즈니스가 포함되지 않을 것이라고 믿는 것이 아닙니다. 그것은 모델 계층 (model layer)에서 귀사의 알파 (alpha)를 누가 보고 사용할 수 있는지를 선택할 수 있는 능력을 유지하는 것입니다.