A photo illustration featuring Anthropic CEO Dario Amodei.
오늘 _Decoder_에서는 칩 및 AI 연구 회사인 SemiAnalysis의 애널리스트 Joey Brookhart와 함께 Anthropic의 IPO 서류, 즉 S-1이라는 문서에 담긴 숫자의 이야기를 파헤쳐 보겠습니다.
Anthropic이 Nasdaq 상장을 위한 S-1을 제출했으며, 다음 달부터 1조 5천억 달러에서 2조 달러 사이의 가치로 거래를 시작할 수 있습니다. 이는 Anthropic을 지구상 가장 가치 있는 기업 중 하나로 즉시 만들 것입니다.
하지만 가격표가 전부는 아닙니다. 이번 주 초에 발표된 S-1 문서는 프론티어 AI 연구소의 경제성을 보여주는 수백 페이지에 달하는 세부 정보들로 가득합니다. 상상하실 수 있겠지만, 그 그림은 매우 복잡하며 미래와 AI가 그것에 무엇을 할지에 대한 일련의 매우 야심찬 가정들 위에 구축되어 있습니다.
좋습니다: SemiAnalysis의 Joey Brookhart가 Anthropic S-1과 프론티어 AI를 구축하는 비용 및 위험 요소에 대해 이야기합니다. 시작해 봅시다.
본 인터뷰는 길이와 명확성을 위해 가볍게 편집되었습니다.
Joey Brookhart, 당신은 SemiAnalysis의 애널리스트입니다. 또한 SemiAnalysis의 토큰 이코노믹스(Tokenomics) 모델 공동 리드이며, 이는 이번 에피소드에서 많이 다뤄질 것입니다. _Decoder_에 오신 것을 환영합니다.
네, Nilay님, 정말 감사합니다.
당신과 이야기하게 되어 매우 기쁩니다. 방금 Anthropic의 대규모 S-1이 제출된 지 며칠밖에 지나지 않았습니다. 선도적인 프론티어 모델 중 하나의 재무 상태를 들여다보는 첫 시선입니다. 어떻게 보십니까? 어떤 분석을 내리시겠습니까?
S-1은 훌륭했습니다. 투자자 데이 이후로 거친 3주였습니다. 일부 사람들은 9월의 연간 반복 매출(annualized recurring revenue, ARR) 수치에 다소 실망했지만, 우리가 본 것은 매우 짧은 시간 동안 $1조 달러 이상의 가치 평가와 $700억 달러 이상의 ARR을 기록하며 놀라운 수준으로 효율적으로 확장한 회사였습니다.
총 마진(gross margins), 컴퓨트 마진(compute margins), 그리고 잉여 현금 흐름(free cash flow) 모두 기대할 수 있는 수준이었습니다. 그래서 이 서류에서 지적할 만한 것이 거의 없다고 생각합니다. 이것이 지난 이틀 동안 반도체 복합체, 네오클라우드 및 컴퓨팅 주식이 다시 급등한 이유입니다.
재미있게도, 저는 S-1 자체를 흠잡을 만한 것이 없다고 생각합니다. 그 안에는 생각해 볼 가치가 있는 숫자들이 많기 때문에 세부 사항들을 살펴보고 싶습니다. 사실 저는 정말 큰 그림부터 시작하고 싶습니다. 토크노믹스(Tokenomics)라는 것을 운영하고 있습니다. 제가 사람들에게 토크노믹스가 무엇인지 설명해 드리겠습니다.
저는 Anthropic과 그것이 어디로 갈 수 있는지 살펴봅니다. Dario Amodei가 $1조 달러의 매출을 달성할 방법을 보고 있다고 말하는 것을 봅니다. 그 돈은 어디에서 오는 걸까요? 왜냐하면 이 비즈니스들 중 상당수는 다른 모든 비즈니스를 흡수하는 것에 관한 것이고, 마치 Anthropic이 이러한 수익을 창출하도록 비용을 지불하기 위해 누군가가 돈을 벌어야 하는 것처럼 느껴집니다. 저는 실제로 그것이 매우 명확하게 제시된 것을 본 적이 없습니다.
정말 흥미롭습니다. 오늘날 우리가 있는 규모가 두 선도적인 연구소 사이에서 ARR $1,200억 달러임에도 불구하고, 여전히 극도로 좁은 시장입니다. 상위 1%의 고객만이 직원당 $50,000에서 $100,000을 지출하고 있습니다. 일반적으로 많은 IT 비용을 지출하는 광범위한 포춘 500(Fortune 500)이나 글로벌 2000(Global 2000) 기업들은 많이 지출하고 있지 않습니다.
Anthropic 같은 곳의 지출 상당 부분은 코딩에 특화되어 있습니다. 거의 단일 수직 분야(single vertical) 회사라고 할 수 있죠. 우리는 2027년 이후를 내다보며, 이보다 더 광범위한 채택과 화이트칼라 업무로 생각합니다. 전형적인 기업의 4분기 예산 책정 시즌에도 불구하고, 저희는 아직 어떤 의미 있는 방식으로도 이러한 연구소들(labs)을 거치지 못했습니다. 왜냐하면 그들의 ARR(Annual Recurring Revenue)이 연초가 되어서야 비로소 가속화되기 시작했기 때문입니다. 사이버 같은 다른 사례를 생각해 볼 수 있는데, 이는 코딩과 유사하며, 우리가 목격하고 있는 모든 사이버 보안 사고들 덕분에 선도적인 기업들과의 8자리 숫자 이상의 계약을 체결할 수 있고 매우 빠르게 확장될 수 있습니다. 생명공학(bio)과 같은 다른 수직 분야로도 나아갈 수 있죠.
1조 달러에 도달하려면, 우리는 AI 증강(AI augmentation)에서 특정 영역에서의 노동 절감 또는 대체로 이어지는 화이트칼라 업무 쪽으로 이동해야만 합니다. 마이크로소프트가 직원들에게 제공하는 바이아웃 제안 같은 사례를 볼 수 있지만, 그들이 진정으로 판도를 바꾸기 위해 뛰어들 수 있는 다른 수직 분야는 많지 않습니다.
이것이 제가 가진 가장 큰 질문이며, S-1 서류에 관한 것뿐만 아니라 전체 산업에 관한 것입니다. 만약 선도적인 연구소가 한두 곳이고, 모든 것을 자동화할 수 있는 기술을 가진 두 개의 거대 기업이 있다고 이해한다면 괜찮습니다. 우리는 그 자동화가 부문별로 얼마나 잘 진행되는지 지켜볼 것이지만, 선도적인 연구소는 단 두 개만 있는 것이 아닙니다. 꽤 여러 곳이 있습니다. 오픈 웨이트 모델(open weight models)들도 존재합니다.
저는 OpenAI나 Anthropic에 모든 데이터를 맡기는 것을 매우 꺼리는 많은 CEO들로부터 들었는데, 그들은 일부 작업을 온프레미스(on-prem)에서 실행하기를 원한다고 합니다. 현재 법무법인들이 온프레미스 AI를 운영하고 있는데, 이것은 아마도 역사상 가장 재미있는 변화일 것입니다.
이것이 어떻게 전개될 것이라고 보십니까? 이 S-1에 대한 압박의 상당 부분은 수치 자체였고, 제가 논하고 싶은 내용이지만, 게다가 '성장해야 한다'는 외부적인 압박도 있습니다. 그리고 성장은 짧지 않죠. 그래서 이 모든 것이 어떻게 전개될 것 같습니까?
오늘날 코딩을 살펴보면 매우 흥미롭습니다. 예를 들어—그리고 OpenAI가 Q3에서 따라잡는 것을 보았다고 생각합니다—매우 낮은 전환 비용(low switching costs)이 존재하는 코딩 영역들이 있습니다. 저는 그 사이를 자유롭게 이동할 수 있습니다. 기업들로부터, 그리고 아마도 OpenAI 측에서도 듣게 된 것은... 분명히 그들은 Fable 출시를 다소 망쳤고, 제로 데이터 보존(zero data retention) 기능의 부재가 우리가 일부 둔화세를 본 이유입니다. 이것은 Fable 5.5로 해결하고 더 많은 기업 채택을 유도할 수 있는 부분입니다.
이것은 우리가 기업들과 이야기할 때 매우 큰 문제입니다. 우리는 이제, 그리고 더욱더 많은 AI 네이티브(AI natives)들이 오픈 웨이트 모델(open weight models)에 대해 커스텀 트레이닝(custom training)과 포스트 트레이닝(post-training)을 수행하고, 그 결과를 내부 또는 외부 사용 사례를 위한 추론(inference)이나 제품으로 실행하는 것을 확실히 보고 있습니다.
분명히 구글의 DeepMind와 [Meta Superintelligence Labs]는 매우 자금이 풍부한 연구소이며 상당히 유사한 트레이닝 컴퓨팅 용량(training compute capacity)을 가지고 있고, 엄청난 양을 투입하고 있습니다. 일론이 언급한 바에 따르면 내년에 10개의 순 신규 기가와트(net new gigawatts)가 있을 것이고 그 절반이 장기 내부 사용 사례라는 SpaceX는 말할 것도 없습니다.
올해 상반기에는 Anthropic이 시장을 주도했습니다. 그들은 업계 순 신규 ARR(Annual Recurring Revenue)의 90%를 차지했습니다. 우리는 Q3에서 OpenAI가 실제로 업계 순 신규 ARR의 대다수를 차지했을 가능성이 높다는 것을 보았습니다. 오픈 소스는 Q1에 약 10억 달러의 토큰 추론 비용(token inference costs), ARR을 기록했던 것에서 Q3에는 100억 달러 이상으로 성장했습니다.
네, 산업은 훨씬 더 경쟁적으로 변했지만, 새로운 사용 사례도 많고, 이러한 수직화된(verticalized) 사용 사례가 앞으로 성장을 볼 곳입니다. 코딩만으로는 여기서 세 배를 달성할 수 없다는 것이 명백하기 때문입니다.
흥미로운 점은 이 개념이 토크노믹스 (Tokenomics)라고 불린다는 것입니다. SemiAnalysis의 다른 공동 리드와 함께 그 실습을 진행했습니다. 왜냐하면 저에게는 이것이 “돈을 투입하고 어쩌면 돈을 회수할 수도 있다”고 생각하는 매우 영리한 방식이기 때문입니다.
저는 이것을 AI의 단위 경제학 (unit economics [of AI]) 또는 더 광범위한 아이디어, 즉 AI 비즈니스를 운영하거나 심지어 AI 수요를 살펴보는 것과 관련된 거시경제학(macroeconomics)부터 미시경제학(microeconomics)까지 모든 것으로 생각합니다. 그래서 저희는 하이퍼스케일러(hyperscalers)와 이제 별도의 제품으로 일부 네오클라우드(neoclouds)도 다룹니다.
그리고 AI 연구소 자체에 대해서도 그렇습니다. 투자자나 비즈니스에 관심 있는 사람들에게, Anthropic은 2년 전 추론 (inference)에서 마진율이 -94%를 기록했습니다. 지금은 +85%의 마진을 가지고 있으며, 사람들은 컴퓨팅 자원을 어떻게 할당하는지 이해하지 못합니다. 우리는 추론 비즈니스 모델에 대해 어떻게 생각해야 할까요?
매출 총이익 (gross margin) 논의의 일부는 추론에서의 메가와트(megawatt)당 수익입니다. 왜 모든 추론을 실행하는 회사들이 추론 및 컴퓨팅 효율성에서 엄청난 증가를 보고하고 있을까요? 그래서 저희는 이러한 비즈니스를 모델링하려고 노력하며, 당연히 Anthropic이 사적 기업이었을 때는 언론 등에서 얻을 수 있는 정보들을 다루고 있었습니다.
하지만 이제 구체적인 감사된 숫자(audited numbers)가 생겼기 때문에, 이것의 단위 경제학을 설명하기 쉽습니다. 그리고 비즈니스가 어떻게 다른지도요. OpenAI는 Anthropic과 매우 다른 비즈니스입니다. 소비량 대 구독 방식, 그리고 역사적 가중치 대 소비자/기업(enterprise) 측면에서 말이죠. 저희는 수요 수준 전반에 걸쳐 이들 비즈니스의 경제성을 이해하려고 노력하고 있습니다.
몇 년 전 제가 Sundar Pichai Google CEO와 추론(inference) 비용에 대해 이야기했을 때, '어떻게 돈을 벌 계획이신가요?'라고 물었습니다. 그는 매우 명확하게 말했습니다. '구글이 잘하는 것이 있다면, 바로 이 비용 곡선을 낮추는 것입니다.'
매우 직설적인 답변이었습니다. 저는 구글이 어떻게 할 수 있는지 이해합니다. 그들은 자체 칩을 만듭니다. Anthropic은 다른 모든 사람들의 클라우드 위에서 운영되고 있습니다. S-1의 핵심 부분은 그들이 다른 회사들(SpaceXAI, Google, Amazon)의 클라우드에 얼마나 지출할 것을 약속했는지입니다. 효율성은 어디서 오는 걸까요?
진짜는 토큰 처리량(token throughput)입니다. 그들은 매우 다양한 칩군을 보유하고 있습니다. Trainiums, TPU, GPU 전반에 걸쳐 엄청난 수준의 토큰 효율성을 볼 수 있습니다. 예를 들어, Trainium 칩에서의 토큰 처리량은 현재 연간 대비 5배에서 10배 증가했습니다.
하드웨어 수준의 효율성과 소프트웨어—그리고 모델이 하드웨어와 상호 작용하는 방식까지 고려하면, 토큰 처리량 증가가 많습니다. 즉, 초당 X개의 토큰을 처리하고 있다면, 불과 1년 뒤에는 그 다섯 배 또는 열 배를 처리할 수 있다는 것입니다. 그들이 말하길, 앞으로도 지속적인 컴퓨팅 효율성(compute efficiencies)을 보고 있다고 합니다.
SemiAnalysis에서 저와 함께 토크노믹스(Tokenomics) 모델을 공동 주도하는 Max Kan이 있으며, 저는 이 주제에 대한 연구를 발표하기도 했습니다. 현재 Anthropic의 추론 메가와트당 수익이 6,500만 달러라면, 작년 같은 시점에는 10대 중반 수준이었습니다. 저희가 언급했듯이 [[Nvidia]] Blackwell 기반 Opus 5.5의 경우, 메가와트당 1억 달러에서 1억 2천만 달러까지 수익을 얻을 수 있습니다.
여기서 가장 중요한 점은, 그들이 현재 평균적으로 메가와트당 1,000만 달러를 약간 넘는 비용(cost of goods sold) 또는 순수 컴퓨팅 비용으로 지출하고 있다는 것입니다. 이 마진을 가지고 트레이닝에 재투자할 수 있습니다.
사람들은 이것을 깨닫지 못하지만, 컴퓨팅 자원 중 실제로 추론 서비스(inference-serving) 수익에 사용되는 것은 약 30%에 불과합니다. 나머지는 실험 및 연구, 모델 학습(training models), 그리고 사후 학습 모델(post-training models)에 사용됩니다. 따라서 다음 모델을 구축하는 데 쓰이는 컴퓨팅 자원이 많으며, 이는 R&D 측면이 더 크고 실제로 이 비즈니스에서 수익과 방어력을 얻는 곳입니다.
사실, 제가 S-1에서 기대했던 것은 그 역동성이 훨씬 더 강하게 나타나는 것이었습니다. 즉, Anthropic이 현재 보유한 모델을 판매하여 많은 돈을 벌고 있으며, 미래에도 현재의 모델에 대한 고객이 더 많다는 것입니다. 이는 엄청난 마진율 변동을 가져올 것입니다. 그리고 Anthropic이라서, 자신들이 디지털 신(god)을 만들고 있다고 생각하기 때문에, 가능한 한 많은 다음 모델들을 학습시킬 것이라는 점입니다.
**그것은 매우 특이한 Anthropic의 이야기입니다. 이 회사는 AGI를 추구하고 있습니다. 그곳에서 일하는 사람들은 S-1에서 Claude가 의식(conscious)을 가질 수도 있고 모든 것이 엉망이 될 수 있다고 기꺼이 말할 것입니다. Anthropic은 스스로를 인식하는 데 있어 매우 독특한 회사입니다. 하지만 그러한 역동성은 S-1에서는 실제로 보이지 않습니다. 그들은 학습 비용을 추론 마진과 상당히 잘 관리하고 있습니다. 이것이 올라가거나 어떤 식으로든 변한다고 보십니까?
