Anthropic은 AI 추론 (inferencing) 워크로드를 처리하기 위한 자체 맞춤형 ASIC 프로세서를 공동 설계하기 위해 사내 칩 개발 팀을 구축한다고 발표했습니다. Business Insider에 기술된 바와 같이, Anthropic은 미정의된 파트너와 함께 칩을 설계할 엔지니어 채용을 시작했으며, 채용 공고에 따르면 잠재적 채용자가 일정에 맞춰 작업하고 칩 설계를 완수할 준비가 되어 있어야 한다고 명시된 것으로 보아 빠른 속도로 진행될 것으로 보입니다.

이는 자체 맞춤형 하드웨어를 개발하겠다고 발표한 최신 주요 AI 기업일 뿐입니다. 글로벌 경제 부족 현상이 칩 공급을 압박하고, 모델들이 워크로드를 더욱 효율적이고 잠재적으로 수익성 있게 만들기 위해 최적화 (optimizations)에 점점 더 의존함에 따라, 자체 데이터 센터를 위한 맞춤형 실리콘 (custom silicon)을 만드는 것은 매우 합리적인 선택입니다. 이제 Anthropic은 Google, Meta, Microsoft, Amazon, 그리고 OpenAI와 함께 해당 작업을 위한 자체 칩을 구축하는 기업 대열에 합류하게 되었습니다.

제대로 된 결과를 원한다면...

고급 AI 모델을 훈련 (train)하려면 Nvidia GPU가 필요하다는 것은 비밀이 아닙니다. 집권당의 압박을 받고 있고 Nvidia 하드웨어에 대한 접근이 제한적인 중국의 AI 개발자들조차 여전히 Nvidia GPU를 사용하고 있습니다 — 심지어 먼저 밀수해야 하는 상황일지라도 말입니다.

하지만 에이전트형 (agentic) 및 생성형 AI (generative AI) 모델의 추론 (inferencing) 워크로드를 수행하기 위해 AI를 실행하려는 경우, 훨씬 더 다양한 하드웨어를 사용할 수 있습니다. Nvidia GPU는 훌륭하지만 가격이 비쌉니다. 맞춤형 실리콘 (custom silicon)은 총 소유 비용 (TCO)을 최대 65%까지 낮출 수 있으며, GPU는 전력 소모가 크기 때문에 훨씬 더 효율적인 옵션들이 존재합니다. 중국 연구소들은 중국 내수용 하드웨어를 사용하고 있으며, 많은 서구권 AI 개발자들은 자체적인 솔루션을 보유하고 있습니다. 자체 솔루션이 없는 기업들은 직접 만들고 있습니다.

Google은 Broadcom과 협력하여 매 세대마다 Tensor Processing Unit (TPU) 칩을 구축해 온 지 12년이 되었습니다. Amazon은 Trainium 및 Inferentia 칩을 보유하고 있으며, Meta는 최근 2027년까지 배포할 여러 새로운 MTIA 설계를 발표했습니다. Microsoft는 Maia 라인업을 보유하고 있으며, Tesla는 수년간 Dojo를 개발한 끝에 최근 AI5 및 AI6 칩 설계로 전환했습니다.

그리고 이제 Anthropic도 거의 동일한 이유로 이 흐름에 합류하고 있습니다. Anthropic은 _Business Insider_에 고객들이 필요로 하는 규모에서 Claude가 더 빠르고 효율적으로 실행될 수 있도록 칩을 공동 설계 (co-designing)하고 있다고 밝혔습니다. 실제로 Anthropic은 지난 1년 동안 소비자 분야에서 엄청난 확장세를 보이고 중요한 정부 계약을 따내는 등 폭발적인 성장을 기록했습니다. 전통적인 단일 프롬프트 (single-prompt) 상호작용보다 훨씬 더 많은 토큰 (tokens)을 요구하는 에이전트형 AI (agentic AI)의 등장은 말할 것도 없습니다.

Anthropic은 설계 및 개발을 위해 어느 기업과 협력하고 있는지는 밝히지 않았습니다. Broadcom과 Marvell이 ASIC 공동 설계 (co-design) 시장의 약 95%를 차지하는 두 거대 기업이긴 하지만, _The Information_은 지난달 Anthropic이 제조를 위해 Samsung과 논의 중이라고 보도했습니다.

곡괭이 판매자는 언제나 이득을 본다

AI 추론 (inferencing)을 위한 자체 맞춤형 ASIC을 설계, 패키징 및 제조하는 것은 저렴하지 않으며 쉽지도 않습니다. 하드웨어를 개발하는 것과 동시에, 이를 활용하기 위한 소프트웨어 스택 (software stack)이 필요하며, 잠재적인 이점을 최대한 활용하기 위해서는 해당 하드웨어에서 실행되도록 최적화된 모델이 필요합니다. 이 때문에 대부분의 기업에게는 단순히 다른 기업의 하드웨어나 범용 GPU (general-purpose GPUs)를 사용하는 것이 더 가치 있는 일입니다. 하지만 막대한 자본을 투입할 수 있고 효율성 이득을 극대화하기 위해 규모를 확장할 수 있는 능력을 갖춘 주요 AI 기업들에게는 충분히 투자할 가치가 있는 일입니다.

하지만 혜택을 보는 이들이 AI 개발사들뿐만은 아닙니다. Nvidia는 AI 붐으로부터 막대한 이익을 얻은 몇 안 되는 기업 중 하나인 반면, Meta, Google, Microsoft, OpenAI 등은 AI 노력에 엄청난 금액을 쏟아붓고 있습니다. 맞춤형 ASIC 설계 및 구축 시장에서도 매우 실질적인 승자들이 존재합니다: 바로 TSMC, Broadcom, 그리고 Marvell입니다.

Broadcom은 수년 동안 Google의 공동 설계 (co-design) 파트너였으며, 최근에는 OpenAI의 추론 (inferencing) 칩 구축을 돕기 위해 발탁되기도 했습니다. 또한 Meta의 MTIA 설계 작업을 함께하고 있으며, ByteDance 및 Fujitsu와도 다른 맞춤형 ASIC 설계 계약을 맺고 있습니다. 또한 강력한 상호 연결 (interconnect) 및 네트워킹 하드웨어를 생산하고 있어 고객에게 더욱 완전한 솔루션을 제공할 수 있습니다. Broadcom은 처리해야 할 수주 잔고 (backlog)가 730억 달러에 달한다고 주장하며, 2027년 말까지 연간 AI 칩 매출이 1,000억 달러를 넘어설 것으로 예상하고 있습니다.

Marvell은 Amazon의 Trainium 칩과 Microsoft의 Maia를 위한 대규모 계약을 보유하고 있으며, 이러한 공동 설계 (co-design) 작업으로 2026년에 110억 달러 이상의 수익을 올릴 것으로 예상됩니다.

만약 Samsung이 Anthropic의 파트너가 된다면, 이 특정 분야에서는 상대적으로 작은 플레이어가 되겠지만, 막대한 제조 및 칩 설계 전문 지식뿐만 아니라 전 세계적으로 공급이 매우 부족한 매우 중요한 메모리 (memory)에 대한 접근성을 제공할 것입니다.

하지만 이 모든 이니셔티브(initiatives)의 가장 큰 승자는 단연 TSMC일 것입니다. 이 대만 기업은 전 세계 최첨단 실리콘의 대부분을 생산하며, 여기서 논의된 거의 모든 칩의 생산에 관여하고 있습니다. 이들은 HBM과의 통합을 위해 TSMC의 CoWoS 첨단 패키징 (advanced packaging) 기술을 필요로 합니다. 또한 Nvidia와 AMD GPU 패키징의 상당 부분을 처리하며, 기초가 되는 웨이퍼 (wafers)의 상당 부분도 생산합니다.

다극화된 칩 세계

Anthropic이 맞춤형 ASIC 경쟁에 합류하는 것은 전혀 놀라운 일이 아니며, 각 하이퍼스케일러 (hyperscaler) AI 기업들이 가능한 한 많은 추론 (inferencing) 작업을 맞춤형 하드웨어로 처리하려고 하는, 우리가 향해 달려가고 있는 듯한 미래를 더욱 공고히 합니다. 이는 내부 모델에 최적화되었을 때 더 효율적이고, 기능 및 사양을 제어하기 쉬우며, 확장 (scale up)하기에도 용이합니다. 중국의 관점에서는 국제 무역 봉쇄 및 관세로 인한 문제를 피하기에도 더 쉽습니다.

그들이 자신들의 칩에 100% 의존하게 되지는 않을 것입니다. 확장을 하기에는 AI 수요가 너무나도 크며, Nvidia가 공급망에 대한 접근권을 무자비하게 장악해 왔기 때문입니다. 하지만 새로 설치되는 모든 칩은 동일한 목적으로 사용되지 않을 Nvidia GPU를 의미하며, 이는 Nvidia가 산업에 가하는 독점력을 줄이는 데 도움이 될 수 있습니다. 다만 학습 (training) 분야는 예외입니다. 그 분야는 당분간 Nvidia의 가장 큰 매력으로 남을 가능성이 높습니다.