CONNECT

Broadcom, 맞춤형 AI 가속기 분야의 급성장 추세에 올라타다

작년 3월, 저는 custom XPU 및 네트워킹 ASIC 칩과 Broadcom이 판매하는 기타 AI 클러스터용 반도체 제품들을 살펴보며, Broadcom이 AMD나 Intel보다 Nvidia에 대한 가장 큰 대항마가 될 수 있다고 예측했습니다. 그리고 이 과정에서 Marvell의 경쟁과 도움을 받을 것이라고 생각했죠.

이는 Hock Tan, Broadcom의 최고경영자(CEO)이자 전설적인 복합기업 구축가가 2026 회계연도 3분기 재무 실적을 설명하며 월스트리트에 제공한 매출 예측에 근거할 때, 제가 생각했던 것보다 훨씬 더 예언적이었습니다. 여기서는 본론으로 들어가 Broadcom의 AI 관련 칩 판매 내역과 Tan이 제시한 낙관적인 예측치를 보여드리겠습니다:

Broadcom은 GenAI 붐이 일어났을 때부터 이미 Google이 자체 설계한 TPU를 Taiwan Semiconductor Manufacturing Co(TSMC) 파운드리와 패키징을 통해 7년 동안 지원하고 있었습니다. 그리고 기본적으로, GenAI 붐이 시작된 F2022년부터 F2028 예측까지, custom AI XPU 비즈니스에 AI 네트워킹 및 기타 AI 시스템용 반도체 제품들이 $26억에서 $2,300억으로 두 자릿수 규모로 성장할 것입니다. 비교하자면, 방금 끝난 회계연도의 미국 국방 예산은 1조 달러였습니다. 물론, 세계에서 가장 다국적인 음식인 피자의 전 세계 소비량은 William Alexander의 Ten Tomatoes That Changed The World를 읽고 알게 된 바에 따르면 2024년에 $2,300억이었습니다.

Broadcom은 AI 컴퓨팅 및 네트워킹 용량을 충족하기 위해 HBM 메모리, 칩 웨이퍼, 패키징을 확보했으며, Tan에 따르면 수요가 더 높으면 추가 용량을 늘릴 수 있다고 했습니다.

Tan은 월스트리트에 분기별 실적 발표를 통해 해당 예측치를 기대하지 말라고 경고했지만, 향후 몇 년 동안 큰 자금이 유입될 것이며, 기본적으로 월스트리트에게 생성형 AI(GenAI) 거품이 터질 것이라는 걱정을 덜어내라고 이야기하고 싶다고 강조했습니다.

Broadcom의 여섯 개 XPU 고객사들—확실히 Google, Anthropic, OpenAI, Meta Platforms가 포함되며, 나머지 두 곳은 ByteDance(TikTok 소유)나 Apple일 수 있고, Amazon Web Services는 Trainium 4용 패키징 및 통합에 Broadcom을 사용하고 있습니다—를 기준으로 볼 때, 총 컴퓨팅 용량은 약 30기가와트입니다. 이는 CPU, 메모리, 랙 등을 제외하더라도 기가와트당 약 120억 달러 규모의 XPU 시스템을 설치할 수 있음을 시사합니다. 이러한 구성 요소들까지 추가하면 기가와트당 약 150억 달러에 달하게 됩니다. 이는 Nvidia의 “Grace-Hopper” 시스템(CPU, 메모리뿐만 아니라 랙 규모 장치 구축에 필요한 모든 GPU 및 인터커넥트를 포함)의 기가와트당 180억 달러나 Nvidia의 “Vera-Rubin” 시스템의 기가와트당 400억 달러와 비교했을 때 유리한 수치입니다.

Tan은 월스트리트와의 통화에서 Google에 향후 몇 년 동안

Anthropic은 올해 1기가와트(gigawatt)의 “Ironwood” TPU 7 가속기를 배치하고, 2027년에는 5기가와트의 TPU 8i 시스템을, 그리고 2028년에는 후속 모델인 TPU 9를 10기가와트만큼 배치할 예정입니다. Tan에 따르면 Anthropic은 2027년에 가장 큰 XPU 고객이 될 것으로 예상되며, 2028년에도 이를 유지할 것이라고 합니다. (아마도 이 수치들은 달력 연도가 아닌 Broadcom의 회계연도 기준일 것이지만, Tan은 이 수치를 언급하며 회계연도라는 말은 하지 않았습니다.) 이는 Anthropic이 Google 자체보다 더 많은 TPU 철(iron)을 Google 덕분에 구매하고 있다는 의미입니다. 막대한 현금 흐름과 강력한 대차대조표를 가진 AI 모델 빌더라면 Google이 다른 누구보다 많은 TPU를 구매할 것이라고 생각할 수 있습니다. 하지만 Google은 클라우드이며, 클라우드 고객들은 Nvidia GPU를 원합니다.

놀랍지 않나요?

OpenAI는 자사의 “Jalapeno” XPU용 칩 관리(chip shepherding)를 Broadcom에 맡겼으며, 2027년 Jalapeno 클러스터용 장비로 Broadcom으로부터 1.3기가와트의 제품을 구매할 예정입니다. 2028년에는 Broadcom이 OpenAI가 추가로 5기가와트의 Jalapeno ASIC과 그 후속 모델을 배치할 것으로 예상하고 있으며, 이는 OpenAI를 두 번째로 큰 XPU 고객으로 만들고 Google을 목록에서 세 번째로 떨어뜨릴 것입니다.

놀랍지 않나요?

Tan에 따르면, 코드명을 알 수 없는 후속 OpenAI 칩은 테이프아웃(tapeout) 단계에 접어들고 있으며, 두 회사는 현재 3세대 XPU 설계를 진행하고 있습니다.

Meta Platforms와 관련하여 Broadcom은 지금부터 2027 회계연도 말까지 세 세대의 MTIA 장치를 제공할 것이며, 이 세 세대 MTIA 가속기(지난 4월에 자세히 다룬 내용)를 통해 현재부터 2028 회계연도 말까지 Broadcom은 총 3기가와트의 용량을 확보하고 있습니다.

Broadcom 내부의 AI 성장은 단순히 AI XPU에 국한되지 않으며, 사실은 네트워킹이 주도하고 있습니다. Tomahawk 6 이더넷 스위치 ASIC의 100 Gb/sec 및 200 Gb/sec SerDes 변형 모델들이 엄청난 인기를 끌고 있으며, Broadcom을 사용하여 자체 개발한 XPU를 지원하는 모든 하이퍼스케일러와 클라우드 제공업체들은 AI 클러스터에서 규모 확장(scale out) 네트워킹을 위해 Tomahawk 6을 사용하고 있습니다. 6 시리즈 칩의 Tomahawk Ultra 변형 모델은 이더넷 스택의 지연 시간(latency)을 낮추어 XPU용 규모 확장 코히런트 메모리 인터커넥트(coherent memory interconnects)에 사용될 수 있게 하며, 이는 랙 규모 장비 내부에서 활용되고 있습니다. 이 제품은 놀라운 채택률을 보이며 현재 일부 고객사에서 배포되고 있으며, 새로운 XPU가 시장에 출시됨에 따라 그 도입 속도는 회계연도 2027년까지 진행될 예정입니다.

덧붙여 말씀드리자면, 아직 발표되지는 않았지만 400 Gb/sec SerDes를 사용하고 포트당 8개 레인으로 3.2 Tb/sec을 제공하는 204.8 Tb/sec Tomahawk 7 이더넷 스위치 ASIC이 방금 테이프 아웃(taped out)되었으며, 이는 아마도 캘린더 연도 2028년 초부터, 혹은 늦어도 2027년 말에는 스위치에서 볼 수 있을 것으로 예상됩니다.

마지막으로 말씀드릴 내용은 Q3 F2026 실적에 대해 자세히 다루겠습니다. 저는 Broadcom이 CPU 지원(shepherding)을 시작할 것이며, 특히 Fujitsu가 곧 출시할 'Monaka' Arm 서버 CPU와 마찬가지로 패키징과 약간의 설계 작업에 초점을 맞출 가능성이 높다고 예상합니다. Fujitsu는 물론 6개 XPU 고객사들 역시 Broadcom의 3.5D Extreme Dimension System in Package (XDSiP) 칩렛 스태킹을 사용하고 있으며, 이는 스택된 DRAM과 스택된 CPU 칩렛을 패키지 안에 넣는 방식입니다. CPU 총 유효 시장(total addressable market)이 2025년 260억 달러에서 2030년 2,200억 달러로 성장하고 있고, 모든 하이퍼스케일러와 클라우드 빌더가 자체 Arm 서버 CPU를 만들고 있기 때문에, Broadcom은 CPU 지원 분야로 진출할 것이라고 생각합니다. 저는 Broadcom이 자체 Arm 서버 칩을 설계하여 이 기술 거인들에게 판매하려는 관심은 없다고 생각합니다. 이것이 바로 몇 년 전에 'Vulcan' 프로세서를 Cavium Networks에 매각한 이유입니다.

저는 Broadcom이 고객들이 CPU를 XPU에 하드와이어링하기로 결정할 경우, CPU 타일을 통합하는 데 도움을 줄 수 있다고 생각합니다. 하지만 또한 저는 HBM이나 다른 스택 메모리의 용량 부족 때문에 이를 충분히 확보하지 못해야 하는 XPU에게 (비록 느리더라도) 큰 메모리 주소 공간을 가진 CPU가 유익하다고 생각합니다. 따라서 외부 CPU가 가장 안전한 선택일 수 있습니다.

지켜봐야 할 것입니다.

8월 초에 마감된 3분기에 Broadcom은 총매출액 295억 9천만만 달러를 기록하며 전년 대비 85.5% 증가했고, 직전 분기 대비로는 33.4% 증가했습니다. 영업이익은 159억 6천만만 달러로, Q3 F2025 대비 2.71배 증가했습니다. 순이익은 더욱 빠르게 성장하여 130억 9천만만 달러로 3.17배 상승했으며, 이는 매출액의 매우 좋은 44.2%를 차지합니다.

어떻게 말하든, Tan은 자신이 인수하고 운영하는 회사들로부터 많은 돈을 짜내는 방법을 알고 있습니다. 완성된 XPU나 CPU를 그들에게 판매하려고 노력하는 것보다, 기술 거물들의 자존심을 만족시켜주는 칩 목동(chip shepherd)이 되는 것이 훨씬 좋습니다. 이들 중 누구도 경쟁사들이 사용하는 것을 사용하려 하지 않지만, X86 CPU와 Nvidia, 그리고 때로는 AMD GPU만 허용하며, 이는 그들이 클라우드이고 고객들이 이를 요구하기 때문이며 또한 CPU 및 GPU 용량 부족 때문입니다.

Broadcom은 이번 분기에 239억 8천만만 달러의 현금을 보유했지만, VMware 인수로 인해 여전히 594억 2천만만 달러의 부채를 안고 있습니다.

분기 동안 Broadcom의 반도체 솔루션(Semiconductor Solutions) 그룹은 매출액 208억 4천만만 달러를 기록하며 127.4% 증가했고, 영업이익은 127억 1천만만 달러로 143.3% 증가했습니다.

VMware 및 기타 다수의 레거시 엔터프라이즈 시스템 소프트웨어를 포함하는 인프라 소프트웨어(Infrastructure Software) 그룹은 3분기 매출액이 87억 5천만 달러를 기록하며 29% 증가했고, 영업이익은 수익의 84%에 해당하는 73억 5천만 달러로 40.7% 증가했습니다. 제 모델에 따르면 이 중 55억 2천만 달러는 VMware 라이선스 및 지원용이었고, 나머지 32억 3천만 달러는 기타 레거시 소프트웨어용이었습니다. 하지만 Broadcom이 소프트웨어 사업 부문에 대한 세부 정보를 많이 공개하지 않기 때문에 이 수치들은 '소금 한 줌'으로 받아들여 주시기 바랍니다.

위 내용은 기존 Broadcom의 각 부문들이 어떻게 운영되고 있는지에 대한 저의 추정치입니다. 여기에서도 다시 한번 '소금 한 줌'을 사용해 주십시오. 왜냐하면 Broadcom이 이러한 사업들에 대해 더 이상 많은 이야기를 하지 않기 때문입니다. 아마도 이 분기 이후로는 분석을 중단할 것 같습니다.

마지막으로, 반도체(chip) 사업에서 AI 관련 매출과 비(非)AI 관련 매출에 대해 살펴보겠습니다. 여기 그림이 그 내용을 잘 보여줍니다:

그리고 아래 표에는 AI와 비(非)AI의 세부 내역이 정리되어 있습니다:

AI 관련 매출은 총 167억 4천만 달러를 기록하며, 전년 대비 3.22배 증가했고 직전 분기 대비로는 54% 증가했습니다. 이 중 122억 2천만 달러는 AI 컴퓨팅(compute)용이었고, 45억 2천만 달러는 AI 네트워킹(networking)용이었습니다.