Google은 약 10년 전 자체 맞춤형 AI 프로세서를 개발한 최초의 하이퍼스케일러 (hyperscalers) 중 하나였으며, 그 이후로 꾸준히 배포를 확대해 왔습니다. Sean이 게시한 Fubon Research의 고객 대상 보고서에 따르면, 이 회사는 2028년에 출시될 TPU v9에 대해 매우 확신하고 있어 해당 프로세서를 1,200만 ~ 1,500만 개 주문할 계획이라고 합니다. 이 정보가 정확하다면, Google은 Nvidia보다 더 많거나 비슷한 수의 AI 가속기를 생산할 뿐만 아니라, 목표를 달성하기 위해 Intel Foundry를 사용해야 할 수도 있습니다.

Tom's Hardware Premium Roadmaps

a snippet from the HBM roadmap article

(이미지 출처: Future)

• 고대역폭 메모리 (High-Bandwidth Memory, HBM) 로드맵
• Nvidia 엔터프라이즈 GPU 및 CPU 로드맵
• AI 가속기 로드맵
• 데스크톱 GPU 로드맵
• 3D NAND 로드맵

"저희의 조사에 따르면, Google은 2028년에 1,200만 ~ 1,500만 개의 TPU를 보유할 계획입니다."라고 해당 보고서는 명시하고 있습니다. "2028년에 진입하면서, Google의 TPU는 4개의 컴퓨팅 다이 (compute dies)를 갖춘 V9 세대로 진입할 예정이며, 이는 2028년의 용량 소비가 2027년 대비 두 배 이상 증가할 것임을 시사합니다."

Fubon은 Nvidia가 2026년에 820만 개의 데이터 센터용 AI GPU를 공급했으며, 2028년에는 그 수를 1,240만 개로 늘리는 궤도에 올라 있다고 추정합니다. 만약 Google이 2028년에 1,200만 ~ 1,500만 개의 9세대 TPU를 생산할 계획이라는 Fubon의 예측이 맞다면, Google은 2028년에 Nvidia보다 더 많거나, 적어도 그에 필적하는 수의 AI 가속기 (AI accelerators)를 생산할 수도 있습니다.

TSMC만으로는 부족하다

Google의 v9 TPU 성능이 Nvidia의 Rubin 및 Rubin Ultra와 비교했을 때 어느 정도 수준일지는 아직 지켜봐야 할 문제이지만, Google이 이 AI 가속기에 4개의 컴퓨팅 칩렛 (compute chiplets)을 사용할 의도가 있다는 사실은 이 회사가 해당 프로세서의 성능에 큰 도박을 걸고 있음을 명확히 보여줍니다. 한편, 4개의 대형 컴퓨팅 칩렛으로 AI 가속기를 구축하는 것은 막대한 엔지니어링 노력이 필요한 작업이며, Google은 이를 완수해낸 것으로 보입니다.

"아직 상세한 할당 계획은 파악되지 않았으나, 저희는 TSMC만으로는 Google의 목표치에 도달하기 어려울 것으로 판단하며, 2028년까지 Intel의 공급이 필수적일 것으로 생각합니다."라고 보고서는 이어가고 있습니다.

Fubon의 연구원들은 Google의 TSMC 할당량이 9세대 TPU 1,200만 ~ 1,500만 개의 수요를 충족하기에 충분할지 확신하지 못하고 있으며, 따라서 Google이 물량 목표를 달성하기 위해 Intel Foundry의 생산 능력 (capacity)을 사용해야 할 것이라고 생각합니다. 지난 몇 달 동안, 우리는 Google이 Intel의 첨단 패키징 (advanced packaging) 기술을 수개월 동안 테스트한 끝에 Intel이 Google을 위해 300만 개의 TPU를 제조하는 주문을 확보했다는 보고서를 보았습니다. 실제로 Google이 Intel Foundry에서 실리콘을 제조하고자 한다면, Intel의 첨단 패키징 서비스를 사용하는 것은 매우 타당합니다. 컴퓨팅 칩렛 (compute chiplets)이 개발될 때, Intel의 EMIB/EMIB-T와 TSMC의 CoWoS-L은 서로 호환되지 않으므로 반드시 패키징 기술을 염두에 두고 개발되어야 한다는 점에 유의해야 합니다.

세계 최대의 AI 가속기 소비자

2028년에 1,200만 ~ 1,500만 개의 TPU를 생산하려는 Google의 계획이 정확하다면 (1,200만과 1,500만 사이의 차이는 20%로 매우 크다는 점에 주목하십시오), 그리고 Google이 실제로 Nvidia가 전체 시장에 판매하는 양보다 더 많은 AI 가속기를 매년 배치하게 된다면, 이는 AI 하드웨어 지형의 극적인 변화를 의미할 것입니다. 이는 Google을 세계 최대의 AI 가속기 소비자(Google이 Nvidia 하드웨어 구매를 중단할 가능성은 낮기 때문)로 만들 뿐만 아니라, 궁극적으로 Google을 세계에서 가장 강력한 AI 하드웨어 함대 (fleet)의 소유자로 만들 것입니다. Google이 압도적인 AI 컴퓨팅 능력을 주로 자사 서비스를 위해 사용할지, 아니면 그 대부분을 타사에 대여할지는 아직 지켜봐야 할 문제입니다.

한편, Google의 경쟁사들에게 이 이정표는 수직 계열화된 AI 인프라 (vertically integrated AI infrastructure)의 중요성이 커지고 있음을 강조할 것입니다. 여기서 클라우드 제공업체들은 기성품(off-the-shelf) GPU를 구매하는 대신, 자신들의 소프트웨어 스택, 워크로드 (workloads), 그리고 데이터 센터에 맞춤화된 칩을 직접 설계합니다.

하지만 Google이 출하량 측면에서 Nvidia를 추월한다고 해서 Nvidia의 지배적인 위치가 반드시 약화되는 것은 아닙니다. AI 수요가 매우 빠르게 확장되고 있기 때문에 두 회사 모두 동시에 배포를 늘릴 수 있지만, 적어도 Nvidia가 2029년~2030년에 Feynman 및 Feynman Ultra를 통해 AI 가속기(AI accelerators) 생산을 늘리기 전까지는 Google이 단순히 더 빠르게 성장할 것입니다. 결국, Nvidia의 AI GPU는 품절 상태입니다. Nvidia가 걱정해야 할 것은 Google이 배포할 수 있는 TPU의 물량이 아니라, 이 프로세서들이 Nvidia의 핵심 경쟁 우위인 CUDA와 경쟁하는 소프트웨어 스택 (software stack)에 의존하고 있다는 사실입니다.