마이크로소프트가 새로운 Maia 칩을 공개하며 모든 주요 엔비디아 고객이 경쟁자가 되는 이유

1조 달러 규모의 AI 경쟁이 소프트웨어에서 실리콘으로 이동하고 있으며, 마이크로소프트가 자체 개발한 Maia 칩에 거액을 투자하는 것은 빅테크 기업들이 엔비디아의 지배력에서 벗어나려 함을 보여줍니다.

중요한 이유: 자사 AI 제품 구동에 맞춤형 실리콘을 사용하려는 마이크로소프트의 계획은 모든 주요 엔비디아 고객이 더 낮은 비용, 향상된 성능, 그리고 더 많은 통제권을 찾아 경쟁자가 되고 있음을 보여줍니다.

---

• 이러한 변화는 AI 응답을 생성하는 데 필요한 컴퓨팅인 추론(inference)에 특히 중요합니다. 점점 더 정교해지는 AI 모델과 에이전트가 컴퓨팅 파워에 대한 수요를 끌어올리고 있기 때문입니다.

뉴스 동력: 마이크로소프트는 최신 맞춤형 AI 가속기인 Maia 300을 공개하며, 이 칩을 2027년에 배포하기 시작할 것이며 자사 제품 및 서비스의 주요 추론 시스템이 될 것이라고 밝혔습니다.

• 회사는 Maia 300이 선도적인 GPU 기반 시스템보다 메가와트당 AI 토큰을 40% 더 많이 제공할 것이라고 말합니다.
• 또한, 이 칩은 AI 모델이 더욱 복잡해지면서 증가하는 병목 현상인 칩과 메모리 간의 불필요한 데이터 이동을 최소화하도록 설계되었습니다.

전체 그림: 마이크로소프트의 계획은 훨씬 더 광범위한 변화의 일부이며, 거의 모든 주요 AI 플레이어들이 엔비디아 대안을 찾고 있습니다.

• Google은 수년 동안 자체 Tensor Processing Unit을 개발해 왔으며, 최신 세대에는 AI 모델 훈련(training)용과 추론(inference) 실행용으로 분리된 버전이 포함되어 있습니다.
• OpenAI는 Broadcom과 함께 Jalapeño 칩을 개발하고 있으며, 초기에는 추론 워크로드에 중점을 두고 있습니다. 이 회사는 지난 8월에 첫 번째 칩이 특정 워크로드에서 Nvidia 하드웨어보다 성능이 뛰어나며 이미 후속 세대를 개발하고 있다고 밝혔습니다.
• Amazon은 Anthropic을 포함한 고객들이 사용하는 자체 Trainium 계열 AI 칩을 보유하고 있습니다. OpenAI는 또한 대규모 인프라 계약의 일부로 Amazon의 맞춤형 실리콘 사용을 약속했습니다.
• Anthropic은 Nvidia, Amazon 및 기타 공급업체의 칩에 계속 의존하는 와중에도, 지난 8월 자체 칩 설계를 탐색하고 있음을 확인했습니다.
• Meta 역시 내부 칩 개발 프로그램을 운영하면서도, Nvidia와 다른 공급업체로부터 상당한 컴퓨팅 용량을 구매하고 있습니다.

숨겨진 의미: 고객들이 경쟁 칩을 개발한다고 해서 Nvidia가 반드시 사업을 잃는 것은 아닙니다.

엔비디아의 2분기 매출은 960억 달러를 넘어서며 두 배 이상 증가했습니다. 이는 AI 컴퓨팅에 대한 전반적인 수요가 여전히 Nvidia 칩과 Microsoft 및 기타 기업들의 새로운 제품에 기회를 제공한다는 점을 상기시켜 줍니다.
Microsoft와 마찬가지로, 대부분의 Nvidia 경쟁사들은 마진이 가장 높은 추론(inference)에 초점을 맞추고 있는 반면, Nvidia는 여전히 학습(training) 분야에서 지배적입니다.
그럼에도 불구하고, Nvidia는 대차대조표를 활용하여 AI 구축 자금을 조달하기 시작했기 때문에 [링크]와 같은 어떤 경쟁이라도 그 강도를 조금이라도 약화시킨다면 주목할 만합니다. 왜냐하면 이는 지속적인 성장에 대한 Nvidia의 중심성을 약화시킬 수 있기 때문입니다.

그들이 말하는 것: Microsoft Azure Hardware Systems 및 혁신 부문 사장인 Rani Borkar는 Axios와의 인터뷰에서 경쟁력 있는 AI 하드웨어를 구축하려면 메모리, 네트워킹부터 소프트웨어 및 전력 소비까지 모든 것을 최적화하는 전체 시스템을 설계해야 한다고 말했습니다.

Borkar는 Maia를 추론에 우선순위로 두고 있으며, 이를 AI 컴퓨팅에서 가장 크고 빠르게 성장하는 기회이자 Microsoft가 비용과 효율성 면에서 차별화할 수 있는 영역이라고 설명했습니다.
그녀는 "우리에게 이것은 어느 하나를 선택해야 하는 전략이 아닙니다"라며, "우리는 광범위한 생태계를 원하지만 동시에 자체 개발 반도체(first-party silicon)에 깊이 투자하고 싶습니다."라고 말했습니다.

물론, 하지만: Maia를 주요 추론 플랫폼으로 만들겠다는 Microsoft의 계획은 OpenAI을 포함하여 제3자 Azure 고객에게 반드시 적용되는 것이 아니라, 주로 Microsoft 자체 서비스에만 해당됩니다.

Borkar는 또한 이러한 변화가 하룻밤 사이에 일어나지 않을 것이라고 경고했습니다. Maia 300 배포는 2027년에 시작되겠지만, 다중 기가와트 규모에 도달하는 것은 시간이 걸릴 것이며 내년 이후로 미뤄질 것입니다.

문제점: Axios가 [이전에 보도했듯이] 자체 칩을 개발하는 기업들은 여전히 Nvidia가 의존하는 것과 동일한 제한된 제조 역량, 첨단 패키징(advanced packaging), 그리고 고대역폭 메모리(high-bandwidth memory)에 의존하고 있습니다.

이는 커스텀 칩이 Nvidia에 대한 의존도를 낮출 수 있더라도, 더 광범위한 공급망 제약은 제거하지 못한다는 것을 의미합니다.

결론적으로 말하자면: Nvidia는 여전히 AI 붐의 중심이지만, 최대 고객사들은 자신들의 서비스에 동력을 제공하는 기술을 더 많이 통제하고 — 그 경제적 이익의 더 많은 부분을 스스로 확보하기를 점점 더 원하고 있습니다.