Microsoft, 자체 개발 AI 칩 활용 확대하며 Nvidia 의존도 낮추기

소프트웨어 거대 기업 Microsoft는 수년간 Nvidia의 그래픽 처리 장치(GPU)에 의존해 온 것과 달리, 자사 개발 인공지능(AI) 칩 사용을 늘리며 AI 스택 강화에 나섰다.

Microsoft는 지난 월요일 공개한 3세대 Maia AI 가속기를 시작으로, 향후 들어오는 요청들을 처리하는 데 주로 자체 실리콘에 의존할 것이라고 밝혔다.

Microsoft의 AI 분야 최대 강점은 고객을 위해 일련의 모델을 구동하는 Azure 클라우드이다. Microsoft 365 Copilot과 GitHub Copilot은 소프트웨어 엔지니어와 다른 사무직 근로자들에게 AI 기반 서비스를 제공한다. 또한 회사는 자체 모델도 개발하고 있지만, OpenAI, Anthropic, Google이 지배하는 시장에서 아직 큰 주목을 받지는 못했다.

칩 분야의 새로운 기회는 첨단 프로세서에 대한 끊임없는 수요와 시장에서 선택지(choice)를 원하는 욕구에서 비롯된다. Nvidia의 GPU는 AI 워크로드 및 모델의 표준이었으며, Microsoft의 기존 데이터 센터를 채우고 OpenAI와 Anthropic의 모델 훈련에도 사용되어 왔다.

하지만 수요가 계속 증가함에 따라, 주요 모델 개발사들은 Amazon, Advanced Micro Devices, Cerebras, Google 등 여러 회사들의 다양한 실리콘을 수용하고 있으며, 최근 몇 달 사이에는 Microsoft도 포함되었다.

범용적인 용도로는 Microsoft가 이미 자체 중앙 처리 장치(CPU)뿐만 아니라 Intel과 AMD의 실리콘도 활용하고 있다. Amy Hood 재무 책임자는 지난달 Goldman Sachs 컨퍼런스에서 자사 칩 사용이

Maia 300의 생산은 2027년에 시작됩니다. Executive Vice President인 Scott Guthrie가 올린 블로그 게시물에 따르면, Microsoft는 Maia 제품군 칩을 다중 기가와트(multi-gigawatt) 규모로 배치하는 것을 목표로 하고 있습니다. 하지만 General Manager인 Alistair Speirs는 구체적인 일정을 제공하기를 거부했습니다.

Speirs는 “우리는 약간의 선택권을 남겨두고 싶습니다. 왜냐하면 이 산업은 매우 빠르게 변화하고 있으며, 우리가 사용하는 적절한 모델에 대해 적시에 올바른 실리콘을 배치하고 싶기 때문입니다”라고 말했습니다.

Microsoft는 데이터 센터 랙당 96개의 Maia 300 칩을 장착할 것으로 예상하며, 이는 Maia 200의 두 배에 달하는 수치입니다. 새로운 버전은 GPU와 비교했을 때 랙당 최대 7배 더 많은 AI 토큰을 처리할 수 있으며, 메가와트당 토큰 수는 40% 증가했습니다.

Speirs는 “우리는 본질적으로 더 나은 성능과 우리가 가진 전력을 더 잘 활용하게 해줄 새로운 아키텍처가 필요합니다. 데이터 센터 같은 경우 전력은 운영 비용으로 상당히 직접적으로 전환될 수 있습니다”라고 말했습니다.

회사 기술 연구원인 Jim Kleewein에 따르면, Microsoft 365 Copilot의 일부 기능은 Maia 300을 통해 속도가 빨라질 것입니다.

수요일 고객들에게 배포된 메모에서 Evercore ISI 애널리스트들은 Maia가 2027년 1분기까지 Microsoft의 AI 칩 지출액 중 약 10%를 차지할 것으로 추정했습니다. 이 애널리스트들은 Microsoft 주식 매수를 추천했습니다.

Nvidia는 여전히 중요한 부분을 차지할 것입니다. CEO인 Jensen Huang은 지난주 행사에서 Nvidia 프로세서를 탑재한 Surface 노트북을 발표하는 자리에서 연설했습니다. 그리고 모델 훈련(training models)에 관해서는, Speirs가 Microsoft가 Nvidia 및 AMD와 파트너십을 맺고 있다고 말했습니다.

Google의 Tensor Processing Unit이나 Amazon의 Inferentia 및 Trainium과 달리, Microsoft의 가속기는 다른 회사들에게 시간 단위로 임대할 수 없습니다.

자문 회사 Moor Insights and Strategy의 CEO인 Patrick Moorhead는 “아직 아무도 Microsoft 외부에서 테스트해 본 적이 없다”고 말했습니다.

시청: Melissa Otto: Nvidia가 AI 산업의 지표주입니다.

Melissa Otto: Nvidia is the bellwether of the AI trade