인프라 비용이 핵심 과제로 떠오르며 Broadcom과 OpenAI의 거래에 제동

인공지능 (AI) 경쟁은 더 이상 가장 큰 모델을 구축하거나 가장 강력한 칩을 구매하는 것에만 국한되지 않습니다. 이는 또한 비용 관리의 문제로 변모하고 있습니다.

이것이 바로 OpenAI가 Broadcom (AVGO)과 함께 설계한 커스텀 칩인 Jalapeño에 담긴 메시지입니다. 이 칩은 OpenAI의 인공지능 인프라에서 Broadcom의 역할을 더욱 확대하지만, 동시에 회사와 투자자들이 직면한 더 광범위한 질문을 던집니다. 즉, AI 구축에 얼마나 많은 비용이 들 것이며, 어떤 기업이 이를 더 효율적으로 만드는 과정에서 수익을 창출할 수 있는가 하는 점입니다.

Jalapeño는 추론 (inference)을 위해 구축되었습니다. 추론은 ChatGPT와 같은 AI 제품이 사용자의 요청에 응답할 수 있게 하는 프로세스로, 이는 일회성 학습 (training) 비용과는 성격이 다릅니다. AI 제품의 사용 빈도가 높아짐에 따라, 추론은 모델이 질의에 답하거나, 코드를 작성하거나, 작업을 완료할 때마다 비용을 추가하는 반복적인 비용이 됩니다.

AI 비용 문제의 핵심 수치들

몇 가지 수치들은 왜 OpenAI와 Broadcom의 칩 이야기가 곧 비용 이야기이기도 한지를 설명해 줍니다:

1조 달러: Reuters의 Artificial Intelligencer에 따르면, 내년 주요 기술 기업들의 예상 자본 프로젝트 지출 규모

2,360억 달러: 동일한 Reuters 보고서에 따른 2026년 첫 5개월 동안의 AI 관련 채권 발행액

2026년 말: OpenAI가 계획한 Jalapeño의 초기 배포 일정

160억 달러: Broadcom의 이번 3분기 예상 AI 칩 매출

163.6억 달러: Visible Alpha에 따른 분석가들의 Broadcom 이번 분기 AI 칩 매출 추정치

1,000억 달러: Broadcom의 AI 칩 장기 매출 전망

21% 이상: 실적 발표가 월스트리트의 높은 기대치에 미치지 못함에 따라 6월 2일 이후 발생한 Broadcom의 주가 하락폭

OpenAI의 칩이 AI 비용의 중요성을 보여주는 이유

OpenAI와 Broadcom은 기업 성명을 통해 Jalapeño가 OpenAI의 첫 번째 인텔리전스 프로세서 (Intelligence Processor)이며, 양사가 함께 구축하고 있는 다세대 컴퓨팅 플랫폼의 첫 번째 칩이라고 밝혔습니다.

양사는 이 칩이 대규모 언어 모델 (LLM) 추론 (inference)에 대한 OpenAI의 관점을 중심으로 구축되었다고 밝혔습니다. Broadcom은 칩 구현 (chip implementation), 보드 및 랙 시스템 통합 (board and rack system integration), 고성능 네트워킹 (high-performance networking), 그리고 확장 가능한 생산 시스템 (scalable production systems)을 통해 이 플랫폼을 산업화하는 것을 돕고 있습니다.

이 칩은 단순히 컴퓨팅 파워를 추가하는 것 이상의 역할을 하도록 설계되었습니다. 이는 해당 컴퓨팅 파워가 OpenAI 고유의 워크로드 (workloads)에 더 적합하도록 만드는 것을 목표로 합니다.

AI 기업들에게 이러한 종류의 효율성은 제품 규모가 커짐에 따라 더욱 유용해질 수 있습니다. 이들은 사용량이 증가함에 따라 운영 비용 (operating costs)이 너무 빠르게 상승하지 않으면서도, 모델을 반복적이고 안정적으로 실행할 수 있는 인프라 (infrastructure)가 필요합니다.