Broadcom이 조용히 OpenAI의 AI 추론(Inference) 선호 파트너가 되었습니다. 이것이 AVGO 주식에 의미하는 바는 무엇일까요.

지난해 하반기, OpenAI와 Broadcom (AVGO)은 10기가와트(GW) 규모의 컴퓨팅 용량에 대한 계약을 발표했습니다. 불과 9개월 만에, 이 칩 제조사는 대규모 언어 모델 (LLM)의 추론 (Inference) 워크로드를 실행할 목적으로 제작된 맞춤형 칩을 공개했습니다. Jalapeno라고 명명된 이 칩은 OpenAI가 설계하고 Broadcom이 네트워킹과 함께 실리콘으로 구현했습니다. Celestica (CLS)는 보드, 랙(Rack) 및 시스템 통합을 담당했습니다. 이러한 협업이 짧은 기간 내에 목표를 달성하는 데 기여했습니다.

AI 추론 (Inference)이 중심 무대로 떠오름에 따라, 추론 특화 칩 분야에 대한 Broadcom의 조기 진입은 주주들에게 긍정적인 발전입니다. 이 칩은 일반적인 AI 워크로드보다는 프런티어 LLM 추론 (Inference)에 고유한 메모리 이동, 커널 (Kernels), 서빙 패턴 (Serving patterns)에 최적화되어 있습니다. 이것이 중요한 이유는 추론 (Inference) 특화 칩이 AI 모델과 효율적으로 작동하도록 미세 조정될 수 있어, 이론적 한계에 최대한 근접할 수 있기 때문입니다. 그 결과로 얻어지는 칩당 더 높은 처리량 (Throughput)은 장기적으로 비용을 낮추며, 이는 결과적으로 OpenAI와 같은 기업들이 경쟁사보다 더 낮은 비용으로 서비스를 제공할 수 있도록 돕습니다.

Barchart의 추가 뉴스

이것이 단순히 칩 제조사의 또 다른 기술적 진보로 보일 수 있지만, Broadcom이 이미 Anthropic, Meta (META), Alphabet (GOOG) (GOOGL), 그리고 ByteDance와 계약을 맺고 있다는 사실을 고려하면, 향후 유사한 발표가 기대될 수 있습니다. 이 회사의 랙 (Rack) 배포 또한 OpenAI의 지출 점유율을 차지하기 위해 치열하게 싸우고 있는 Nvidia (NVDA) 및 Advanced Micro Devices (AMD)와 직접적인 경쟁 관계에 놓이게 합니다. 하지만 이전에 지적했듯이, Broadcom은 다른 하이퍼스케일러 (Hyperscalers)들과도 유사한 계약을 맺고 있으며, 한 곳에서의 성공은 다른 곳으로 쉽게 확산될 수 있어, AI 추론 (Inference) 칩 제조 및 랙 (Rack) 배포 분야에서 핵심적인 플레이어로 자리매김하고 있습니다.

Broadcom 주식에 대하여

Broadcom은 반도체 및 인프라 소프트웨어 솔루션을 설계하고 개발하는 기술 기업입니다. 제품 포트폴리오에는 AI 가속기 (AI accelerators), 네트워킹 칩 (networking chips), 광대역 및 무선 연결 솔루션 (broadband and wireless connectivity solutions), 그리고 VMware 인수에 따른 엔터프라이즈 소프트웨어 (enterprise software)가 포함됩니다. 이 회사는 전 세계 클라우드 제공업체, 기업 고객 및 통신 기업에 서비스를 제공합니다. 1961년에 설립된 Broadcom은 캘리포니아주 팔로알토 (Palo Alto)에 본사를 두고 있으며, CEO Hock Tan이 이끌고 있습니다.