가솔린 가격이 올랐다고 생각하셨나요? AI 구축(buildout)으로 인해 믿기 힘들 정도로 비싸졌을 뿐만 아니라 수요 대비 점점 더 희귀해지고 있는 메모리 칩의 치솟는 비용에 비하면 아무것도 아닙니다.

그 이유를 알기 위해서는 단 두 가지만 이해하면 됩니다.

첫 번째는 AI 구축의 가장 유명한 구성 요소인 컴퓨팅(compute)입니다. 간단히 말해, 이는 AI와 머신러닝 (machine learning)을 가속화하기 위한 처리 능력(processing power)을 제공하는 하드웨어입니다. 빅테크 하이퍼스케일러(hyperscalers)와 주요 AI 연구소들이 점점 더 정교해지는 고급 모델을 위해 가능한 한 많은 처리 능력을 확보하려고 경쟁함에 따라, Nvidia의 그래픽 처리 장치 (GPUs)와 같은 하이엔드 하드웨어는 세계에서 가장 탐나는 자원 중 하나가 되었습니다. 이러한 수요는 반도체 설계자를 지구상에서 가장 수익성이 높고 가치 있는 기업 중 하나로 탈바꿈시켰습니다.

**함께 읽기: Wall Street Looks to Zillow, Rocket Mortgage Earnings for Clues on K-Shaped Housing Market 및 Can Palantir's Sizzling Growth Win Over Market Bears?

'메모리 벽(Memory Wall)'에 부딪히다

이는 또한 극심한 GPU 부족 현상을 초래했으며, 경쟁 GPU 제조사인 AMD와 Intel의 기업 가치 또한 급등하게 만들었습니다. 캘리포니아주 마운틴뷰에 본사를 둔 Google이 Meta를 포함한 선택된 외부 기업에 제공하는 Tensor Processing Units (TPUs)와 같은 다른 경쟁자들도 등장했습니다. Google은 지난 2월 Meta와 수십억 달러 규모의 계약을 발표한 바 있습니다.

두 번째는 물론 메모리(memory)입니다. 컴퓨팅 하드웨어는 데이터 처리만 수행할 수 있기 때문에, 기업들이 컴퓨팅 능력만으로 규모를 확장하는 것은 불가능합니다. 메모리 하드웨어는 고급 AI 모델이 온갖 종류의 작업을 수행하는 데 필요한 방대한 양의 데이터를 저장합니다.

사용자의 질의에 대한 응답을 생성하기 위해서도 메모리가 필요하며, 이는 답변을 찾기 위해 엄청난 양의 정보를 샅샅이 뒤지는 과정을 요구합니다. AI 에이전트(AI agents)의 경우, 일관된 지원을 제공할 수 있도록 사용자의 선호도와 과거 상호작용을 기억해야 합니다. 복잡한 코딩 및 소프트웨어 엔지니어링(software engineering)에서는 방대한 코드베이스(codebase)를 아는 것뿐만 아니라, 문제를 해결할 수 있도록 개발 과정에서 이루어진 모든 디버깅(debugging)과 트러블슈팅(troubleshooting) 과정을 기억하는 것도 필요합니다. 기본적으로, AI는 점점 더 강력해지는 메모리 없이는 여기서 더 나아갈 수 없습니다.

따라서 AI가 최첨단 컴퓨팅(compute)을 향한 골드러시를 일으킨 것처럼, 최첨단 메모리를 향한 골드러시도 일으켰습니다. 그리고 이 분야에서 최고 사양은 바로 고대역폭 메모리 (HBM, high bandwidth memory)로, 이는 동적 랜덤 액세스 메모리 (DRAM, dynamic random-access memory)의 특수 형태입니다.