AI 및 서버 수요 증가로 메모리 부족 현상 지속

업계를 긴장시킨 발표

전 세계 투자자, 분석가, 기술 애호가들의 이목을 집중시킨 공동 브리핑에서 Micron Technology와 삼성전자(Samsung Electronics)는 글로벌 메모리 부족 현상이 “최소 향후 몇 년간” 지속될 것이라고 확인했습니다. 발언은 Micron의 최고경영자(CEO)인 Sanjay Mehrotra가 했으며, 그는 투자자들에게 회사의 메모리 제품 수요가 이 기간 동안 공급을 초과할 것으로 예상된다고 말했습니다.

이 성명은 단순한 시장 업데이트를 넘어섰습니다. 이는 반도체 생태계 내의 힘의 균형이 이동하고 있다는 명확한 신호였습니다. 메모리는 항상 주기적인 공급-수요 역학 관계를 가진 상품이었지만, 현재의 불균형은 전통적인 PC 및 스마트폰 시장을 훨씬 뛰어넘는 여러 요인들의 결합에 의해 주도되고 있습니다.

기술적 분석: 어떤 종류의 메모리가 부족한가?

AI 워크로드를 위한 고대역폭 메모리 (HBM)

HBM은 기존 DRAM보다 전력 소모는 훨씬 적으면서 엄청난 대역폭을 제공하는 스택형 다이(stacked-die) 메모리 아키텍처입니다. 이 설계 덕분에 대규모 인공지능 모델의 훈련 및 추론에 이상적입니다. Nvidia, AMD, Google의 TPU 부서와 같은 회사들은 AI 가속기에 데이터를 공급하기 위해 HBM에 의존합니다. Micron과 삼성 모두 HBM 생산을 늘리고 있지만, 이 과정은 자본 집약적이며 웨이퍼 제조 시설(wafer-fab) 용량에 의해 제한됩니다.

서버급 DRAM

서버 DRAM(현재는 주로 DDR5)은 데이터 센터, 클라우드 제공업체 및 엔터프라이즈 서버의 메모리 집약적인 워크로드를 구동합니다. 클라우드 네이티브 애플리케이션, 실시간 분석, AI-as-a-service로의 전환은 고용량, 저지연 DRAM 모듈에 대한 수요 급증을 야기했습니다. Micron은 이러한 모듈에 B2B 판매에 중점을 두고 있으며, 회사는 하이퍼스케일 운영자(hyperscale operators)의 요구를 충족시키기 위해 용량 할당을 우선순위로 두었습니다.

소비자용 RAM: 사라져가는 부문

소비자용 RAM: 사라져가는 부문

과거에는 Micron이 데스크톱, 노트북 및 게이밍 장비용 DDR4/DDR5 모듈을 공급했습니다. 그러나 이 회사는 소비자용 RAM 판매를 중단한다고 발표했으며, 이는 리테일 시장에서의 가용성을 사실상 제한합니다. 이러한 결정은 공장 시간(fab time)을 더 높은 마진과 더 높은 성장 부문(HBM 및 서버 DRAM)으로 전략적으로 재할당하는 것을 반영합니다. 결과적으로, OEM들은 축소되는 공급업체 풀에서 소비자 메모리를 조달해야 하며, 이는 가격 상승과 리드 타임 증가를 초래하고 있습니다.

AI 및 서버 수요가 지형을 지배하는 이유

AI의 기하급수적인 메모리 소비량

최첨단 언어 모델(language models)을 훈련시키려면 이제 페타바이트(petabytes) 규모의 메모리 대역폭이 필요합니다. 트랜스포머 모델(transformer model)의 각 반복 작업은 수 테라바이트(terabytes)의 HBM을 소비할 수 있으며, 모델 크기가 약 12~18개월마다 두 배로 증가함에 따라 이러한 추세는 계속 상승하고 있습니다. 이 수요는 하이퍼스케일 AI 연구소에만 국한되지 않습니다. 기업들은 AI 추론(AI inference)을 자사 제품에 직접 통합하여 HBM 소비의 이차적인 물결을 만들고 있습니다.

클라우드 제공업체의 확장

클라우드 시장은 '메모리 우선(memory-first)' 확장의 한가운데에 있습니다. AWS, Azure, Google Cloud와 같은 제공업체들은 인메모리 데이터베이스(in-memory databases), 실시간 분석 및 AI 서비스를 지원하기 위해 점점 더 큰 메모리 용량을 가진 인스턴스를 출시하고 있습니다. 경제적인 측면에서 볼 때, 가장 진보된 메모리 기술을 이러한 고가치 워크로드에 할당하는 것이 유리하며, 소비자 등급의 메모리는 우선순위가 낮은 것으로 남게 됩니다.

'메모리 중심' 설계 패러다임

현대적인 실리콘 설계는 메모리를 점점 더 일류 시민(first-class citizen)처럼 취급합니다. 칩렛(chiplets), 인터포저(interposers), 그리고 2.5D 패키징은 높은 대역폭과 낮은 지연 시간의 메모리 인터페이스에 의존합니다. 이러한 아키텍처 변화는 전통적으로 '컴퓨팅 전용' 제품조차도 상당한 메모리 대역폭을 요구하게 만들며, 공급망을 더욱 압박하고 있습니다.

소비자 장치에 미치는 파급 효과

공장 용량의 재할당은 소비자 시장에 즉각적인 결과를 가져옵니다:

소비자 장치에 미치는 파급 효과

공장 용량의 재할당은 소비자 시장에 즉각적인 결과를 가져옵니다:

• 높아진 가격: 제조사들이 소비자용 DRAM 생산을 줄이면서, OEM(주문자 상표 부착 생산) 업체들은 더 높은 부품 비용에 직면하게 되며, 이는 노트북, 데스크톱, 게임 콘솔의 가격 상승으로 이어집니다.
• 긴 리드 타임: 재고 부족은 소매업체들이 백오더(backorders)를 경험하게 만들 수 있으며, 최종 사용자들은 제품 출시가 지연되는 것을 목격할 수 있습니다.
• 성능 마진 감소: 일부 기기 제작사들은 예산 범위 내에 머무르기 위해 낮은 용량의 메모리 구성을 선택할 수 있으며, 이는 게이밍이나 비디오 편집과 같이 메모리를 많이 사용하는 애플리케이션의 성능을 저하시킬(throttling) 가능성이 있습니다.

이 상황은 과거 게이머와 암호화폐 채굴자 모두에게 영향을 미쳤던 'GPU 부족 사태'를 반영하지만, 이번에는 모든 현대 전자기기가 구동되는 근본적인 기반 자체에 영향을 주는 공급망 깊숙한 곳의 병목 현상입니다.

업계 대응: 주요 플레이어들은 무엇을 하고 있는가?

생산 능력 확장 계획

Micron과 Samsung 모두 DRAM 및 HBM(고대역폭 메모리) 용량 확대를 목표로 하는 다년간의 자본 지출 계획을 공개했습니다. 하지만 새로운 팹(fab) 건설이나 기존 라인 업그레이드는 18~24개월이 걸릴 수 있어, 완화 효과는 점진적일 것입니다.

공급원 다각화

OEM들은 소규모 메모리 공급업체와의 파트너십을 포함하여 대안적인 출처를 탐색하고 있으며, 심지어 틈새 애플리케이션을 위해 MRAM 및 ReRAM과 같은 신흥 기술도 살펴보고 있습니다. 이러한 대안들이 아직 규모 면에서 DRAM을 대체할 준비가 된 것은 아니지만, 미래의 부족 사태에 대비하는 전략적 헤지(hedge)를 나타냅니다.

소프트웨어 최적화

소프트웨어 측면에서는 개발자들이 메모리 효율적인 알고리즘과 압축 기술을 점점 더 많이 사용하고 있습니다. 예를 들어, 최근 AI 프롬프트 익스플로잇 이후 패치된 Zoom 주석 오류(Zoom Annotation Flaw Patched After AI-Prompt Exploit) 기사는 기능성을 희생하지 않으면서 메모리 사용량을 줄일 수 있도록 AI 기반 기능을 어떻게 최적화할 수 있는지 보여주었습니다. 이러한 최적화는

애플리케이션 계층에서 메모리 사용 압박을 완화할 수 있지만, 근본적인 공급 측면의 제약은 변하지 않습니다.

경쟁사들의 전략적 움직임

경쟁사들의 전략적 움직임

• **SK하이닉스(SK Hynix)**는 AI 기반 시장에서 더 큰 점유율을 확보하기 위해 2029년까지 HBM 출력을 두 배로 늘리는 데 300억 달러를 투자한다고 발표했습니다.
• NVIDIA는 차세대 GPU에 외부 DRAM 공급업체 의존도를 줄이기 위해 자체적인 메모리 패키징 솔루션, 예를 들어 'NVLink-2' 인터포저 등을 탐색하고 있습니다.
• Intel은 외부 병목 현상을 완화하기 위해 자사 3D 스택형 메모리(EMIB 기반) 출시를 포함하는 '메모리 우선(Memory-First)' 로드맵을 가속화하고 있습니다.

이러한 이니셔티브들은 메모리 부족 현상이 미래 컴퓨팅 성장의 제한 요소가 될 수 있다는 광범위한 업계의 인식을 시사합니다.

향후 전망: 부족 현상은 언제 완화될까?

Gartner와 IDC의 분석가들은 다음 조건이 충족된다는 가정 하에, 의미 있는 완화 시점을 2028년 중반경으로 예측하고 있습니다:

전체 세부 내용은 https://ltdeveloperblogs.github.io/posts/memory-executives-expect-ram-shortage-to-continue-through-2028/에서 발표된 원문을 읽어보세요.