하드웨어 애호가, 서버 관리자, 그리고 이 사이트의 모든 정기 독자들은 거의 모든 시장에 영향을 미치고 기술 분야 전반의 가격을 상승시키고 있는 메모리 및 스토리지 부족 현상인 지속적인 "RAMpocalypse"를 잘 알고 있을 것입니다. 만약 완화를 기대하고 있었다면, 숨을 참으며 기다리지 마십시오. 지난주 국제 슈퍼컴퓨팅 컨퍼런스(International Supercomputing Conference)에서 Lenovo는 "작년과 같았던 시절은 다시 오지 않을 것"이라고 말한 것으로 알려졌습니다. 이 점을 강조하며, Lenovo의 발표 슬라이드 중 하나는 "5단계 RAMageddon 생존 가이드(The 5 Step RAMageddon Survival Guide)"라는 제목이 붙어 있었습니다.

이 소식은 독일의 _ComputerBase_를 통해 전달되었으며, 그들은 "결코(never)\

해당 보고서는 2034년까지 메모리 생산 능력을 세 배로 늘리겠다는 SK hynix의 최근 발표 계획을 뒷받침 근거로 제시하고 있습니다. Lenovo의 논리는 명확합니다. 악명 높을 정도로 이윤을 갈구하는 메모리 제조업체들이 만약 2025년 초 시장의 일부를 특징지었던 매우 낮은 마진(razor-thin margins)과 공급 과잉 상태로 돌아갈 것이라 예상했다면, 생산 확장에 이토록 막대한 투자를 하지는 않았을 것이라는 점입니다.

주장에 대한 추가적인 근거가 필요하다면, Lenovo는 서버를 설계하고 구매할 때 메모리 용량 자체가 점점 더 중요한 고려 사항이 되고 있다는 점도 시사했습니다. 벤더(vendor)들이 전통적으로 새로운 플랫폼이 지원하는 최대 메모리 용량을 광고해 왔지만, 실제로 해당 DIMM 슬롯을 채우는 비용은 훨씬 더 비싸졌습니다. 프로세서당 16개의 메모리 채널을 갖춘 새로운 듀얼 소켓 서버(dual-socket servers)가 내년에 출시될 예정임에 따라, 비교적 겸손한 구성이라 할지라도 가용 대역폭(bandwidth)을 완전히 활용하기 위해서는 약 1 TB의 설치 메모리가 필요할 수 있음을 의미합니다.

Nvidia Vera Rubin

(이미지 출처: Nvidia/YouTube)

Lenovo만이 장기적인 메모리 부족을 예측하는 유일한 기업은 아니지만, 업계의 동기부여 요인들은 유념할 가치가 있습니다. Micron은 최근 투자자들에게 최소 2027년까지 공급이 제한된 상태로 유지될 것이며, 2028년부터 점진적인 개선이 시작될 것으로 예상한다고 밝혔습니다. 반면 SK hynix는 AI 인프라가 웨이퍼 용량 (wafer capacity)을 계속 흡수함에 따라 부족 현상이 2030년경까지 지속될 수 있다고 경고했습니다. 이러한 전망은 Micron이 이미 고객들과 체결한 약 1,000억 달러 규모의 다년 공급 계약에 의해 뒷받침되며, 이는 하이퍼스케일러 (hyperscalers)들이 장기적인 메모리 가용성을 얼마나 심각하게 다루고 있는지를 강조합니다.

전통적으로 막대한 구매력을 행사하던 기업들조차 압박을 느끼고 있습니다. Apple은 미국 정부에 중국 메모리 제조사인 CXMT로부터 DRAM을 조달할 수 있도록 허가를 요청한 것으로 알려졌는데, CXMT는 펜타곤 (Pentagon)의 블랙리스트에 오른 기업입니다. 이는 가격이 계속 상승함에 따라 추가적인 메모리 공급이 얼마나 가치 있게 변했는지를 보여줍니다. 동시에 메모리 공급업체들은 수년 만에 가장 강력한 가격 결정력 (및 수익 마진)을 누리고 있으며, 이는 과거 DRAM 시장을 정의했던 호황과 불황의 가격 주기 (boom-and-bust pricing cycles)로의 복귀를 가속화할 유인을 거의 주지 않고 있습니다.

아이러니하게도, 지속되는 메모리 부족의 한 가지 결과는 HBM이 기존의 시스템 메모리(system memory)에 비해 경제적으로 더 매력적으로 변하고 있다는 점입니다. DRAM 제조업체들은 상당한 생산 능력 (significant production capacity)을 AI 가속기를 위한 고마진 HBM으로 재배치했으며, 이로 인해 범용 DDR5 및 LPDDR5에 대한 수요가 여전히 높은 상황에서 공급은 감소했습니다. 그 결과, HBM 기반 컴퓨팅에 대한 프리미엄이 줄어들었는데, 이는 HBM이 저렴해졌기 때문이 아니라 전통적인 시스템 메모리가 급격히 더 비싸졌기 때문입니다. 하이퍼스케일러(Hyperscalers)들은 어차피 GPU를 구매할 예정이었으므로, DDR5 요구 사항을 줄이기 위해 GPU 활용도를 극대화하는 것이 갑자기 매력적인 제안이 되었습니다.

이러한 변화는 일부 워크로드에 대해 GPU 가속 컴퓨팅(GPU-accelerated computing)이 이제 더 경제적일 수 있다는 Lenovo의 제안을 설명하는 데 도움이 됩니다. 만약 애플리케이션이 작업 세트(working set)의 상당 부분을 GPU에 부착된 HBM에 유지할 수 있다면, 호스트 시스템에 설치되는 DDR5를 현저히 적게 요구할 수 있습니다. 시스템 DRAM이 불과 1년 전보다 전체 서버 비용에서 훨씬 더 큰 비중 (a much larger share)을 차지하게 됨에 따라, 메모리 용량 요구 사항을 줄이는 것은 대규모 인프라 구축 비용을 실질적으로 낮출 수 있습니다.

물론 Lenovo의 장기적인 전망이 정확할지는 알 수 없으나, 메모리 가격은 역사적으로 공급 과잉 기간 이후 급격한 조정이 뒤따르는 주기적 (cyclical) 특성을 보여왔습니다. 하이퍼스케일러 (hyperscalers)들이 AI 인프라에 계속해서 수십억 달러를 쏟아붓고 있으며, 메모리 공급업체들이 고마진 기업용 제품을 점점 더 우선시함에 따라, Lenovo는 2024년과 2025년 초의 이례적으로 저렴했던 DRAM 및 NAND 가격이 일시적인 변칙 (anomaly)이었을 수 있다고 믿고 있습니다.