소프트웨어 성능 전문가이자 과학자이며 GitHub 개발자인 Daniel Lemire는 과거 컴퓨터 메모리 가격을 비교하며, HBM에 대한 막대한 수요로 인해 수십 년간 이어져 온 가격 하락세가 단 몇 개월 만에 무효화되었음을 보여주었습니다. 그의 X 게시물에 따르면, 이 사건은 역사적인 이례적 현상(anomaly)이며, 그는 기술 하드웨어 가격이 수십 년 전의 수준으로 회귀한 사례를 떠올릴 수 없다고 말했습니다.

역사적으로 컴퓨터 메모리 가격은 수십 년 동안 기하급수적인 속도로 하락해 왔습니다. 하지만 우리는 방금 약 20년 동안의 진전을 무효화했습니다. 단위당 RAM 가격은 2007년 수준만큼 비쌉니다. 제가 아는 바로는, 이는 역사적인 이례적 현상입니다. 이와 유사한 사례를 기억할 수 없습니다… pic.twitter.com/UH6LgZ1fc42026년 8월 5일

"단위당 RAM 가격은 2007년만큼 비쌉니다."라고 Lemire는 말했습니다. 그는 또한 "앞으로 어떤 일이 일어날지 누구도 예측할 수 없다고 생각하지만, 우리는 그렇게 많은 메모리 없이도 AI 시스템을 구축할 방법을 찾거나, 훨씬 더 많은 메모리를 훨씬 더 빠르게 만드는 매우 영리한 방법을 찾게 될 것이라고 추측합니다."라고 덧붙였습니다.

우리는 또한 Stanford DAM Project를 위해 David Shim이 수집하고 유지 관리하는 제3자 데이터도 확인했습니다. DDR5 메모리의 최신 가격은 GB당 $13.28에서 $11.41 사이입니다. RAM이 이 가격대에 도달했던 마지막 시기는 DDR2 가격이 GB당 $15에서 $11.00 사이를 맴돌던 2008년이었습니다. 다만, 이는 명목 USD(nominal USD) 가치를 기준으로 합니다. 2024년 인플레이션을 고려하면, 현재 DDR5의 금액은 GB당 $12.74에서 $10.94 사이이며, 이는 DDR3 가격이 GB당 $11.85였던 2011년에 마지막으로 달성되었습니다.

memory pricing history

(이미지 출처: Stanford)

기술적 진보, 특히 제조 및 소형화 분야의 발전은 시간이 지남에 따라 기술이 더 저렴해진다는 것을 의미했습니다. 이는 80년 전 최초의 범용 디지털 컴퓨터 (the first general-purpose digital computer)가 만들어진 이래로 계속되어 온 사실입니다. ENIAC은 1946년 당시 정부에 400,000달러의 비용을 발생시켰으며, 이는 오늘날 가치로 약 6,850,297.44달러에 해당함을 의미합니다. 하지만 그 연산 능력은 초당 약 5,000회의 덧셈과 맞먹었습니다. 이와 대조적으로, 오늘날 구할 수 있는 가장 저렴한 스마트폰 중 하나인 Moto G Play는 99.99달러에 판매되고 있습니다. 이 스마트폰은 3.3 TOPS(초당 3.3조 회 연산)의 AI 성능을 가진 Snapdragon 680 프로세서로 구동됩니다. ENIAC을 현대의 프로세서와 직접 비교할 수는 없지만, 이는 기술이 얼마나 발전했는지, 그리고 가격이 얼마나 하락했는지에 대한 규모를 최소한 보여줍니다.

최근 메모리 가격의 막대한 상승은 기술적 퇴보나 공급 병목 현상 때문이 아니라, AI 경쟁으로 인한 HBM(고대역폭 메모리)의 엄청난 수요 때문입니다. "메모리 생산량은 연간 약 20%씩 증가하고 있습니다. 보통 규모가 크고 성숙한 산업군에서 이는 환상적으로 빠르고 놀라운 수치겠지만, 스스로에게 물어보십시오. '수요가 연간 20%씩 증가하고 있는가?'"라고 Elon Musk는 지난 SpaceX 실적 발표에서 말했습니다. "아니요, 수요는 연간 200%씩, 어쩌면 그 이상으로 증가하고 있습니다."

다른 전문가들과 업계 리더들도 Musk의 의견에 동의합니다. 메모리 칩 제조업체인 SK hynix를 소유한 지주회사 SK 그룹의 회장은 RAM 가격이 "비정상적으로 높으며," 업계가 공급을 늘리고 가격을 낮추기 위한 조치를 취해야 한다고 말했습니다. 일부 사람들이 저렴한 대안으로 주목하는 중국 제조업체 CXMT의 칩을 사용하는 RAM조차도 일반적으로 3대 기업 (Micron, Samsung, SK hynix)의 칩을 사용하는 모듈의 가격을 따랐습니다.

컴퓨터 외에도 그래픽 카드, 스마트폰, 게임 콘솔, 그리고 심지어 자동차를 포함한 다른 산업들도 이미 이러한 부족 현상의 영향을 받고 있습니다.

현재의 메모리 위기가 얼마나 지속될지는 알 수 없으나, 상황은 지속 불가능하며 “무언가는 타협해야 합니다(something has to give).” 무서운 점은 그 시점이 언제일지, 그리고 그 시기가 왔을 때 어떤 일이 벌어질지 아무도 모른다는 것입니다.