AI 메모리 부족 사태: DRAM 및 NAND 가격 충격이 인프라 예산을 재편하는 방식
요약
AI 인프라 수요 급증으로 인해 DRAM 및 NAND 메모리 가격이 폭등하며 기업의 IT 예산 구조가 변화하고 있습니다. 주요 제조사의 공급 부족과 가격 인상으로 인해 기존의 인프라 조달 및 유지보수 전략의 전면적인 재편이 불가피한 상황입니다.
핵심 포인트
- DDR5 서버 메모리 및 엔터프라이즈 SSD 가격의 급격한 상승
- AI 인프라 구축에 따른 메모리 및 스토리지 제조 용량의 불균형적 소비
- 2026년까지 주요 메모리 제품의 물량 완판 및 공급 부족 지속
- 기존 인프라 예산 및 교체 주기 계획의 유효성 상실
기업 인프라의 비용 구조에 중대한 변화가 일어나고 있으며, 이는 IT 계획 논의에서 충분한 주목을 받지 못하고 있습니다.
지난 1년 동안 DDR5 서버 메모리 가격은 3~4배 급등했습니다. 기업용 NVMe SSD는 훨씬 더 극적인 변화를 보였습니다. 일부 30TB TLC 드라이브는 9개월 만에 약 3,000달러에서 17,000달러 이상으로 치솟았습니다. NAND 웨이퍼 현물 가격은 2025년 중반 수준 대비 약 9배 상승했습니다. 또한 메모리 제조업체들은 2026년까지 물량이 완판되었으며, 2027년 후반 전까지는 의미 있는 신규 생산 능력이 추가되지 않을 것이라고 공개적으로 밝혔습니다.
원인은 명확합니다. AI 인프라 구축이 메모리 및 스토리지 제조 용량의 불균형적으로 큰 비중을 소비하고 있으며, 이로 인해 기업 구매자들이 남은 물량을 두고 경쟁해야 하는 상황입니다.
그 결과, 2024년에 수립된 인프라 예산은 2026년 조달에는 더 이상 유효하지 않습니다. 교체 주기 (Refresh cycles), 용량 확장, 심지어 일상적인 유지보수조차 18개월 전에는 존재하지 않았던 비용 압박에 직면해 있습니다. 제가 대화하는 팀들은 과거에는 예측 가능한 범용 제품 (Commodity) 구매였던 하드웨어 항목에서 30~60%의 비용 상승을 조용히 감내하고 있습니다.
이 기사는 현재 어떤 일이 일어나고 있는지, 이것이 인프라 팀의 운영 측면에서 왜 중요한지, 그리고 현재의 시장을 헤쳐 나가는 데 도움이 된 조달 전략이 무엇인지 기록합니다. 데이터 포인트는 공개된 것이며, 운영상의 대응은 저희의 경험에서 나온 것입니다.
실제 수치가 보여주는 모습
전략을 논하기 전에, 그 규모를 명확히 이해해야 합니다. 이러한 가격 변동은 일반적인 시장 변동성 범위 내에 있는 것이 아니라, 전 세계적인 메모리 공급의 구조적 재배치를 반영합니다.
DRAM (서버 메모리)
여러 데이터 소스가 일관된 이야기를 들려주고 있습니다:
- 32GB DDR5 모듈 (modules): Samsung은 2025년 말 권장 소비자 가격(list prices)을 약 149달러에서 239달러로 60% 인상했으며, 이후 분기에도 추가 인상을 단행했습니다.
- 64GB DDR5 RDIMM (엔터프라이즈 서버의 핵심 부품): Counterpoint Research는 가격이 2025년 초 수준에서 2026년 말까지 두 배로 뛸 수 있다고 전망했습니다.
- DDR5 계약 가격 (contract pricing): 2025년에 50% 상승했으며, 2025년 4분기에 30% 추가 상승, 2026년 초에 20% 더 상승할 것으로 예상됩니다.
- DDR4 메모리 (memory): 공급이 재배치됨에 따라 DDR5 가격을 따라잡았습니다. 32GB DDR4 키트 가격은 약 6개월 만에 60
90달러에서 150180달러로 올랐습니다. - TrendForce 2026년 2분기 예측: 서버 DRAM 계약 가격이 전 분기 대비(QoQ) 추가로 상승할 것으로 예상됩니다.
- SK Hynix: 2025년 말 실적 발표를 통해 HBM, DRAM, NAND 생산 용량이 2026년까지 매진되었다고 보고했습니다.
- Micron: 일부 제품의 견적 제공을 완전히 중단했으며, 주요 고객들의 수요 중 55~60%만 충족할 수 있다고 고객들에게 전달했습니다.
64GB 모듈이 장착된 16개의 DIMM 슬롯을 가진 일반적인 2U 서버(총 메모리 1TB)의 경우, 메모리 비용만 해도 2025년 초 약 8,000~10,000달러에서 2026년 초 20,000달러 이상으로 상승했으며, 여전히 오르는 중입니다.
NAND (스토리지)
스토리지 측면은 훨씬 더 극적입니다:
- 30TB 엔터프라이즈 TLC SSD: 2025년 2분기 3,062달러에서 2026년 1분기 17,500달러로 472% 증가했습니다.
- 8TB NVMe SSD: 일부 구성은 소매가 1,400달러를 초과하여, 무게당 가격이 금보다 비싼 수준에 도달했습니다.
- NAND 웨이퍼 현물 가격 (spot prices): 2025년 중반 수준에서 약 9배 상승했습니다.
- TrendForce 2026년 1분기 데이터: 클라이언트 SSD 계약 가격이 전 분기 대비(QoQ) 최소 40% 증가했습니다.
- Kingston: NAND 웨이퍼 비용이 246% 증가했다고 보고했습니다.
- Western Digital: CEO는 회사의 2026년 물량이 완전히 매진되었음을 확인했습니다.
- 2026년 2분기 예측: NAND Flash 계약 가격이 전 분기 대비(QoQ) 70~75% 추가 상승할 것으로 예상됩니다.
- Micron은 2025년 말 모든 생산량을 AI 및 엔터프라이즈 고객에게 집중하기 위해 소비자 브랜드인 Crucial에서 완전히 철수했습니다.
저희 환경의 경우, 이는 2025년에 40만 달러로 예상했던 vSAN ESA 클러스터 구축 비용이 설계 변경 없이도 현재 70만~90만 달러에 달함을 의미합니다.
HDD (아카이브 계층에는 여전히 유효함)
AI 구축에는 방대한 콜드 스토리지 (Cold Storage) 요구 사항이 포함되기 때문에 전통적인 회전식 하드 드라이브 (HDD)조차 영향을 받고 있습니다.
- HDD 리드 타임 (Lead time)이 8
12주에서 2030주로 늘어남 - TB당 가격이 전년 대비 30~50% 상승
- 주요 제조업체 (Seagate, WD, Toshiba)들은 하이퍼스케일러 (Hyperscaler) 할당이 고용량 드라이브의 대부분을 차지하고 있다고 보고함
연쇄 효과: AI 워크로드 (Workload)는 활성 데이터 세트를 위해 빠른 SSD를 필요로 하지만, 아카이브를 위한 저렴한 HDD도 필요로 합니다. 두 부문 모두 제약을 받고 있습니다.
이러한 현상이 발생하는 이유: AI 인프라의 견인력
공급 측면의 설명은 간단합니다. 메모리 및 스토리지 제조업체들이 수요 신호에 합리적으로 대응하고 있는 것입니다.
HBM 경제성이 시장을 지배함
고대역폭 메모리 (HBM)는 현재 업계에서 가장 수익성이 높은 메모리 제품입니다. 이는 NVIDIA H100, H200, B100, B200 및 유사한 AI 가속기 (Accelerator)에 필수적입니다. 각 AI GPU는 기존 메모리보다 훨씬 더 많은 HBM을 소비합니다.
업계 분석에 따르면 HBM은 표준 DDR5와 비교했을 때 기가바이트당 웨이퍼 (Wafer) 용량을 3배 더 소비합니다. 제조업체들은 계산을 마쳤습니다. 소비자용 DRAM (마진 압박 존재) 대신 HBM (60% 이상의 매출 총이익률)을 생산하는 것입니다. 웨이퍼 재할당은 전 세계적이고 구조적인 현상입니다.
Samsung의 2026년 1분기 실적은 755%의 이익 성장을 보여주었으며, 그 중 95%가 메모리에서 발생했습니다. 메모리 제조업체들에게 전달되는 재무적 신호는 명확합니다: AI 고객을 우선시하라.
하이퍼스케일러의 엔터프라이즈 SSD 수요
공개된 소식통에 따르면, Microsoft Azure와 AWS는 각각 AI 추론 (Inference) 클러스터에 공급하기 위해 2025년에 분기당 50만 개 이상의 SSD를 구매했습니다. IDC는 2025년 2분기에만 전 세계 서버 시장 지출이 97.3% 성장했다고 보고했습니다.
하이퍼스케일러 (Hyperscalers)는 장기 계약을 통해 대량으로 구매합니다. 제조사들은 이 고객들을 우선시합니다. 기업용 SSD (Enterprise SSD)는 현재 전 세계 NAND 생산 가치의 약 60%를 차지하고 있으며, 이는 과거의 훨씬 낮았던 점유율에서 상승한 수치입니다.
나머지 NAND 시장 — 소비자용 SSD, 하이퍼스케일러가 아닌 기업 구매자, 임베디드 애플리케이션 (embedded applications) — 은 남은 물량을 두고 경쟁합니다.
공급 확대까지는 수년이 걸립니다
새로운 메모리 팹 (fabs)을 건설하고 가동하는 데는 35년이 소요됩니다. 설령 모든 제조사가 내일 당장 새로운 생산 능력을 발표하더라도, 의미 있는 공급 완화는 빨라야 20272028년은 되어야 도착할 것입니다.
주요 제조사들은 공격적인 확장을 명시적으로 발표하지 않았습니다:
- Samsung의 웨이퍼 (wafer) 생산량은 생산이 HBM으로 전환됨에 따라 490만 개(2025년)에서 470만 개(2026년)로 감소하고 있습니다.
- SK Hynix의 생산량은 190만 개에서 170만 개 웨이퍼로 감소하고 있습니다.
- Micron은 소비자가 아닌 AI와 기업용 시장에 집중하고 있습니다.
- 중국 제조사들 (YMTC, CXMT)은 확장 중이지만 2027~2028년 전까지는 풀 가동 상태가 아닙니다.
3대 NAND 제조사들은 물량을 쫓기보다는 높은 가격을 유지하는 쪽을 선택하고 있습니다. 그들의 관점에서 이것은 물량을 쏟아부어 망가뜨릴 것이 아니라, 최대한 활용해야 하는 "메모리 슈퍼 사이클 (memory super-cycle)"입니다.
이것이 인프라 팀의 운영에 의미하는 바
가격 상승은 우리 환경 전반의 운영 결정에 영향을 미칩니다. 우리가 목격한 변화는 다음과 같습니다.
교체 주기 지연
컴퓨팅 및 스토리지에 대한 표준 4년 교체 주기가 재검토되고 있습니다. 만약 하드웨어 교체가 이전 주기보다 40~60%의 비용을 추가한다면, 그것이 경제성이 있을까요? 많은 경우 답은 "1년 더 미루고, 지원 계약을 연장하며, 어느 정도의 성능 타협을 수용한다"입니다.
2026년 4분기로 계획되었던 두 건의 교체 프로젝트가 현재 2027년 2분기로 밀려났습니다. 기존 예산으로는 현재 가격에서 기존 사양을 충당할 수 없습니다.
사양 타협
교체가 진행되는 경우, 사양(specification)이 축소됩니다:
- 1TB 메모리 구성이 512GB로 축소
- 서버당 8x NVMe 구성이 4x NVMe + 2x SAS SSD로 축소
- All-NVMe vSAN ESA 계획이 하이브리드 OSA 구성으로 회귀
- 고밀도 GPU 서버의 GPU 개수가 8개에서 4개로 축소
각각의 타협은 성능에 영향을 미칩니다. GB당 비용(cost-per-GB) 방정식이 급격하게 변화함에 따라 용량 계획(Capacity planning)에 대한 논의가 더욱 어려워지고 있습니다.
용량 확장 지연
"필요할 때 구매한다
우리는 컴플라이언스 (Compliance) 접근 방식을 변경하지 않았지만, 컴플라이언스를 충족하기 위한 비용은 실질적으로 상승했습니다.
도움이 되었던 조달 전략
이 시장의 여러 조달 주기(Procurement cycles)를 거치며, 우리에게 효과적이었던 방법들은 다음과 같습니다.
다년 공급 계약 (Multi-year supply agreements)
우리는 스팟 구매 (Spot purchasing)에서 주요 벤더들과의 장기 공급 계약으로 전환했습니다. 계약 구조는 다음과 같습니다: 3년 기간 동안의 물량을 약정하고, 추가 인상에 대한 가격 보호 (사전에 정의된 인플레이션율로 상한 설정)를 받는 대신, 더 긴 리드 타임 (Lead time) 보장을 수용하는 방식입니다.
이는 리스크를 스팟 가격의 변동성에서 물량 약정 리스크로 전환합니다. 예측 가능한 워크로드 (꾸준히 성장하는 금융 인프라 등)의 경우, 이러한 트레이드오프 (Trade-off)는 효과적입니다. 하지만 불확실한 성장 (AI 워크로드)의 경우에는 신중한 사이징 (Sizing)이 필요합니다.
계약에는 사용량이 급격히 감소할 경우를 대비한 하드십 조항 (Hardship clauses)이 포함되어 있습니다. 완벽한 보험은 아니지만, 스팟 시장에 노출되는 것보다는 낫습니다.
벤더 다각화 (Vendor diversification)
과거에는 소수의 OEM 파트너 (주로 Dell, HPE)와 집중된 관계를 유지했습니다. 현재의 시장 상황은 다각화에 보상을 주고 있습니다.
우리는 특정 부품에 대해 보조 공급업체를 추가했습니다:
- 메모리 (Memory): 여러 Tier 1 공급업체로부터 검증된 소싱 (Sourcing) 확보
- SSD: 엔터프라이즈 NVMe를 위한 자격을 갖춘 대체 벤더 확보
- HDD: Seagate와 WD로 할당량 분산
한 공급업체가 할당량 (Allocation) 문제를 겪을 때, 우리에게는 대안이 있습니다. 다각화는 운영 복잡성을 증가시키지만, 단일 벤더 리스크를 크게 줄여줍니다.
재고 버퍼 (Inventory buffer)
임계 경로 (Critical paths)에 대해서는 이제 적기 생산 방식 (Just-in-time) 대신 6개월치의 버퍼 재고를 유지합니다. 특히 부족 현상이 가장 심각한 메모리와 SSD가 이에 해당합니다.
비용: 클러스터 규모에 따라 약 20만~50만 달러의 운전 자본 (Working capital)이 묶이게 됩니다. 이점: 프로젝트 예측 가능성 및 계획되지 않은 수요에 대응할 수 있는 능력입니다.
이는 의미 있는 운전 자본 (Working capital) 결정입니다. 일부 조직에게는 보유 비용 (Carrying cost)이 수용 불가능한 수준일 수 있습니다. 하지만 당사의 경우, 재고 부족 (Stockouts)으로 인한 운영 리스크 (중요 프로젝트 지연, 감사 마감 기한 미준수 등)가 재고 보유 비용을 정당화합니다.
스토리지 아키텍처의 기준 재설정 (Re-baseline storage architecture)
새로운 경제적 상황을 고려하여 스토리지 선택지를 재평가했습니다:
- 모든 스토리지에 NVMe를 적용할 계획이었던 부분에서 하이브리드 스토리지 (Hybrid storage: NVMe 캐시 + SAS 용량)가 다시 선호되었습니다.
- 계층화 (Tiering) 전략 재검토: 더 많은 콜드 데이터 (Cold data)는 HDD에, 핫 데이터 (Hot data)만 NVMe에 배치합니다.
- 성능을 위해 비활성화했던 압축 (Compression) 및 중복 제거 (Deduplication) 기능을 활성화했습니다.
- 특정 워크로드에 대해 NVMe의 대안으로 아카이브용 오브젝트 스토리지 (Object storage: 온프레미스 S3 호환)를 고려하고 있습니다.
결과적으로: 동일한 워크로드에 대해 플래시 (Flash) 점유 면적은 줄이고, 계층화는 더 공격적으로 수행하게 되었습니다. 이제 최적화의 목표는 단순한 원시 성능 (Raw performance)이 아니라, 달러당 성능 (Performance per dollar)입니다.
💡 스토리지 트레이드오프 (Trade-offs) 모델링하기: 당사의 vSAN 용량 계산기를 사용하여 귀하의 워크로드에 대해 OSA 하이브리드 방식과 ESA 올-NVMe (All-NVMe) 방식의 규모를 비교해 보세요. 현재 가격으로 하드웨어 사양을 확정하기 전에 RAID 오버헤드와 여유 공간 (Slack space)을 반드시 고려해야 합니다. 브라우저에서 바로 실행 가능하며 별도의 가입은 필요하지 않습니다.
적정 규모의 메모리 (Right-sized memory)
AI가 아닌 워크로드의 경우, 메모리 구성을 더욱 공격적으로 적정 규모 (Right-sizing)로 조정하고 있습니다:
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기