DRAM이 가장 중요한 AI 병목 (All-In Podcast)

$MU, SK hynix, Samsung, $SNDK

1. DRAM이 가장 중요한 AI 병목

레이저, 커패시터, 전력 반도체, NAND, HDD, 전력 장비 등도 병목이 될 수 있지만, “가장 중요한 병목은 DRAM”

그 이유는 AI 모델의 성능이 메모리 용량과 메모리 대역폭에 크게 좌우되기 때문이다.
AI 모델이 커질수록 더 많은 파라미터와 더 긴 컨텍스트를 처리해야 한다. 이를 위해서는 데이터를 저장할 수 있는 메모리 용량이 필요하고, 동시에 GPU가 그 데이터를 빠르게 읽고 쓸 수 있도록 높은 대역폭이 필요하다. 그래서 일반 DRAM뿐 아니라 HBM DRAM이 AI 서버 성능의 핵심 제약으로 설명됐다.

일론 머스크는 메모리가 가장 중요한 병목이라고 보고 있기 때문에 테라팹에서 메모리에 집중하고 있다

2. DRAM 공급 부족은 단기 현상이 아님

DRAM 병목이 당분간 지속될 것
Micron이 대형 고객들과 맺고 있는 공급계약이 중요하게 언급. 이 계약들은 단순한 단기 판매계약이 아니라, 가격의 하한과 상한이 설정된 공급계약.
이 공급계약들이 Micron 매출의 약 50%를 커버하며, 네 개의 대형 고객과 관련되어 있다.

중요한 부분은 가격 하한이다. 이 신규 계약들의 가격 하한이 과거 메모리 사이클 고점 수준보다 더 높은 수익성 기준에 설정되어 있다고 설명했다.
과거 DRAM 산업은 호황과 불황의 사이클이 강했다. 수요가 좋을 때는 가격과 이익률이 급등하고, 공급이 늘어나면 가격과 이익률이 급락하는 구조였다. 그런데 이번에는 대형 고객과 장기성 계약을 맺고, 가격 하한까지 설정되면서 과거보다 수익 구조가 안정적으로 바뀔 가능성이 언급됐다.

이 변화가 DRAM 산업에 “transformational”, 즉 산업 구조 자체를 바꿀 수 있는 변화일 수 있다

3. AI 서버용 DRAM과 소비자용 DRAM은 다르다

소비자용 DRAM과 AI 서버용 DRAM은 난도가 다르다

스마트폰, 노트북, 일반 PC, 가전제품 등에 들어가는 범용 DRAM은 CXMT 같은 후발 업체가 공급을 늘릴 수 있다. 하지만 AI 데이터센터에 필요한 HBM DRAM, Nvidia가 말하는 SOCAM 계열 메모리, 고성능 LPDDR 등은 훨씬 만들기 어렵다고 설명됐다.

AI 서버에 필요한 DRAM은 “마법에 가까울 정도로 과학의 정점에 있는 기술”이라는 식으로 표현됐다. 즉 단순히 생산라인만 있다고 쉽게 만들 수 있는 제품이 아니라, 공정 기술, 적층 기술, 패키징, 수율 관리, 고객 인증까지 모두 매우 높은 난도를 요구한다는 의미다.

그래서 AI 서버용 고급 DRAM에서는 여전히 Micron, SK하이닉스, 삼성전자 세 회사가 핵심 공급자.

4. AI 데이터센터가 DRAM과 HBM을 흡수하고 있다

AI 데이터센터는 GPU를 대량으로 구매한다. 그런데 GPU 하나에는 많은 양의 HBM이 붙는다. HBM 하나도 여러 개의 DRAM 다이를 쌓아 만든다.

따라서 AI 데이터센터가 GPU를 많이 살수록, 실제로는 막대한 양의 DRAM 웨이퍼와 다이를 흡수하게 된다.

“AI 데이터센터가 DRAM을 빨아들이고 있다”는 식으로 설명했다. 이 때문에 소비자 전자제품 업체들이 사용할 수 있는 DRAM 공급이 압박받고, 가격 상승 압력이 생긴다

AI 서버용 HBM 수요가 늘어나면 메모리 업체들은 더 많은 생산능력을 HBM에 배정하게 된다. 그러면 일반 노트북, 데스크톱, 콘솔, 스마트폰 등에 들어가는 메모리 공급은 상대적으로 타이트해질 수 있다.

5. 소비자용 DRAM 공급 확대가 AI 서버용 병목을 바로 풀지는 못한다

소비자용 DRAM은 상대적으로 범용 제품이다. 반면 AI 서버에 필요한 HBM, 고성능 LPDDR, SOCAM 계열 메모리는 고객 맞춤형 성격이 강하고, GPU와 함께 검증되어야 하며, 패키징 난도도 높다.

따라서 중국 업체가 범용 DRAM에서 공급을 늘리더라도, AI 서버용 고급 DRAM 시장에서 바로 Micron, SK하이닉스, 삼성전자의 공급 역할을 대체하기는 어렵다

6. 신규 메모리 팹 건설에는 시간이 걸린다

메모리 공급 부족을 해결하려면 결국 생산능력을 늘려야 한다. 하지만 신규 팹 건설은 단기간에 끝나는 작업이 아니다

일반적인 팹을 짓는 데 2년에서 3년 반 정도 걸린다고 언급됐다.
메모리 팹은 단순 공장 건물이 아니다. 초정밀 클린룸, 수많은 공정 장비, 전력·용수·화학물질 공급 인프라, 고숙련 인력, 수율 안정화 과정이 모두 필요하다. 공장을 짓는 것뿐 아니라 실제 양산 가능한 수준으로 끌어올리는 데에도 시간이 걸린다.

Micron이 미국 뉴욕에서 추진하던 공장 관련 사례도 언급. 공장을 짓는 과정에서 환경 이슈나 규제 문제가 생길 수 있고, 미국 내에서도 특히 규제가 강한 주에서는 건설이 더 어려워질 수 있다는 맥락