2026년 7월 24일, Nvidia와 한국의 SK 그룹은 AI 데이터 센터 구축과 장기적인 SK Hynix 메모리 공급 계약(특히 Nvidia의 Vera Rubin 세대를 위한 HBM4)을 포함하며, Nvidia가 5,000억 달러 이상의 가치가 있다고 평가하는 다년 파트너십을 발표했습니다. 이 Nvidia와 SK Hynix의 계약은 단순한 구매 주문(Purchase Order)이 아닙니다. 이는 현재 얼마나 많은 AI 가속기(AI Accelerators)가 물리적으로 존재할 수 있는지를 결정하는 단일 부품에 대한 용량 예약(Capacity Reservation)입니다.

이 발표는 한국의 이재명 대통령이 주최한 AI 서밋이 열린 샌프란시스코에서 이루어졌으며, 그 자리에는 OpenAI, Anthropic, Broadcom의 수장들이 참석했습니다. 그 참석자 명단이 이 계약이 어떤 성격인지를 말해줍니다. 즉, 공급 계약의 형태를 띤 국가 인접적 산업 협약(State-adjacent industrial pact)인 것입니다.

HBM4가 실제로 무엇을 제공하는지, 왜 로직(Logic)이 아닌 메모리가 병목 현상(Bottleneck)이 되었는지, 5,000억 달러 규모의 예약으로 인해 누가 압박을 받게 되는지, 그리고 클라우드 GPU 시간당 비용부터 노트북의 RAM에 이르기까지 모든 것의 가격에 어떤 의미를 갖는지에 대해 설명합니다.

핵심 요약 (Key Takeaways)

• Nvidia와 SK 그룹은 2026년 7월 24일, AI 데이터 센터와 장기적인 HBM4 공급을 아우르며 Nvidia가 5,000억 달러 이상의 가치가 있다고 평가하는 파트너십을 발표했습니다.
• HBM4는 인터페이스를 32개 채널에 걸쳐 2048비트로 두 배 늘려, 스택당 2.0 TB/s 이상, 고급 구성에서는 최대 3.3 TB/s를 제공합니다.
• 12단(12-high) HBM4E 스택은 최대 16 Gbps 핀 속도에서 스택당 48 GB에 도달하며, 32Gb 레이어를 사용한 16단(16-high) 구성은 스택당 64 GB에 도달합니다.
• HBM4는 이전 세대 대비 비트당 에너지 소모를 약 30~40% 절감합니다. 이는 실리콘이 아닌 전력이 데이터 센터 규모를 제한하는 상황에서 결정적인 수치입니다.
• Samsung, SK Hynix, Micron 모두 2026년에 HBM4 생산에 참여하지만, 이 정도 규모의 예약은 선도적인 공급업체의 생산량을 사실상 선점하는 효과를 가집니다.

Nvidia와 SK Hynix의 계약에는 무엇이 포함되어 있는가?

Nvidia와 SK Hynix의 계약은 두 가지 사항을 동시에 다루는 다년 단위의 프레임워크 (framework)입니다. 바로 SK가 한국 내 AI 데이터 센터 용량을 구축 및 공급하는 것과, SK Hynix가 Nvidia의 Vera Rubin 플랫폼에 대한 HBM4 물량을 장기적으로 약속하는 것입니다. 이 계약에 대해 Nvidia가 자체적으로 평가한 가치는 수명 주기 동안 5,000억 달러를 상회하며, 이는 반도체 산업 역사상 발표된 가장 큰 규모의 공급 약속 중 하나입니다.

헤드라인에 등장하는 숫자보다 더 중요한 것은 그 구조입니다. Nvidia는 PC 제조사가 DRAM을 구매하는 방식으로 메모리를 구매하는 것이 아닙니다. 이는 항공사가 항공기를 다루는 방식과 유사합니다. 즉, 제약 요인이 가격이 아니라 '존재 여부'이기 때문에 수년 앞서 인도 슬롯 (delivery slots)을 확보하는 것입니다. 발표 내용을 보도한 바에 따르면, 이 합의는 메모리 공급을 물리적인 데이터 센터 건설과 결합하고 있으며, 이것이 핵심적인 단서입니다. 즉, Nvidia는 부품이 아닌 전체 체인 (chain)을 구매하고 있는 것입니다.

우리는 한국의 8,800억 달러 규모 AI 칩 투자 계획에서 국가적 규모의 배경을 다룬 바 있습니다. 이번 계약은 그 계획이 최대 고객을 만난 사례입니다.

Close-up of a high-bandwidth memory chip package on a circuit board

왜 GPU가 아니라 메모리가 AI의 병목 현상인가?

현대의 가속기 (accelerator)가 기존 메모리가 데이터를 공급하는 속도보다 훨씬 더 빠르게 연산할 수 있기 때문입니다. 산술 연산 장치 (arithmetic units)가 가중치 (weights)와 활성화 값 (activations)이 도착하기를 기다리며 유휴 상태로 머물게 되므로, 전체 처리량 (throughput)은 FLOPS가 아니라 대역폭 (bandwidth)에 의해 결정됩니다. 특히 생성된 모든 토큰 (token)마다 모델의 가중치를 다시 읽어야 하는 추론 (inference) 워크로드에서는 메모리 서브시스템 (memory subsystem) 자체가 곧 성능입니다.

그것이 바로 HBM이 존재하는 이유입니다. 메모리를 프로세서 옆에 평면적으로 배치하는 대신, HBM은 DRAM 다이 (die)를 수직으로 쌓고 매우 넓고 상대적으로 느린 버스 (bus)를 통해 이들을 연결합니다. 비트당 에너지 (energy per bit) 측면에서는 '넓고 느린' 방식이 '좁고 빠른' 방식보다 우수하며, 이는 전력 제한 (power-limited) 상황에 직면했을 때 실제로 중요한 지표가 됩니다.

Semiconductor Engineering의 설명에 따르면, HBM4는 이전의 어떤 세대보다 이러한 논리를 더욱 확장하며, 그 실질적인 결과로 메모리 공급 계약은 이제 컴퓨팅 공급 계약이 되었습니다.

HBM4가 실제로 제공하는 것

HBM4는 6세대 고대역폭 메모리 (high bandwidth memory) 표준입니다. 인터페이스 폭 (interface width)을 32개의 독립적인 채널에 걸쳐 2048비트로 두 배 늘려, 스택 (stack)당 2.0 TB/s 이상, 고급 구성에서는 최대 3.3 TB/s의 대역폭을 제공합니다.

두 가지 항목이 주목할 만합니다. 30~40%에 달하는 비트당 에너지 (energy per bit) 개선은 배포 계산법을 바꾸는 요소입니다. 데이터 센터의 용량이 바닥 면적이 아닌 그리드 연결 (grid connection)에 의해 제한될 때, 이동하는 바이트당 에너지가 3분의 1 줄어든다는 것은 동일한 변전소 뒤에 더 많은 가용 가속기 (accelerator)를 배치할 수 있음을 의미합니다. 또한, 32Gb 레이어를 사용한 16단 (16-high) 구성으로 구현되는 스택당 64 GB는 단일 노드에서의 조 단위 파라미터 추론 (inference)을 영웅적인 도전이 아닌 실현 가능한 영역으로 만듭니다.

Supermicro의 HBM4 입문서와 Siemens의 HBM3E/HBM4 설계 가이드는 공학적 측면에서 동일한 근본적 요점을 지적합니다. HBM4의 어려운 점은 더 이상 DRAM이 아니라, 로직 베이스 (logic base) 위에 그 많은 다이 (die)를 쌓는 패키징 (packaging)과 열 설계 전력 (thermal envelope)입니다.

5,000억 달러 규모의 예약으로 압박을 받는 곳은 어디인가?

동일한 팹 (fab)과 동일한 패키징 라인의 하류(downstream)에 있는 모든 곳입니다. 특히 세 그룹이 그렇습니다.

1. 경쟁 가속기 제조사 (Rival accelerator makers). AMD, Intel, 그리고 하이퍼스케일러 (hyperscalers)의 커스텀 실리콘 (custom-silicon) 프로그램 모두 동일한 세 곳의 공급업체로부터 HBM을 공급받아야 합니다. 선도적인 벤더 (vendor)에 대한 이 정도 규모의 예약은 그들의 구매를 막지는 못하지만, 지불 금액과 인도 시점을 변화시킵니다. 이러한 압박은 바로 수많은 팀이 비(非) HBM 설계를 탐색하고 있는 정확한 이유이며, 이는 우리가 커스텀 AI 칩 혁명 (the custom AI chip revolution)에서 추적한 변화입니다.
2. 일반 DRAM을 구매하는 모든 이들. HBM 생산은 기존 메모리로 향했을 웨이퍼 용량 (wafer capacity), 첨단 패키징 (advanced packaging) 슬롯, 그리고 엔지니어링 역량을 소모합니다. 이것이 우리가 2026년 RAM 가격이 상승하는 이유 (why RAM prices are rising in 2026)에서 기록한 가격 급등의 직접적인 메커니즘이며, 이번 계약은 그 압박을 향후 몇 년간 지속시킬 것입니다.
3. 소규모 AI 연구소 (Smaller AI labs). 프런티어급 (frontier-class) 메모리가 계약을 통해 선점된다면, 실질적인 결과로 자체적인 다년 계약이 없는 이들에게 컴퓨팅 자원 대여 비용은 계속해서 비싸게 유지될 것입니다.

이에 대한 대응책은 시장에서 눈에 띄게 나타나고 있습니다. 바로 HBM을 완전히 회피하는 아키텍처들입니다. Intel의 Crescent Island 추론(inference) GPU는 HBM 대신 LPDDR5X를 사용하며, Qualcomm의 100억 달러 베팅 (Qualcomm's $10B bet)의 대상이 된 Tenstorrent와 같은 RISC-V 도전자들은 메모리 비용 회피를 핵심 설계 목표로 삼았습니다. 주요 부품이 정치적으로 할당되는 상황이 되면, 이를 우회하여 설계하려는 유인은 급격히 상승합니다.

Rows of servers in a modern AI data center

대부분의 보도가 놓친 관점: 이것은 계약이 아니라 통화(currency)다

거의 모든 기사는 5,000억 달러라는 수치를 지출 금액으로 취급했습니다. 하지만 이는 _물리적 확실성에 대한 옵션 프리미엄 (option premium on physical certainty)_으로 이해하는 것이 더 적절합니다.

Nvidia의 2026년 실제 리스크는 누군가가 더 빠른 행렬 곱셈기 (matrix multiplier)를 만드는 것이 아닙니다. 그것은 메모리가 도착하지 않아 제조할 수 없는 가속기를 판매하게 되는 것입니다. 매 세대마다, 발표된 수요와 인도 가능한 유닛 사이의 격차는 설계 승리 (design wins)가 아니라 패키징 (packaging)과 HBM 수율 (yield)에 의해 결정되어 왔습니다. 불확실한 공급을 계약된 공급으로 전환하기 위해 막대한 금액을 지불하는 것은, 단위당 가격이 나쁘더라도 합리적입니다. 그 대안은 당신이 통제할 수 없는 부품에 의해 매출이 제한되는 분기를 맞이하는 것이기 때문입니다.

이는 경쟁 구도를 재설정합니다. 해자 (moat)는 더 이상 CUDA만이 아닙니다. 그것은 CUDA에 더해, 도전자들이 어떤 가격을 지불하더라도 살 수 없는—이미 할당되어 있기 때문에—10년 치의 선구매된 물리적 용량 (physical capacity)입니다. 이것이 제약 조건이 지적 재산 (intellectual property)에서 원자 (atoms)로 이동할 때 나타나는 산업 통합의 모습입니다. 그리고 이것이 이 분야에서 가장 흥미로운 2026년 스타트업들이 더 빠른 칩을 만드는 것이 아니라, 동일한 작업을 수행하는 데 더 적은 메모리 대역폭 (memory bandwidth)을 필요로 하는 칩을 만드는 이유입니다.

개발자들이 이에 대해 실제로 해야 할 일

당신은 HBM4를 살 수 없으며, 5,000억 달러 규모의 계약에 영향을 미칠 수도 없습니다. 당신은 워크로드 (workload)가 요구하는 대역폭의 양을 변경할 수 있으며, 2026년에는 바로 그 지점이 영향력을 행사할 수 있는 곳입니다.

• 확장(scale out)하기 전에 양자화(Quantize)하십시오. 가중치 전용(Weight-only) 양자화를 8비트 또는 4비트로 수행하면 토큰당 이동하는 바이트 수가 대략 비례하여 줄어듭니다. 메모리 대역폭 제한(memory-bound)이 있는 추론 워크로드(inference workload)에서는 이것이 단순한 반올림 오차 수준이 아니라, 거의 선형적인 처리량(throughput) 이득으로 이어집니다.
• 공격적으로 배치(Batch)를 구성하십시오. 메모리 대역폭 제한이 있는 서빙(serving)은 배치 크기가 커질수록 활용도가 극적으로 향상됩니다. 가중치를 한 번만 읽어서 배치 내의 모든 요청에 대해 비용을 분산(amortized)할 수 있기 때문입니다. 이것이 컨티뉴어스 배칭(continuous-batching) 서버가 존재하는 핵심 이유입니다. 실제 사례는 당사의 vLLM vs Ollama 비교를 참조하십시오.
• 불변하는 접두사(invariant prefix)를 캐싱하십시오. 현재 모든 제공업체는 캐싱된 입력에 대해 신규 입력의 일부 가격만 책정합니다. 안정적인 부분이 먼저 오도록 프롬프트를 구성하는 것은 사용 가능한 가장 저렴한 최적화 방법이지만, 대부분의 팀은 여전히 이를 수행하지 않고 있습니다.
• 용량(capacity)의 가격을 개월 단위가 아닌 연 단위로 책정하십시오. 만약 귀하의 로드맵이 2027년에 GPU 대여 가격이 하락할 것이라고 가정한다면, 이번 계약은 그 가설에 반하는 증거입니다. 가격이 유지되거나 상승할 것에 대비하여 예산을 편성하고, 가격 하락은 추가적인 이득(upside)으로 간주하십시오.

불편한 요약: 2026년에 더 많은 AI 컴퓨팅 자원을 확보하는 가장 빠른 방법은 더 많은 하드웨어를 구매하는 것이 아닙니다. 동일한 출력을 내기 위해 더 적은 대역폭을 필요로 하는 것입니다.

자주 묻는 질문 (Frequently Asked Questions)

Nvidia와 SK Hynix의 계약은 무엇인가요?
이는 2026년 7월 24일에 Nvidia와 한국의 SK 그룹 간에 발표된 다년 파트너십으로, Nvidia는 이 계약의 가치를 5,000억 달러 이상으로 평가하고 있습니다. 이 계약은 AI 데이터 센터 구축과 Nvidia의 Vera Rubin 칩을 위한 HBM4를 포함한 SK Hynix의 장기 메모리 공급 계약을 포괄합니다.

HBM4란 무엇인가요?
HBM4는 6세대 고대역폭 메모리(high bandwidth memory) 표준입니다. 32개의 독립적인 채널을 통해 인터페이스 폭을 2048비트로 두 배 늘렸으며, 스택당 2.0 TB/s 이상의 대역폭(고급 구성에서는 최대 3.3 TB/s)을 제공하고, 이전 세대 대비 비트당 에너지 소모를 약 30~40% 줄였습니다.

HBM4 스택에는 얼마나 많은 메모리가 들어갈까요?
12단(12-high) HBM4E 스택은 핀 속도가 최대 16 Gbps일 때 스택당 48 GB에 도달합니다. 32Gb 레이어로 구축된 16단(16-high) 구성은 스택당 64 GB에 도달하며, 대역폭은 최대 4.0 TB/s에 이릅니다.

AI 추론(Inference)에서 HBM4가 중요한 이유는 무엇인가요?
추론 과정에서는 생성되는 토큰마다 모델 가중치(Model weights)를 다시 읽어야 하므로, 처리량(Throughput)은 단순 연산 능력(Raw compute)보다는 메모리 대역폭(Memory bandwidth)에 의해 제한됩니다. 스택당 대역폭을 두 배로 늘리면 초당 토큰 생성 수(Tokens per second)가 직접적으로 증가하며, 비트당 에너지 소모를 줄이면 전력 제한이 있는 데이터 센터에서 더 많은 가속기(Accelerators)를 구동할 수 있습니다.

Nvidia와 SK Hynix의 계약이 RAM 가격을 더 비싸게 만들까요?
간접적으로는 그럴 가능성이 매우 높습니다. HBM 생산은 기존 DRAM과 동일한 웨이퍼 용량(Wafer capacity), 첨단 패키징 라인(Advanced packaging lines) 및 엔지니어링 자원을 두고 경쟁합니다. 수년간의 HBM4 물량을 확보하는 것은 이미 2026년까지 소비자용 메모리 가격을 상승시키고 있는 공급 부족 압박을 더욱 연장시킬 것입니다.

다른 HBM4 제조사는 어디인가요?
Samsung, SK Hynix, Micron 모두 2026년에 HBM4를 생산할 예정입니다. SK Hynix는 Nvidia의 주요 공급업체였으며, 이 점이 이번 규모의 예약이 일상적인 거래가 아닌 전략적으로 중요한 의미를 갖게 만듭니다.

결론