32GB DDR5가 이제 최소 $375 — AI발 공급 부족이 PC 조립을 계속 압박

어제 2년 전에 조립한 PC 가격을 다시 계산해 보니 2300달러에서 3650달러로 올랐음
상승분 대부분은 RAM이 210달러에서 940달러가 된 탓이고, 이제 DDR5가 막 나왔을 때보다 더 비싸짐

작년 초에 조립한 PC의 메모리만 지금은 그 PC 전체 부품값의 3배쯤 됨
정말 말이 안 되는 수준임

그때 PC를 조립하지 않은 게 후회됨
돈 자체의 문제는 아니지만, 이제는 도저히 결정을 못 하겠음
견적은 다 짜놨는데 가족 생일이 여럿 다가오고 있어서, 그 시기에는 내 물건을 사면 안 될 것 같았음
당분간은 오래된 노트북으로 버텨야 할 듯함

올해는 3.5인치 하드디스크 가격도 오르는 걸로 보임

적어도 더 악화되지는 않는 것처럼 보임

중소기업 규모에서도 압박이 현실임
EDA 칩 설계를 하는데 메모리를 많이 먹어서 서버 여러 대에 메모리 1TB를 더 넣으려 했더니, 48 x 96GB DDR5-5600 RDIMM 견적이 약 20만 유로로 돌아왔음
그것도 1년 보증 리퍼비시 메모리 기준임
이게 바가지 견적인지, 이제 계속 이렇게 갈 건지 아직 판단 중임
지난 1년 동안 서버 사양 잡고 구매하는 일이 꽤 고통스러워졌고, 우리가 운영하는 비교적 작은 규모에서는 대부분 견적 유효기간이 24시간인 “동적 가격”이 됐음

20만 유로면 미국에서 소량으로 바로 살 수 있는 소매 대체품보다 대략 50% 비싼 가격임
여러 공급업체가 물량 배정을 제한받고 있어서, 누가 받아들이는지 보려고 터무니없이 높은 견적을 보내는 중임
다들 RAM 가격 상승 뉴스를 보고 있고 새 공급업체 승인도 어렵다는 걸 아니까 가격을 올려서 반응을 보는 것임
여러 업체에서 견적을 받고, 가격에 이의를 제기하는 걸 두려워하지 않는 편이 좋음
이 시장에서는 바로 낮은 가격으로 다시 올 수도 있고, 접근 가능한 현지 소매 공급처도 확인해 볼 만함

특정 애플리케이션에서 DDR5의 전체 메모리 대역폭이 필요하지 않다면, 대부분 읽기 전용 데이터에는 플래시 저장장치를 추가하고 쓰기 많은 임시 작업공간에는 Intel Optane을 쓰는 게 최선일 수 있음
Optane은 아직 중고 시장에서 GB당 약 1달러에 팔리고, DRAM이나 최신 플래시보다 전력 소모는 크지만 대략 DDR3급 성능을 냄
그래도 플래시 대비 내구성과 낮은 지연시간은 여전히 의미가 있음
48 x 96GB DDR5-5600 RDIMM에 20만 유로면 GB당 약 40유로인데, 소비자용 DDR5 RAM 가격과 비교하면 꽤 높아 보임
RDIMM이라 차이가 일부 설명될 수는 있음

거의 10년 된 장비를 Cadence 도구용으로 업그레이드하려는 EDA 고객과 일하는 중인데 상황이 정말 암울함
오늘 아침에 RAM 64GB 서버 견적을 냈더니 거의 2만 달러였음
지금 돌리는 장비 중 일부는 RAM이 거의 1TB라서, 설계자들은 그냥 더 느린 장비를 감수해야 할 것 같음

슬프지만 그 정도가 맞아 보임
예전에는 기본으로 DDR5 1TB 서버를 샀지만 이제는 아님
견적 유효기간은 최대 7일이고, 납기는 몇 달 단위로 흔들리며, 가격 변동 때문에 어떤 이유로든 견적을 지키지 않아도 된다는 문구가 자주 들어감

Mark Zuckerberg가 AI 예산을 전부 RAM 팹 만드는 데 투자했으면 더 영리했을 거라고 아직도 생각함
아마 쉽게 돈을 찍어냈을 텐데, 대신 사내 AI 때문에 IG/Facebook 보안을 약화시키는 데 현금을 태우는 중임

소비자용 부품 사업들은 이 일로 망할 수 있음
메인보드, 케이스, 쿨러, 전원공급장치, 팬 같은 분야에서 이제 문제는 몇 곳이나 버티느냐임
이런 회사들이 곧 돌아올 것 같지 않아서 선택지와 경쟁은 영구적으로 줄어들 가능성이 큼

소비 지출 기반 경제가 왜 필요하겠나 싶음
거대 기술회사 몇 곳이 같은 1조 달러짜리 수표를 뜨거운 감자처럼 계속 돌리면 되니까

모든 게 클라우드 게임으로 밀려날 거라는 게이머들의 즉각 반응은 비현실적이라고 봄
다만 고급 워크스테이션이나 게이밍 PC가 리스 모델이나 통신사 보조금 스마트폰처럼 약정과 업그레이드 주기에 묶이는 방식으로 갈 수는 있어 보임

이런 기사에서는 가격이 왜 이렇게 높은지 더 완전한 그림을 보고 싶음
공급이 실제로 제한된 건지, 아니면 미래 부족을 예상한 움직임이 큰 건지 궁금함
나쁜 뉴스에 따른 공황 구매와 가격 후려치기가 얼마나 섞여 있는지도 알고 싶음
개인적으로는 중고 시장이 더 중요함
오래된 중고 장비 가격도 미쳤는데, 팬데믹 무렵부터 일반 플랫폼에서 가격 흐름을 만드는 중고 판매자가 취미 사용자보다 소규모 사업자로 점점 바뀌는 패턴과도 맞아떨어짐

공급은 이미 제한돼 있고, AI 회사들이 HBM을 충분한 프리미엄을 주고 선구매해서 웨이퍼 대부분이 그쪽으로 배정된 상태임
중간 유통업체들은 재고가 너무 빨리 비지 않도록 가격을 올리고 있음
다시 채울 수 있을지 확신이 없기 때문임
AI에 쏟아지는 무한한 돈이 더 넓은 경제에 끼치는 피해는 과장하기 어려움
데이터센터와 관련된 모든 것이 부족과 가격 상승을 겪을 것임
이미 있던 문제로는 전력 변압기가 있음: https://www.reuters.com/business/energy/us-power-transformer...
고유가 직후 1년 안에 가정용 전기요금까지 영향을 받으면 인기가 없을 것임

둘 다임
AI 데이터센터가 DRAM, NAND 저장장치, 하드디스크 저장장치에 엄청난 수요를 만들고 있음
그다음 Sam Altman이 Samsung과 SK Hynix에 각각 비밀리에 접근해 세계 DRAM 생산량 40% 를 “샀고”, 양쪽은 서로 비슷한 거래를 받은 줄 몰랐음
이 때문에 전체 시장이 패닉에 빠졌고, 예상되는 공급 부족 전에 모두가 서둘러 사기 시작함
더 황당한 건 제대로 된 구매계약도 아니었다는 점임
“2030년까지 무한한 돈이 생기면 당신들 DRAM을 사겠다”는 구속력 없는 약속에 가까웠음

공급은 제한돼 있음
AI가 너무 많이 사들여서 웨이퍼 부족까지 보이고, 터무니없는 미국 관세도 상황을 꼬이게 했음
그리고 이제 시작일 뿐임

2023년 eBay 영수증을 보니 “Kingston FURY Beast 64GB (2x32GB) 3200MHz DDR4”를 84.98달러에 샀음
지금 eBay 즉시구매 기준 동급품인 “Kingston FURY Renegade 64GB (2x32GB) DDR4 RAM 3200MHz (KF432C16RBK2/64)”는 374.99달러임
3년 뒤 소비자 컴퓨팅이 이런 시간선이 될 줄은 몰랐음

그건 정말 좋은 거래였음
2022년 10월에 DDR4 3200 32GB 단일 모듈을 86.30달러에 샀고, 사두길 정말 잘했음
mini-ITX 보드를 쓰는데 RAM 슬롯 하나가 죽어서 단일 모듈로 업그레이드할 수밖에 없었음
컴퓨터 부품은 역사적으로 가격이 내려간다는 흐름 때문에 늘 업그레이드를 미루는 쪽이었음
다행히 지금은 narrow.one이나 eggball 같은 “프리미엄” 웹 브라우저 게임만 하지만, GTA 6가 나오면 3050/1070 GPU로는 힘들어질 듯함

OpenAI나 Anthropic의 IPO가 끝나면 가격이 폭락할 거라고 봄
지금 그들의 IPO에 가장 큰 위협은, 사람들이 로컬 모델만으로도 그들이 파는 기능에 충분하다는 걸 깨닫는 것임
충분히 좋은 모델을 굴리는 데 가장 중요한 요소는 모델을 메모리에 올려서 심하게 느려지지 않게 하는 RAM임

시장은 누구도 숨을 참을 수 있는 시간보다 더 오래 비합리적으로 남을 수 있다는 걸 기억해야 함
자금이 더 들어오면 남은 생산능력을 파괴하는 데 더 투자할 가능성이 큼
정상 가격이라면 누구나 2000달러로 괜찮은 AI 머신을 가질 수 있다는 사실을 인정하기는 어려울 것임
쓸 만한 AI 머신 가격은 먼저 1만 달러 이상으로 갈 가능성이 큼

RAM 수요가 더 늘어나면 가격이 폭락한다는 얘기인가?

로컬 모델이 충분히 좋다면, 모두가 활용률 낮은 개인 장비에 DRAM을 사면서 DRAM 수요가 늘어나는 것 아닌가?
큰 배치 크기와 높은 활용률로 공유 하드웨어에서 추론을 돌리는 쪽이 DRAM을 더 효율적으로 쓰는 방식으로 보임

이 논리와 최근 AI 회사들의 가격 인상을 보고 오히려 메모리나 GPU에 대한 추가적인 사재기 흐름이 생길 수 있다고 생각했음
그래서 어제 지난 몇 달 동안 모은 약 500달러로 16GiB VRAM RTX 5060을 추가 주문했음
작년에 4K 게임용으로 산 RTX 5070 12GiB와, 몇 달 전 llama.cpp를 로컬로 돌리는 게 구독료 걱정 없이 좋다는 걸 깨닫고 재활용한 RTX 3060 12GiB에 더할 예정임
원래 24GiB VRAM도 오래된 잡지 이미지 스캔에서 텍스트를 전사하거나 Aider로 코딩하는 일에는 꽤 충분했음
보통 Bartowski의 Qwen/Gemma Q5_K_M 양자화를 쓰는데, 더 낮은 양자화는 가끔 이상한 결과를 내거나 “생각” 모드에서 끝없이 루프를 돌았음
이제 40GiB면 미래를 비관적으로 보는 내 관점에서도 꽤 안전할 것 같음

계획된 데이터센터 프로젝트 중 하나가 아주 크게 무너지기 전까지는 RAM 가격 조정을 보기 어려울 거라고 봄

사람들이 이 가격에도 계속 사는 게 도움이 되지는 않을 것 같음
Steam Deck도 가격이 크게 올랐는데도 약 40~50%, 24시간 만에 매진됐음
모두가 잠깐만 구매 버튼을 누르지 않으면 가격은 내려갈 텐데, 충분한 사람들이 미친 프리미엄을 주고 사고 있음
그건 더 높은 가격에 팔아도 된다는 신호가 됨
물론 AI가 이 문제를 증폭하지만, 현실적으로 소비자 하드웨어도 이 가격에 팔리고 있어서 기업은 사람들이 이 가격을 낼 거라고 알게 됨
나는 2014년 부품으로 만든 장비를 쓰고 있고 일상 개발에는 아주 충분해서, 앞으로 10년 더 손댈 필요 없는 최신 장비에서 이 글을 쓰는 건 아님

Steam Deck은 큰 예외라고 봄
그렇게 빨리 매진된 걸 보면 Valve가 이번 물량을 얼마나 만들었는지도 궁금함
대부분 PC 부품 판매자는 가파른 감소를 보고 있음
Switch, PlayStation, Xbox 등에서 2~3번 가격 인상을 본 뒤라 사람들은 이제 가격이 곧 내려가지 않고 몇 년 더 오를 가능성이 크다고 판단해 지금 사는 것 같음
나도 이런 일이 생길 게 뻔해서 Ayn Thor를 일찍 샀음
예산에 넣고 싶던 물건은 아니었지만, 안 사면 나중에 후회할 걸 알았음

그건 암묵적으로 선택지가 없거나 거의 없는 소비자에게 책임을 돌리는 방식임
RAM 구매는 Coke와 Pepsi 사이에서 고르는 것과 다름
더 나은 비유는 허리케인이 오거나 자연재해가 이미 닥쳤을 때 사람들이 어떤 가격에도 식량과 연료를 사는 상황임

도움이 된다고 보진 않지만 전체 파이에서 워낙 작은 조각이라 얼마나 해를 끼치는지도 모르겠음
Steam Deck은 틈새 속 틈새에 가깝고, PC OEM이나 휴대폰 OEM 같은 큰 플레이어와 비교하면 판매량이 크지 않음
지금은 이들도 OpenAI가 남들이 못 가지게 모든 RAM을 사려는 상황에서 몰리고 있음

“비용은 무시할 만하고 모든 이점에 비하면 정당화됩니다
성능 향상을 보면 전체 비용은 사실 줄어든 셈입니다”
Altman, 별칭 Finding Nemo의 Dory 또는 Dario, 별칭 Jimmy Neutron의 Carl

그 영화들을 본 지 오래됐는데, 그 별칭들이 무슨 뜻인지 설명해 줄 수 있음?

전자폐기물 재활용 회사의 리퍼비시 부서에서 일함
몇 달 동안 DDR5 기반 시스템을 모아 왔는데, 지금 가격으로는 기술적으로 중고 컴퓨터에 대부분 사람들이 지불하려는 금액보다 비쌀 가능성이 큼
새것 같고 아직 보증이 남아 있어도 마찬가지임
가격은 CPU + RAM + SSD를 따로 팔았을 때와 비슷하게 잡았고, 그보다 훨씬 낮출 생각은 없음
누가 DDR5 시스템을 버리냐고 궁금할 수 있는데, 지역 헬스케어 회사가 버림
일부 장비 상자는 찌그러지고 물 얼룩이 있고, 다른 것들은 사소한 부분에서 그들의 엄격한 기준을 못 맞춘 것 같음
케이스에 긁힘과 찍힘이 있어도 내 눈에는 정상적으로 보이고 잘 작동함

어차피 어떤 사람들은 이 오른 가격에도 사야 하고 결국 지불할 의사가 있음
지역마다 다를 수 있지만, Facebook Marketplace 같은 곳에 올려서 관심을 보는 데 위험은 없음

저장장치도 마찬가지임
SSD를 업그레이드하고 싶었는데 가격이 2025년 말보다 더 비쌈 4TB SSD에 500유로를 내기는 싫음
차라리 5살 때처럼 밖에 나가 자전거 타고 놀겠음

적당히 2TB로 타협하고, 남은 돈은 자전거 타면서 먹을 아이스크림에 쓰면 됨

회전하는 금속 디스크조차 리퍼비시와 서버 적출품까지 가격이 하늘을 뚫었음

로드바이크를 사는 건 저평가돼 있음
적어도 내가 사는 곳에서는 차가 거의 없는 도시 밖을 돌아다니는 게 정말 좋음