GPU/메모리 이후, '이것'이 다음 병목입니다.

Video: GPU/메모리 이후, '이것'이 다음 병목입니다.
Channel: 안될공학 - IT 테크 신기술
Duration: 15m 53s
Language: ko
Transcript:
에너지에피션시, PERF per Watt, 회사의 회사의 금액을 완전히 영향을 받는 것이고, 회사의 금액을 받는 것이고, 우리는 그의 규칙을 제거할 수 있게, 토켄의 금액을 계속해서, 더 빠르게 가능할 수 있게 됩니다. AI 회사들이 돈이 없어서 밀리는 게 아니라, 돈을 쓰고도 서버를 완성하지 못하는 상황이 벌어지고 있습니다. 올해 빅테크의 AI 인프라 지출은 6천억 달러를 넘을 수 있다는 전망이 나오고 있는데요. 일부 보도에서는 미국 주요 빅테크의 AI 관련 KPEX가, 7천억 달러를 넘는다는 숫자까지 나옵니다. 원화로 치면 거의 천조원에 가까운 돈인데요. 그런데 진짜 이상한 건 이겁니다. 이 돈이 전부 GPU로 바로 바뀌지 않습니다. 전부 AI 서비스 매출로 바로 바뀌지도 않습니다. 전력망이 막히고, 데이터 센터 부지가 막히고, 냉각이 막히고, 무엇보다 메모리가 막히고 있습니다. AI 경쟁은 이제 성능 경쟁이 아니라 예약 경쟁입니다. GPU 예약, HBM 예약, 전력 예약, 데이터 센터 예약. 이 예약을 못한 회사는 돈이 있어도 늦게 도착합니다. GPU 전쟁으로 시작했지만, 이제는 GPU를 꽂을 수 있는 인프라 전쟁입니다. 그리고 바로 여기서 판이 달라지고 있습니다. 지금 AI 업계에서 벌어지는 일은 단순한 투자 확대가 아닙니다. 돈 많은 회사들이 더 많은 GPU를 사는 이야기도 아닙니다. 이건 AI 산업의 줄 세우기가 바뀌는 사건이죠. 예전에는 이렇게 생각했습니다. 좋은 모델을 만들면 이긴다. 더 많은 GPU를 확보하면 이긴다. 더 큰 데이터 센터를 지으면 이긴다. 그런데 지금은 질문이 바뀌고 있습니다. 그 GPU를 언제 받을 수 있느냐? 그 GPU에 들어갈 HBM을 누가 확보했느냐? 그 서버에 전기를 넣을 수 있느냐? 그 열을 뺄 수 있느냐? 그 KPEX를 몇 년 동안 버틸 수 있느냐? AI 경쟁의 중심이 모델에서 인프라로, 인프라에서 공급망으로, 공급망에서 자본 체력으로 이동을 하고 있습니다. 그런데 진짜 중요한 건 여기입니다. 최근 로이터는 SK하이닉스가 글로벌 빅테크들로부터 전례 없는 제안을 받고 있다고 보도했습니다. 고객사들이 안정적인 메모리 공급을 확보하기 위해 생산라인이나 EUB 장비 투자까지 지원하려 한다는 내용이죠. 자, 이게 왜 충격적이냐? 보통 고객은 부품을 삽니다. 그런데 지금은 고객이 부품 회사의 공장 증설까지 걱정하고 있습니다. 콘서트 티켓을 사는 것이 아니라, 아예 공연장 건설비 일부를 내겠다는 상황에 가까운 거죠. 그만큼 좌석이 부족하다는 뜻입니다. 그리고 AI 시대의 좌석은 GPU만이 아닙니다. HBM입니다. DDR5입니다. SSD입니다. 전력입니다. 냉각입니다. 데이터 센터 전체입니다. 사람들이 놓치는 포인트가 하나 있습니다. AI KPEX가 커진다는 건 단순히 엔비디아가 더 잘 팔린다는 뜻이 아닙니다. AI KPEX가 커진다는 건 그 돈을 받아낼 수 있는 공급망과 그 돈을 감당해야 하는 기업 사이에 새로운 힘의 관계가 생긴다는 뜻이죠. 사실 지금까지 클라우드 기업들은 굉장히 강한 구매자였습니다. 아마존, 마이크로소프트, 구글, 메타가 사겠다고 하면 대부분의 공급업체는 줄을 섰죠. 그런데 AI 인프라에서는 상황이 달라지고 있는 겁니다. 왜냐하면 공급이 갑자기 늘지 않기 때문입니다. GPU도 바로 찍어낼 수가 없고, HBM도 바로 늘릴 수가 없고, 첨단 패키징도 바로 늘릴 수 없고, 데이터 센터 전력 인허가도 바로 나지가 않습니다. AI는 소프트웨어처럼 빨리 커지는데, AI 인프라는 중공업처럼 느리게 커집니다. 바로 이 모순이 지금의 KPEX 폭증을 만들고 있는 거죠. 문제는 바로 여기서 시작됩니다. 빅테크가 6천억 달러, 7천억 달러를 쓰겠다고 발표를 해도, 그 돈이 전부 같은 속도로 실제 컴퓨팅 파워가 되지가 않는다는 겁니다. 로이터에서는 오히려 시장이 잘못된 리스크를 보고 있을 수 있다고 지적을 했는데요. 수요가 부족할지 보다, 거대한 예산을 실제로 작동하는 데이터 센터로 바꾸는 것이, 더 즉각적인 문제일 수 있다는 거죠. 이 말이 중요한 이유는 단순합니다. AI 인프라는 GPU 박스를 주문한다고 끝나는 사업이 아닙니다. 전기가 들어와야 됩니다. 냉각이 돌아가야 합니다. 네트워크가 붙어야 됩니다. 메모리가 공급돼야 되고, 서버렉이 설치돼야 되고, 클라우드 소프트웨어까지 올라가야 합니다. 한정판 드롭에서 운동화만 사면 끝나는 게 아니라, 배송 창고, 결제 서버, 물류기사 반품 시스템까지 모두 버텨야 하는 구조라는 거죠. 여기서 어딘가 하나만 막혀도 전체 서비스가 늦어집니다. 그래서 지금의 AI KPEX는 얼마를 쓰느냐보다, 어디에서 막히느냐가 더 중요합니다. 그리고 최근 가장 선명하게 드러난 병목 중 하나가 바로 메모리입니다. 지금 AI 업계에서 가장 비싼 장면은, GPU가 계산하는 순간이 아닐 수가 있다는 겁니다. 오히려 수천만원, 수억원짜리 GPU가, 데이터를 기다리며 멈춰있는 순간일 수 있습니다. 비싼 자석을 예매놓고, 공연장이 아직 안 열린 겁니다. AI 서버에서 GPU가 계산을 담당한다면, HBM은 그 계산에 필요한 데이터를, GPU 옆에서 계속 공급해주는 역할을 합니다. AI 모델이 커질수록 계산만 많아지는 게 아니라, 읽고 써야 하는 데이터도 폭증하죠. GPU가 아무리 빨라도, 옆에서 데이터를 못 밀어 넣으면 기다립니다. 비싼 GPU가 줄 서서 대기를 하는 겁니다. 기존에는 GPU 자체의 연산 성능이 가장 중요해 보였습니다. 그런데 AI 모델이 커지고, 출원량이 늘고, 긴 문맥을 다루기 시작하면서, 메모리 대역법과 용량이 더욱더 무서운 병목으로 떠올랐습니다. 그래서 HBM을 누가 먼저, 얼마나, 어떤 가격에 확보하느냐가, AI KPEX의 핵심 변수가 된 겁니다. 로이터는 SK하이닉스의 2026년 생산분이 이미 팔렸고, 삼성 역시 다음에 HBM 고객이 줄 서 있다고 전했습니다. 또 기존 메모리 공장의 의미 있는 공급 증가는, 2027년이나 2028년 이후에야 가능하다는 분석도 나옵니다. 이게 무서운 이유는 단순합니다. AI 회사들은 지금 모델 출시 경쟁을 하는 게 아닙니다. 미래의 메모리 좌석 예약 경쟁을 하고 있습니다. 인기 식당 예약이 당일에 안 되는 것처럼, AI 인프라의 핵심 부품도 필요할 때 바로 살 수 없습니다. 예약을 못한 회사는 메뉴판을 들고 있어도 먹을 수 없습니다. AI 경쟁은 이제 성능 경쟁이 아니라 예약 경쟁입니다. 예약을 못한 회사는 돈이 있어도 늦게 도착합니다. 여기서 수혜와 압박이 갈리는 거죠. AI 골드러시에서 모두가 금을 캐러 뛰어들고 있습니다. 그런데 조용히 돈을 버는 쪽은 따로 있죠. 삽을 파는 회사들입니다. GPU 파는 회사, HBM 파는 회사, 전기 연결해주는 회사, 열을 빼주는 회사, 땅과 건물을 확보한 회사입니다. AI 모델이 이길지 질지는 아직 모르지만, 이들은 이미 계산서를 보내고 있죠. 가장 직접적인 수혜가 바로 우리나라 메모리 업체라는 겁니다. SK하이닉스, 삼성전자, 마이크론 같은 회사들은 단순히 디램을 파는 회사가 아니라, AI 인프라의 속도를 결정하는 병목 공급자가 되고 있습니다. 마이크론도 AI 데이터센터 수요로 고급 메모리 수요가 급증했고, 공급 부족과 가격 상승이 실적에 영향을 줬다고 보도했습니다. 동시에 2026년, KPEX 계획을 50억 달러 늘려서, 250억 달러 이상으로 잡았다라는 보도가 있었습니다. 이 숫자에서 봐야 할 건 단순히 투자액이 아닙니다. 메모리 업체들도 돈을 더 써야 됩니다. 하지만 이 투자도 바로 공급으로 바뀌지는 않죠. 반도체 공장은 몇 달 만에 뚝딱 만들어지는 게 아닙니다. EUB 장비, 클린룸, 공정 안정화, 수요 확보까지 시간이 걸립니다. 그러니까 AI KPEX 폭증은 한쪽에서는 고객의 투자 경쟁이고, 다른 한쪽에서는 공급업체의 증설 경쟁입니다. 그 사이에서 시간이 병목이 됩니다. 진짜 병목은 칩 안이 아니라, 칩을 둘러싼 인프라에서 터지고 있다는 말이죠. 그런데 메모리만 문제가 아닙니다. 전력도 이미 숫자로 움직이고 있습니다. IEA는 데이터센터 전력 소비가 2030년까지 약 945 테라와트시 수준으로 늘 수 있다고 전망했는데요. 이 숫자가 너무 커서 감히 잘 안 오시죠? IEA는 이 규모가 오늘날 일본 전체 전력 소비보다 약간 높은 수준이라고 설명을 합니다. 이 말은 AI가 단순히 데이터센터 안의 문제가 아니라 국가 전력망의 문제가 되고 있다는 뜻이죠. 예전 데이터센터는 효율 개선으로 전력 증가를 어느 정도 늘려왔습니다. 서버는 좋아지고, 냉각은 효율화되고, 클라우드는 규모의 경제를 냈습니다. 그런데 AI가 들어오면서 그림이 바뀌어버렸죠. GPU 서버는 훨씬 더 많은 전력을 먹고, 고밀도 렉은 훨씬 더 많은 열을 만들고, AI 추론은 사용자 수가 늘수록 계속 반복됩니다. 예전에는 모델을 한 번 훈련하면 끝나는 것처럼 보였지만, 지금은 사용자 질문 하나하나가 데이터센터 전력 소비로 이어집니다. 앱 서버가 터지는 것과 비슷하죠. 처음에는 출시일 트래픽만 버티면 된다고 생각하는데, 그런데 서비스가 일상이 되면 매일매일 피크 트래픽을 감당해야 되는 거죠. AI도 마찬가지입니다. 훈련보다 더 무서운 것은 매일 반복되는 출원 수요일 수 있다는 거죠. 그래서 AI KPEX가 한 번의 투자로 끝나는 게 아니라, 계속되는 운영비와 전력 계약, 냉각 설비, 메모리 교체 사이클로 이어진다는 겁니다. 여기서 두 번째 균열이 생깁니다. 돈이 많은 회사와 돈이 많아 보였던 회사가 갈릴 수가 있다는 거죠. 빅테크는 막대한 현금을 벌어왔습니다. 그동안 이 회사들은 자산을 가볍게 굴리는 소프트웨어 기업에 가까웠죠. 높은 마진, 강한 현금 흐름, 자사주 매입 주조화는, 그런데 AI 인프라 경쟁은 이 회사를 점점 중공업 기업처럼 만들고 있습니다. 파이낸셜 타임즈에서는 주요 빅테크의 AI 인프라 지출이 2026년에 7,250억 달러 규모로 커지면서 프리 캐시 플로우의 압박을 받고 있다고 보도했습니다. 또 이 흐름을 한 번 뒤처지면 안 되는 죄수의 딜레마에 가깝게 설명을 했죠. 이 표현이 핵심입니다. 각 회사 입장에서는 투자를 줄이고 싶을 수 있습니다. 하지만 내가 줄이는 동안에 경쟁사가 더 큰 데이터 센터를 확보하면 클라우드 고객을 빼앗길 수가 있는 거죠. 내가 쉬는 동안 경쟁사가 더 빠른 AI 서비스를 내놓으면 개발자 생태계를 빼앗길 수가 있고 내가 기다리는 동안 경쟁사가 메모리 장기 계약을 맺으면 나중에는 돈을 더 내도 못 살 수가 있습니다. 그러니까 모두가 불안해서 더 씁니다. 이건 합리적인 선택들이 모여서 전체적으로는 굉장히 위험한 자본 경쟁을 만드는 구조인 거죠. 공항 슬롯과 비슷합니다. 비행기를 더 사고 싶어도 공항 이착륙 슬롯이 없으면 못 띄웁니다. 그런데 슬롯이 부족할 것 같으면 항공사들은 미리 슬롯을 잡으려고 하죠. 그러면 슬롯 가격은 더 올라가고 후발 항공사는 들어오기가 더 어려워지죠. AI 인프라도 비슷해지고 있습니다. GPU 슬롯, HBM 슬롯, 전력 슬롯, 데이터 센터 부지 슬롯. 이 슬롯을 먼저 잡은 회사와 못 잡은 회사의 격차가 벌어질 수 있다는 겁니다. 여기서 판이 달라지겠죠. AI 경쟁에서 떨어져 나갈 위험이 큰 곳은 단순히 기술력이 부족한 회사가 아닐 수 있습니다. 오히려 애매한 자본력을 가진 회사입니다. 모델은 만들 수 있습니다. 서비스도 만들 수 있고 초기 사용자는 모을 수도 있습니다. 그런데 대규모 출원 트래픽이 붙었을 때 서버비를 감당하지 못한다고 한다면 지금의 일부 AI 회사들이 그렇듯이 쓸수록 적자가 커지는 구조가 된다는 겁니다. 그래서 앞으로 AI 스타트업의 진짜 질문은 모델이 얼마나 똑똑하냐만이 아니라는 거죠. 출원비를 누가 보조하느냐, 클라우드 크레딧이 언제 끝나느냐, 전용 인프라를 확보했느냐, 대형 플랫폼과 묶였느냐, 자체 수익으로 KPEX 경쟁을 버틸 수 있느냐, 이 질문이 훨씬 중요해질 수 있다는 겁니다. 자 그럼 여기서 이런 생각이 들 수 있죠. 그럼 돈 많은 빅테크가 그냥 다 이기는 거 아니야? 그런데 또 꼭 그렇지는 않습니다. 돈을 많이 쓰는 것과 그 돈을 수익으로 회수하는 것은 전혀 다른 게임이라는 거죠. 데이터 센터는 지어지는 순간부터 감가상각이 시작됩니다. GPU는 시간이 지날수록 구형이 되고, AI 사용량이 충분히 붙지 않으면, 오늘의 공격적인 투자가 내일의 고정비가 되는 거죠. 그리고 이런 생각도 들 수 있습니다. 그럼 메모르 회사들은 무조건 좋은 거 아니야? 사실 그것도 단순하지는 않습니다. 지금은 HBM과 고급 디램 수요가 강하지만, 공급 부족이 길어지면 업체들은 증설을 합니다. 증설이 한꺼번에 나오면 가격이 흔들릴 수가 있겠죠. 반도체는 늘 사이클이 있었습니다. 다만 이번 사이클이 과거와 다른 점은, AI 수요가 단순히 PC 스마트폰 교체 수요가 아니라는 거죠. 훈련, 추론, 검색, 에이전트, 영상 생성, 피지컬 AI, 자율주행까지 수요의 종류가 계속 늘어날 수 있습니다. 그래서 단기 사이클과 구조 변화가 겹친 현상으로 봐야 한다는 의견이 있죠. 또 하나의 오해가 있습니다. 후발 투자는 이제 끝난 거 아닌가? 그런데 그것도 너무 단순하게 생각하면 안 되는 게, 모두가 초대형 모델과 초대형 데이터 센터 경쟁으로 갈 때, 더 작은 모델, 더 효율적인 추론, 특정 산업에 최적화된 AI, 온 디바이스 AI, 프라이빗 AI 인프라가 틈새를 만들 수 있고, 지금도 그렇게 하고 있다는 겁니다. 대형 식당 예약이 꽉 찼다고 했을 때, 모든 식사가 불가능해지는 건 아니라는 거죠. 오히려 작고 빠른 전문 식당이 살아남을 수도 있다는 겁니다. 다만 대형 법룡 AI 플랫폼 경쟁에서는, 자본과 공급망을 못 잡은 회사가, 훨씬 불리해질 가능성이 크다고 볼 수가 있겠죠. 그래서 앞으로 봐야 할 포인트는 분명합니다. 먼저 각 빅테크의 KPEX 가이던스입니다. 두 번째는 지금도 주목받고 있는, 메모리, 장기계약, LTA죠. 세 번째는 전력과 데이터 센터 인허가입니다. 네 번째는 AI 매출, 투자만 커지는지, 클라우드 AI 매출과 유료 사용량이 같이 커지는지를 봐야 한다는 거죠. 다섯 번째는 공급망의 가격 결정력입니다. 엔비디아만이 아니라, 메모리, 패키징, 전력장비, 냉각 업체가 얼마나 가격을 유지하는지를 봐야 한다는 거죠. 이 모든 흐름을 하나로 묶으면 결론은 이렇습니다. AI KPEX 폭증은 단순한 투자 뉴스가 아닙니다. AI 산업이 소프트웨어 산업에서 전력 메모리, 반도체 냉각, 부동산 금융이 결합된 거대한 인프라 산업으로 바뀌고 있다는 신호라는 거죠. 처음에는 모델이 경쟁했습니다. 그 다음에는 GPU가 경쟁했죠. 이제는 메모리와 전력, 데이터 센터 완성 능력이 경쟁합니다. 진짜 병목은 칩 안이 아니라, 칩을 둘러싼 인프라에서 터지고 있습니다. 그리고 이 변화는 단순히, 누가 더 똑똑한 AI를 만들었느냐의 문제가 아닙니다. 누가 먼저 좌석을 예약했는가? 누가 더 오래 버틸 현금 흐름을 가졌는가? 누가 병목을 공급망 안에서 잠갔는가? 누가 비싼 KPEX를 실제 매출로 바꿀 수 있는가? 이 질문이 앞으로의 AI 경쟁을 가를 가능성이 큽니다. 돈을 많이 쓰는 회사가 이길까요? 아니면 병목을 가장 먼저 잠근 회사가 이길까요? 여러분은 어떻게 보시나요? 지금의 AI KPEX 경쟁은 미래를 선점하는 투자일까요? 아니면 모두가 뒤처지지 않기 위해 뛰어드는 위험한 군비 경쟁일까요? 지금까지 에러였습니다.