"HBM의 아버지" 김정호 카이스트 교수가 미국 팟캐스트에서 AI 인프라 투자자들이 불편해할 숫자를 꺼냈다 — 초대형 GPU 클러스터의 실제 활용률은 10~20% 수준, 나머지 시간 GPU는 데이터를 기다리며 논다는 것이다. 30년간 GPU를 먹여 살리는 메모리를 설계해온 사람의 진단이라 무게가 다르다.

이 말과 요즘 뉴스를 붙여 보면 아이러니가 선명해진다. 앤트로픽과 OpenAI는 컴퓨팅이 모자라 대형 고객에게도 토큰을 배급 중인데, 정작 그 비싼 GPU의 대부분은 놀고 있다 — 부족한 건 계산 능력이 아니라 데이터를 실어 나르는 속도라는 뜻이다. 김 교수의 결론은 그래서 급진적이다. 엔비디아가 이끄는 GPU 중심 패러다임은 결국 메모리 중심으로 뒤집히고, 에이전트 AI 시대엔 대역폭과 용량이 지금의 1,000배까지 커져야 하며, HBM 다음의 HBF(고대역폭 플래시)가 2027~28년 엔비디아·AMD·구글 제품에 실린다는 것.

내일 아침 삼성전자 성적표를 이 프레임으로 읽으면 다르게 보인다. 메모리 슈퍼사이클은 호황의 한 국면이 아니라, AI 병목의 무게중심이 연산에서 기억으로 넘어가는 구조 전환의 초입이라는 얘기다 — "사이클은 중간도 안 왔다"는 오늘 메리츠의 말과, 30년 메모리 설계자의 말이 같은 곳을 가리키고 있다.