"HBM의 아버지" 김정호 카이스트 교수가 미국 팟캐스트에서 AI 인프라 투자자들이 불편해할 숫자를 꺼냈다 — 초대형 GPU 클러스터의 실제

요약

김정호 카이스트 교수는 GPU 클러스터의 낮은 활용률을 지적하며, AI 인프라의 병목 현상이 연산에서 메모리로 이동하고 있다고 분석했습니다. 향후 메모리 대역폭의 폭발적 수요 증가와 HBF(고대역폭 플래시)의 등장 등 메모리 중심의 구조적 전환을 예고했습니다.

핵심 포인트

• 초대형 GPU 클러스터의 실제 활용률은 10~20% 수준에 불과
• AI 인프라의 병목 현상이 연산 능력에서 데이터 전송 속도로 이동
• 에이전트 AI 시대에 대비한 메모리 대역폭 및 용량의 급격한 수요 증가
• HBM 이후 HBF(고대역폭 플래시)가 차세대 핵심 기술로 부상 전망
• 메모리 산업은 단순 사이클을 넘어 구조적 전환기에 진입