GPU 값이 왜 계속 비싸지냐면 답은 간단함. GPU가 버는 돈은 매년 10배씩 크는데, GPU 수는 3배씩밖에 안 늘어서임.

GPU 임대료의 천장은 "그 칩으로 벌 수 있는 돈"임. 지금 H100 한 장은 시간당 몇십 달러짜리 일을 하지만, 모델이 사람 몫 엔지니어가 되는 순간 그 칩 하나가 연봉 25만 달러를 벌어줌. 그러면 빌리는 쪽은 지금의 15배를 내고도 남는 장사가 됨. 벌써 시작됐음. 구글은 물량 확보하려고 시세의 2배를 미리 내고 있고, 시장 가격은 2월보다 40% 올랐음. 반대로 공급은 못 늚. 칩 성능 개선은 거의 멈췄고, 새 공장은 장비 때문에 몇 년씩 밀리고, 폰이랑 PC에서 뺏어오던 생산라인도 바닥났음.

콘서트로 치면 좌석은 3배 느는데 관객 지갑이 10배 두꺼워진 상황임. 티켓값이 오르는 것 말고는 결말이 없음.
https://t.co/RMGAO61ic0