2조8천억 파라미터짜리 초대형 모델이 나왔는데 엔비디아랑 마이크론이 떨어졌다. 모델이 커지면 GPU를 더 사야 하는 거 아니었나.

요약

Kimi K3와 같은 초대형 모델이 계산 효율을 높이는 희소화(Sparsity) 구조를 채택하면서 엔비디아와 마이크론의 주가가 하락했습니다. 하지만 모델 규모가 커짐에 따라 메모리 점유량은 여전히 높으며, 절감된 계산 자원은 더 긴 문맥과 에이전트 활용으로 재투자될 전망입니다.

핵심 포인트

• Kimi K3 등 최신 모델의 극단적 희소화 구조 채택
• 계산 효율 증가로 인한 GPU 수요 감소 우려와 시장 반응
• 모델 파라미터 증가에 따른 대규모 메모리(VRAM) 필요성 지속
• 절감된 연산 자원이 긴 문맥 및 에이전트 기능으로 전이