월요일에 발표된 새로운 연구 보고서에서 투자 은행인 Morgan Stanley는 오픈 웨이트 (open-weight) AI 모델의 발전이 기업의 도입을 가속화하고 인프라 수요를 뒷받침할 수 있다고 밝혔습니다. 이는 더 효율적인 모델이 컴퓨팅 요구 사항을 줄일 것이라는 투자자들의 우려에 반하는 분석입니다.

이 은행의 보고서는 AI에 제번스의 역설 (Jevons paradox)을 적용했습니다. 즉, 추론 (inference) 비용이 낮아지면 더 많은 작업, 에이전트 단계 (agent steps) 및 배포가 생성되어, 효율성 향상으로 인한 감소분을 더 높은 사용량을 통해 상쇄할 수 있다는 것입니다. Morgan Stanley는 평균적인 AI 작업이 2달러에서 5달러의 비용 대비 55달러의 이익을 제공한다고 추정하며, 모델 가격이 하락함에 따라 더 광범위한 도입의 여지가 있다고 보았습니다.

이러한 논거는 데이터 센터 운영자들에게 중요합니다. 왜냐하면 오픈 웨이트 (open-weight) 모델은 총 소비량을 반드시 줄이지 않으면서도 컴퓨팅이 실행되는 위치를 변화시키기 때문입니다. 기업들은 경제성과 데이터 요구 사항에 따라 퍼블릭 클라우드 (public clouds), 프라이빗 시설 (private facilities), 온프레미스 클러스터 (on-premises clusters) 또는 API를 통해 모델을 배포할 수 있습니다.

기업들은 이미 모델을 혼합하여 사용 중

Morgan Stanley가 인용한 McKinsey 설문 조사에 따르면, 응답자의 63%가 폐쇄형 (closed) 시스템과 함께 오픈 소스 (open-source) 모델을 사용하고 있는 것으로 나타났습니다. 현재 기업의 배포는 빈번한 호출이나 커스터마이징 (customization)이 필요한 코딩, 문서 파싱 (document parsing) 및 기타 워크로드에 집중되어 있습니다.

오픈 웨이트 (open-weight) 모델은 토큰당 비용 (per-token charges)을 제거하지만, 여전히 하드웨어, 호스팅, 운영 및 반복적인 미세 조정 (fine-tuning)을 필요로 합니다. Morgan Stanley는 2025년 12월 MIT 연구를 인용하며, 폐쇄형 모델에서 오픈 모델로의 전환이 평균 가격을 70% 낮추고 소비자들에게 연간 약 250억 달러를 절감해 줄 수 있다고 추정했습니다.

셀프 호스팅 (Self-hosting)의 경제성은 매우 다양합니다. 보고서에 인용된 Carnegie Mellon의 연구에 따르면, 300억 파라미터 (30 billion parameters) 미만의 배포는 회수 기간이 최대 3개월인 반면, 2000억에서 1조 파라미터 사이의 모델은 최대 6년까지 걸리는 것으로 추정되었습니다.

시나리오별 인프라 수요의 변화

Morgan Stanley는 세 가지 가능한 시장 구조를 개설했습니다. 만약 폐쇄형 모델 (closed models)이 성능 우위를 유지한다면, 워크로드 (workloads)는 하이퍼스케일러 (hyperscalers)와 자본력이 풍부한 연구소 (labs)에 집중되어, 훈련 클러스터 (training clusters), 광 네트워크 (optical networking) 및 기가와트 (gigawatt) 규모 전력에 대한 수요를 지속시킬 것입니다.

하이브리드 시장은 비용과 역량에 따라 워크로드를 분산할 것입니다. 폐쇄형 모델은 복잡한 추론 (complex reasoning)을 처리하고, 오픈 모델 (open models)은 대량의 작업 또는 도메인 특화 (domain-specific) 애플리케이션을 담당하게 됩니다. 그러한 결과는 클라우드 및 온프레미스 (on-premises) 시스템 전반에 걸쳐 라우팅 (routing), 관측성 (observability), 보안 (security) 및 모델 오케스트레이션 (model orchestration)에 대한 요구사항을 증가시킵니다.

만약 오픈 모델이 프런티어 성능 (frontier performance)에 도달한다면, 더 낮은 가격으로 인해 더 많은 추론 (inference) 작업이 프라이빗 데이터 센터 (private data centers), 소버린 클라우드 (sovereign clouds) 및 에지 디바이스 (edge devices)로 이동할 수 있습니다. 보고서에 따르면 Dell Technologies, Hewlett Packard Enterprise 및 NetApp이 이러한 탈중앙화 (decentralization)의 수혜를 입을 것으로 보입니다.