데이터 센터는 토큰(tokens)을 제품으로 생산하는 공장이 되어가고 있습니다. 토큰 경제학, 5.2조 달러 규모의 구축, 기업 비용의 역설, 그리고 2030년까지 IT 분야에서 무엇이 변할지에 대한 심층 분석 — 실제 수치와 함께.

한 단락으로 요약한 핵심 논지

2026년 GTC에서 Nvidia의 Jensen Huang은 단 한 번의 기조연설에서 "토큰"이라는 단어를 70회 이상 사용하며 운영자들에게 하나의 공식을 제시했습니다:
매출(Revenue) = 와트당 토큰(Tokens per Watt) × 가용 기가와트(Available Gigawatts). 이 화려한 연설 이면에 깔린 주장은 구조적입니다. 기계 추론(machine reasoning)의 원자 단위인 토큰이 제조되고, 등급이 매겨지며, 가격이 책정되는 상품(commodity)이 되고 있다는 것입니다. 그 결과, 2026년에서 2030년 사이 IT는 애플리케이션과 스토리지 중심으로 조직되는 것을 멈추고 다음 세 가지 질문을 중심으로 재편될 것입니다:

1. 토큰 생산 (Token production) — 누가 지능을 제조하며, 와트당 수율(yield)은 어느 정도인가?
2. 토큰 소비 (Token consumption) — 에이전트(agents)가 토큰을 어떻게 소모하며, 비용 청구는 누가 관리하는가?
3. 토큰 거버넌스 (Token governance) — FinOps, 컴플라이언스(compliance), 그리고 추론(inference)이 실행되는 위치에 대한 주권 문제.

실리콘, 전력, 클라우드, SaaS, 기업 IT 부서, 국가 정책에 이르기까지 모든 계층이 이 세 가지 질문을 중심으로 다시 그려지고 있습니다.

왜 "마이닝(mining)"이 적절한 비유인가

광산처럼, 토큰 공장은 물리학에 의해 용량이 제한됩니다(capacity-constrained by physics). 1기가와트 시설은 그냥 1기가와트일 뿐입니다. 에너지 단위당 수율이 게임의 핵심입니다.

상품처럼, 토큰은 **등급이 매겨지고 계층화(graded and tiered)**되고 있습니다. Huang은 공개적인 가격 사다리를 스케치했습니다. 저가형은 100만 토큰당 약 1달러, 중간 단계는 3~6달러, 엔지니어링 등급은 약 45달러이며, 프리미엄 추론(premium reasoning)을 위한 100만 토큰당 1,000달러는 '할 것인가'의 문제가 아니라 '언제 할 것인가'의 문제입니다.

그리고 초기 석유처럼, 이 자원은 인프라 선점 경쟁, 국가 안보적 태세, 그리고 자본 지출(capex)이 수요보다 앞서 나가고 있는지에 대한 정당한 논쟁을 촉발하고 있습니다.

1 · 공급 측면: 토큰 생산은 새로운 중공업이다

물량 곡선

Google은 매 I/O 행사마다 수치를 공개하기 때문에 가장 공개적인 벤치마크 역할을 합니다:

날짜	월간 토큰량	시사점
2024년 4월	~9.7조	챗봇 시대 — 기능으로서의 AI
...

이 수치들은 벤더(vendor)가 보고한 미감사 데이터이지만, 곡선의 형태는 다른 곳에서도 확인됩니다. Microsoft는 2025년 단일 분기에 100조(100T) 개 이상의 토큰을 보고했으며(전년 대비 5배 성장), FY26 Q3 실적 발표에 따르면 300개 이상의 Foundry 고객이 각각 1조(trillion) 개의 토큰을 처리할 궤도에 올라 있으며, 분기별 성장률(QoQ)은 30%를 가속화하고 있습니다. OpenRouter의 연간 라우팅(routing) 볼륨은 2026년 3월에 1경(one quadrillion) 토큰을 돌파했습니다. 성장 곡선은 평탄해지지 않고 있습니다. 이는 포화가 아니라 급격한 채택(adoption) 단계입니다.

그 뒤에 숨겨진 자본 지출 (Capex)

McKinsey의 데이터 센터 수요 모델은 2025~2030년 사이의 구축에 대해 세 가지 시나리오를 제시합니다:

시나리오	신규 AI 용량	2030년까지의 AI 자본 지출 (Capex)	비고
제약됨 (Constrained)	+78 GW	$3.7T	효율성 향상 + 채택 정체
...

전통적인 IT 워크로드(workload)를 위한 약 1.5조 달러($1.5T)를 더하면, 총액은 **2030년까지 7조 달러($7 trillion)에 육박하며, 이는 매년 전 세계 GDP의 약 1%**에 해당합니다. AI 점유율 중 약 60%($3.1T)는 칩(chips) 및 컴퓨팅 하드웨어로, 약 25%($1.3T)는 전력, 냉각 및 전기 분야로, 약 15%($0.8T)는 토지 및 건설 분야로 흘러 들어갑니다. 글로벌 용량 수요는 82 GW(2025년)에서 219 GW(2030년)로 거의 세 배 증가하며, 이 중 AI 워크로드가 약 70%를 차지할 것입니다.

이제 모든 운영자가 최적화하는 생산 함수

• 전력은 핵심 제약 조건(Hard constraint)입니다. 시설 용량은 기가와트(GW) 단위로 제한되어 있으므로, 모든 이득은 수율(Yield)에서 나와야 합니다. Blackwell은 수익화 비중이 높은 티어(Tier)에서 처리량(Throughput)을 약 35배 향상시켰으며, Vera Rubin 세대는 또 다른 차원(Order of magnitude)의 향상을 목표로 합니다. 하드웨어 세대를 전환하는 것만으로도 동일한 전력 범위 내에서 약 5배의 매출을 창출할 수 있습니다.
• 티어링(Tiering)이 곧 가격 모델입니다. 무료 티어는 사용자를 확보하고, 중간 티어는 규모와 속도의 균형을 맞추며, 프리미엄 티어(대규모 컨텍스트, 극한의 처리량, 낮은 지연 시간)가 마진을 창출합니다. 기가와트가 각 티어에 할당되는 방식은 정유소가 원유를 제품 등급별로 할당하는 방식과 유사합니다.
• 단위 경제성(Unit economics)이 역전되었습니다. Nvidia의 2027 회계연도 1분기 실적 발표(2026년 5월)에서, Huang은 토큰이 모델 제작자들에게 수익성이 있게 되었다고 선언했습니다. SemiAnalysis의 추정치에 따르면, 프런티어 랩(Frontier-lab)의 추론(Inference) 매출 총이익률(Gross margin)은 2025년 말에서 2026년 봄 사이 40% 미만에서 70% 이상으로 상승했습니다. 추론이 비용 선을 넘어 수익 엔진으로 전환된 것입니다.

2 · 수요 측면: 토큰의 역설

이것은 2030년까지 기업 IT 예산에 있어 가장 중요한 단일 역학이며, 전형적인 제번스의 역설(Jevons paradox)입니다. 즉, 효율성 향상이 총 소비를 줄이는 것이 아니라, 오히려 소비를 폭발시킵니다.

하락 ↓	상승 ↑
24억 건의 기업 API 호출 분석 결과, 백만 토큰당 평균 기업 비용: $18.40 → $6.07 (−67%) (2025년 1분기 대비 2026년 1분기)	평균 기업 AI 예산: $1.2M (2024) → $7M (2026); 기업의 73%가 AI 비용 예상치를 초과함 (FinOps Foundation 2026)
...

볼륨 폭발의 세 가지 구조적 동인

볼륨 폭발의 세 가지 구조적 동인

1. 에이전트 증폭(Agentic multiplication). 사용자 작업 1건당 → LLM 호출 10~20회 (추론, 계획, 도구 호출, 검증, 자체 수정). 단일 API 호출을 기준으로 계산된 파일럿 경제성은 하루 수천 번 실행되는 루프의 생산 경제성과는 무관합니다.
2. 검색 오버헤드(Retrieval overhead). RAG 파이프라인은 모든 호출에 컨텍스트를 주입하며, KV-캐시 비용은 컨텍스트 길이에 따라 증가합니다. 이 검색세(retrieval tax)는 설계된 대로 작동하고 있으며, 단지 예산 모델에서 이를 가격 책정하지 않았을 뿐입니다.
3. 백그라운드 추론(Background inference). 모니터링 에이전트, 문서 감시자, 규정 준수 감시 시스템은 인간이 요청했는지 여부와 관계없이 모든 이벤트에 대해 24시간 연중무휴로 작동합니다. 2024년 배포에서는 미미했지만, 2026년 지출에서 가장 빠르게 증가하는 비중을 차지할 것입니다.

숙련된 구매자들이 이미 달성하고 있는 것들

• 계층형 모델 라우팅(Tiered model routing) (기본값은 소규모 모델, 에스컬레이션 시 최첨단 모델 사용): 모든 것을 최첨단 모델로 보내는 방식의 $18.40/M 토큰 대비, 중앙값 혼합 비용은 $2.31/M 토큰입니다. 동일한 작업에 대해 8배의 격차를 만듭니다—순수한 거버넌스 문제입니다.
• FinOps가 AI를 흡수했습니다: 2025년 FinOps 실무자의 31%가 AI 지출을 관리했으며, **2026년에는 98%**에 달합니다. 토큰 거버넌스는 이제 이 분야의 가장 중요한 미래 우선순위입니다.
• 2027년 이후 계획 시 주의사항: 여러 분석가들은 현재 최첨단 API 가격이 비용보다 적은 수준으로 벤처 자금 지원을 받고 있으며, 이는 상향 조정되어 정상화될 것이라고 주장합니다. 모델에 구애받지 않는 아키텍처(Model-agnostic architecture)가 헤지 수단입니다.

비즈니스 모델의 연쇄 반응

Huang이 GTC 2026에서 제시한 프레임워크는 SaaS에서 에이전트 서비스형(Agent-as-a-Service)으로의 '엔터프라이즈 IT 르네상스'였습니다. 논리 사슬은 다음과 같습니다: 지능이 토큰 단위로 측정된다면, 소프트웨어는 더 이상 좌석당 임대되는 것이 아니라 작업 단위당 소비되기 시작합니다. Nvidia는 심지어 보상으로 토큰 할당량을 시범 운영하고 있습니다—Huang은 엔지니어들에게 기본 급여의 약 절반을 토큰 예산으로 제공하는 것(50만 달러 연봉 기준 25만 달러/년 할당량)을 언급했습니다. 쇼는 무시하고 신호에 집중하십시오: 토큰 예산이 인력 수와 클라우드 지출 옆에 관리되는 자원으로 기업 재무제표에 진입하고 있습니다.

반대되는 관점 또한 똑같이 중요합니다. JPMorgan, Walmart 또는 GM에게 토큰은 **제품이 아닌 원자재 (raw material)**입니다. 이들의 CIO(최고정보책임자)들은 토큰 수익에 관한 이야기보다는 더 저렴한 추론 (inference)과 명확한 ROI (투자 대비 수익) 시점을 원합니다. 두 관점 모두 옳으며, 이는 동일한 가치 사슬 (value chain)의 양 끝단을 설명합니다.

3 · IT 산업, 계층별 분석 (2026 → 2030)

계층 (Layer)	2026년 상태	2030년 궤적
에너지 (Energy)	구속 요인 (binding constraint). 미국의 데이터 센터 수요가 2023~2030년 사이 약 460 TWh 증가; 그리드 상호 연결 대기열이 새로운 칩 부족 현상임	전력 조달이 핵심 IT 역량이 됨; 과거 PUE가 보고되었던 방식처럼 와트당 토큰 (tokens-per-watt)이 보고됨
...

유럽의 특수성

EU에서 AI를 구축하거나 구매한다면 네 가지 사항이 다르며, AI Act (AI 법)의 고위험 규칙이 적용됨에 따라 (2026년 8월 2일) 매 분기 그 중요성이 커지고 있습니다:

• 주권 (Sovereignty)이 패널 토론 주제에서 조달 기준 (procurement criterion)으로 이동했습니다. 2026년의 핵심 질문은 '어디인가(where)'입니다. 칩이 어디서 제조되는지, 전력이 어디서 끌어와지는지, 누구의 법이 모델을 구속하는지, 그리고 가치가 누구의 경제로 귀속되는지가 중요합니다. 미국의 Cloud Act는 '미국 하이퍼스케일러(hyperscaler) 상의 EU-West 리전'을 데이터 거주성 (data-residency)에 대한 답으로 만들 뿐, 관할권 (jurisdiction)에 대한 답으로 만들지는 않습니다.
• 주권적 RAG (Sovereign RAG)가 규제 대상인 EU 기업들의 기본 패턴이 되고 있습니다: EU 내에 호스팅된 임베딩 (embeddings) 및 추론 (Mistral급 모델 또는 자체 호스팅된 오픈 웨이트 (open weights)), AI Act 준수를 위한 변경 불가능한 감사 추적 (audit trails), 생성 전후의 DLP (데이터 유출 방지) — 그 어떤 단계도 미국에 호스팅된 서비스를 거치지 않습니다.
• 정직한 격차: 오픈 웨이트 (open weights)는 자연스러운 주권 스택이며, 오픈 소스 추론 (open-source inference)은 10억 달러 임계값을 넘어섰습니다. 하지만 최고의 오픈 모델들은 여전히 미국과 중국의 연구소에서 파생되었으며, EU에 본사를 둔 클라우드들은 프런티어 계층 (frontier tier)에서 여전히 미미한 수준입니다 (SemiAnalysis의 ClusterMAX 순위, 2026년 봄 기준, 대략 하나의 Gold-tier와 두 개의 Silver-tier EU 제공업체).
  현재의 주권 수사 (rhetoric)는 공급망이 허용하는 수준을 초과하고 있습니다.

자신의 지식 그래프(knowledge graph)를 소유하고 GPU를 임대하는 국가가, 타인의 스택(stack)을 실행하는 기가팩토리(gigafactory)를 소유한 국가보다 더 주권적일 수 있습니다.

• 런던과 더블린의 그리드(grid) 제약으로 인해 AI 서버 성장이 북유럽과 남유럽으로 재편되고 있음 (Forrester 2026) — 이는 18개월 전에는 존재하지 않았던 비용 경쟁력을 갖춘 주권적 선택지들을 만들어내고 있습니다.

4 · 구체적인 2026 → 2030 타임라인

연도	발생하는 일
2026	쿼드릴리언(quadrillion) 토큰 시대의 시작 (Google 월 3.2Q; OpenRouter 연간 1Q). 프런티어(frontier) 모델에서 추론(Inference)이 수익성을 확보함. 토큰 티어링(token tiering)이 공식화됨. EU AI Act의 고위험(high-risk) 규칙이 8월 2일 발효됨. FinOps가 AI 지출을 통합함
...

가설을 깨뜨릴 수 있는 요인 (정직한 리스크)

• 수요를 앞지르는 자본 지출(Capex). 현재 점유율은 97%이지만, 애플리케이션 계층의 ROI(투자 대비 수익)가 실망스러울 경우, 2001년의 광섬유 과잉 공급 패턴이 반복되어 자산이 좌초될 수 있습니다. McKinsey 자체도 과잉/과소 투자 딜레마를 지적하고 있습니다.
• 보조금이 투입된 가격 책정. 프런티어 API 가격은 원가 미만이라는 견해가 지배적입니다. 현재의 가격에 고정된 아키텍처는 잘못된 바닥(false floor) 위에 구축된 것입니다.
• 효율성 충격. 희소 주의(Sparse attention), 캐시 재사용(cache-reuse) 기술(2026년 1분기 연구에 따르면 대화형 워크로드에서 연산량 15~25% 감소), 그리고 공격적인 양자화(quantization)는 수요를 기본 시나리오 아래로 꺾어버릴 수 있습니다. 이는 구매자에게는 좋지만, 인프라 구축 측면에서는 나쁜 소식입니다.
• 그리드(grid)의 현실. 상호 연결(interconnection) 타임라인과 예비율(reserve-margin) 경고(NERC)는 가용 자본과 관계없이 용량 확충을 지연시킬 수 있습니다.

운영자 체크리스트: 토큰 경제를 위한 포지셔닝

거버넌스 (Govern)

• 지금 즉시 토큰 FinOps를 구축하십시오: 워크로드별 비용 귀속, 사업 단위별 예산, 에이전틱 루프(agentic loops)에 대한 알림. 8배의 가격 차이($2.31 대 $18.40/M)는 순수하게 거버넌스의 문제입니다.
• 배포 결정 _전_에 비용 모델을 작성하십시오. 역순으로 진행하는 것이 모든 비용 초과의 시작점입니다.
• AI Act의 감사 가능성(auditability)을 위해 모든 추론(inference)을 기록하십시오: 모델 버전, 타임스탬프, 입력 해시(input hash). 문서화가 아닌 코드로서의 컴플라이언스(Compliance-as-code)를 실현하십시오.

아키텍처 (Architect)

• 계층형 모델 라우팅 (tiered model routing)을 기본값으로 설정하십시오. 최첨단 모델 (frontier models)은 에스컬레이션 경로 (escalation paths)를 위해 예약하십시오.
• 모델 불가지론적 (model-agnostic, 게이트웨이 추상화) 설계를 수행하십시오. 이를 통해 연간 30~50%에 달하는 오픈 웨이트 (open-weight) 모델의 가격 하락을 포착하고, 최첨단 API의 상향 표준화 (upward normalization)에 대비하십시오.
• EU 규제 데이터의 경우: 주권적 RAG (sovereign RAG) 패턴을 적용하십시오. 단순히 미국 클라우드의 EU 리전(region)을 사용하는 것이 아니라, 엔드 투 엔드 (end-to-end)로 EU 관할권 내에서 추론 (inference)이 이루어져야 합니다.

협상 및 계획 (Negotiate & plan)

• SaaS 갱신 시, 에이전트 단계별 과금 (agent step-billing) 및 토큰 패스스루 가격 책정 (token pass-through pricing)에 대한 투명성을 요구하십시오.
• 전력 및 용량 약정 (power and capacity commitments)을 전술적인 클라우드 구매가 아닌 전략적 소싱 (strategic sourcing, 다년/다지역)으로 취급하십시오.
• 단가가 아닌 볼륨 성장에 맞춰 예산을 편성하십시오. 2030년까지 토큰당 비용은 90% 감소하겠지만, 전체 토큰 지출은 어쨌든 증가할 것이라고 가정하십시오.

한 줄 요약 (One-line takeaway)

2026년에서 2030년 사이, IT는 현재 제조하고 있는 단일 원자재인 '토큰'을 중심으로 재편될 것입니다. 시장의 양측 모두에서 승자가 될 이들은 와트당 토큰 수 (tokens-per-watt) (생산자)와 결과당 비용 (cost-per-outcome) (소비자)를 최우선적인 엔지니어링 규율 (engineering disciplines)로 다루는 이들이 될 것입니다.

출처: Nvidia GTC 2026 기조연설 및 2027 회계연도 1분기 실적 발표; Google I/O 2026 기조연설 (Sundar Pichai); Microsoft FY25–FY26 실적 발표; OpenRouter 공개 자료 (2026년 3월); McKinsey, "The cost of compute" (2025) 및 후속 데이터 센터 연구; FinOps Foundation State of FinOps 2026; Gartner (2026년 3월); Epoch AI 벤치마크; SemiAnalysis 2026 연구; SiliconANGLE "The token economy: the state of AI mid-2026" (2026년 7월); Forrester 2026 전망. 벤더가 보고한 토큰 볼륨은 자체 선언된 것이며 감사를 받지 않았으므로, 방향성 지표로만 취급하십시오.