H100 GPU 하나는 약 3킬로그램입니다. 이것을 만들기 위해 TSMC와 그 공급업체들은 원자재를 약 30킬로그램 이동시키고, 제작 과정에서 추정치로 1,2001,500 kWh의 전기를 소비하며, 칩이 첫 번째 추론(inference)을 수행하기 전에 150250킬로그램의 CO2e를 배출합니다. 이것이 단 하나의 칩입니다. Meta만 해도 2024년에 600,000개를 주문했습니다.

AI의 환경 영향에 대한 논의는 계속해서 데이터 센터 문 앞에서 멈춥니다. 전력 소비량(watts)과 발생하는 열을 계산한 후, 문제를 이해했다고 선언합니다. 하지만 문제는 이해되지 않고 있습니다. 그것은 공급망, 광산 채굴권, 공장 용수, 그리고 하드웨어가 폐기되는 가나와 파키스탄의 쓰레기 매립지에 숨겨져 있습니다.

이 글은 희토류 광산부터 전자 폐기물(e-waste) 투기장에 이르기까지, AI가 지구에 실제로 비용을 얼마나 지불하는지 전체 수명 주기 분해 분석입니다. 그리고 이는 업계 전체가 10년 동안 방목해 온 하나의 신성한 믿음, 즉 '클린 클라우드가 깨끗한 AI를 의미한다'는 믿음에서 시작합니다.

전체 수명 주기 (Full Lifecycle)의 다섯 단계

대부분의 AI 탄소 회계(carbon accounting)는 운영 배출량(operational emissions), 즉 추론 및 훈련 시간에 GPU가 소비하는 전력에만 그칩니다. 이것은 다섯 단계 중 하나이며, 하드웨어 수명 주기 동안 종종 가장 작은 부분입니다.

1. 추출 (Extraction). 희토류 원소(rare earth elements), 코발트(cobalt), 탄탈럼(tantalum), 텅스텐(tungsten), 금(gold), 고순도 석영(high-purity quartz) 등이 필요합니다. 이러한 광물 채굴은 탄소 집약적이고, 물을 많이 사용하며, 지리적으로 편중되어 있습니다. 콩고민주공화국은 전 세계 코발트의 약 70%를 공급하며, 그 중 상당 부분은 노동 착취가 보고된 수작업 광산에서 나옵니다. 희토류 가공은 중국이 주도하고 있으며, 중국은 역사적으로 EU에서는 불법일 환경 파괴를 용인해 왔습니다.

2. 제조 (Fabrication). 반도체 팹(fab)은 역사상 가장 자원을 많이 소비하는 산업 시설 중 하나입니다. 최첨단 팹 하나는 가동 시간당 50~100 MWh를 소비하며, 중소 규모 도시와 맞먹는 속도로 초순수(ultrapure water)를 사용합니다. TSMC의 연간 전력 소비량은 약 22 TWh로, 아이슬란드 국가 전체보다 많은 양입니다. 최첨단 칩의 내재 탄소 배출량(embodied carbon)은 주로 팹 전기와 공정 가스에 의해 결정되며, 여기에는 수천 단위의 지구 온난화 잠재력(global warming potentials)을 가진 불소화 화합물(fluorinated compounds)이 포함됩니다.

3. 패키징 및 조립 (Packaging and assembly). 첨단 패키징(CoWoS, HBM 스태킹) 자체도 에너지 집약적이며 희소 자원을 사용합니다. HBM 메모리 스택은 AI 가속기의 내재 탄소 배출량에서 상당하고 증가하는 부분을 차지합니다.

4. 운영 (Operation). 이 부분이 업계에서 주로 논의되는 부분입니다. 최신 모델(frontier model)을 훈련시키는 데는 수십 GWh가 소비될 수 있습니다. 수백만 건의 일일 질의를 거쳐 추론(inference)하는 것은 이제 훈련에 필적하거나 그보다 더 많은 양이 되었습니다. IEA는 AI 워크로드를 주요 동인으로 삼아 데이터 센터 전력이 2026년까지 두 배가 될 것으로 예측합니다.

5. 폐기 (Disposal). GPU와 서버는 하이퍼스케일(hyperscale) 환경에서 유효 수명이 3~5년입니다. 그 이후에는 글로벌 전자 폐기물 스트림으로 진입합니다. 2022년에 전 세계적으로 약 6,200만 톤의 전자 폐기물이 발생했으며, 공식적인 재활용률은 25% 미만입니다. 나머지는 매립되거나 소각되거나 환경 규제가 취약한 국가에서 비공식적으로 처리됩니다.

라이프사이클이 원형은 아닙니다. 끝에서 나가는 선이며, 대부분의 회계가 어둠 속으로 사라지는 곳이 바로 그 출구입니다.

신성한 소(Sacred Cow): “청정 클라우드는 청정 AI를 의미한다”

제가 해체하고 싶은 믿음이 있습니다. 이것은 지난 3년간 발표된 거의 모든 AI 지속 가능 보고서의 핵심 가정입니다.

주장은 다음과 같습니다: 우리 데이터 센터는 재생 에너지로 운영되므로, 우리의 AI는 깨끗하다.

하지만 이는 세 가지 이유로 대부분 틀렸습니다.

첫째, 재생 에너지 구매가 곧 재생 에너지 소비를 의미하는 것은 아닙니다. 대부분의 하이퍼스케일러(hyperscalers)는 연간 전력 소비량에 맞춰 재생 에너지 크레딧(RECs)을 구매하거나 전력 구매 계약(PPAs)을 체결합니다. 하지만 그리드는 귀하의 계약 따위 신경 쓰지 않습니다. 새벽 3시에 석탄 발전 비중이 40%인 그리드에서 100MW를 끌어다 쓴다면, 다른 주에서 다른 시간에 무엇을 구매했는지와 관계없이 40MW의 석탄 전력을 사용한 것입니다. 중요한 것은 한계 배출량(Marginal emissions)이며, RECs는 한계 배출량을 해결해주지 못합니다.

둘째, 운영 배출량은 이야기의 일부일 뿐입니다. 하드웨어에 내재된 탄소(embodied carbon), 팹 전력, 채굴 과정, 그리고 최종 폐기까지 모두 PPA로 상쇄할 수 없는 실제 배출량입니다. 3년의 수명을 가진 GPU 중심 워크로드의 경우, 내재 탄소가 전체 라이프사이클 배출량의 30~50%를 차지할 수 있습니다. 어떤 회사가 “우리 AI는 탄소 중립이다”라고 말하는 것을 들으면, 그들이 내재 탄소를 계산하고 있는지 물어보십시오. 보통은 그렇지 않습니다.

셋째, 폐기 단계가 거의 항상 제외됩니다. 전자 폐기물(E-waste)은 글로벌 외부성(global externality)이며, AI가 학습되는 것과 아무 관련이 없는 국가에 주로 떨어집니다. 아이오와에서 3년간 작동했던 GPU는 다음 30년 동안 아크라에서는 독성 부채입니다.

만약 당신이 빌더(builder)나 운영자(operator)라면, 실질적인 함의는 이렇습니다: 청정 클라우드 계약이 곧 청정 AI 발자취를 의미하지 않습니다. 전체 라이프사이클을 측정해야 하며, 그렇지 않으면 무엇을 배출하는지 알 수 없습니다.

보고서에 포함되지 않는 숫자들

논의가 모호하기 때문에 구체적인 수치가 필요합니다.

TSMC의 2023년 전력 소비량은 약 24.8 TWh로, 대만 전체 전력의 약 6%에 달합니다. TSMC는 2050년까지 Net-Zero를 목표로 했지만, 절대 배출량은 여전히 증가하고 있습니다.

3nm 웨이퍼: 패키징 이전 단계에서 웨이퍼당 약 1.5~2톤의 CO2e가 발생합니다. 단일 웨이퍼는 수백 개의 칩을 생산하므로 칩당 내재 탄소량은 다양하지만, 총합은 엄청납니다.

코발트: DRC(콩고민주공화국)에서 전 세계 공급량의 약 70%를 생산합니다. 2023년 연구에 따르면 DRC의 산업용 코발트 채굴은 코발톤 1톤당 약 1.5~2.5톤의 CO2e를 배출하며, 물 오염과 폐기물(tailings) 문제도 야기합니다.

희토류 가공: 중국이 광산 채굴량의 약 60%와 가공량의 85%를 장악하고 있습니다. 바얀오보(Bayan Obo) 광산만 해도 면적 5제곱마일 규모의 폐기물 호수와 주변 지역의 높은 방사능을 남겼습니다.

물: 최첨단 Fab은 하루에 초순수(ultrapure water) 200만400만 갤런을 사용합니다. TSMC의 총 물 소비량은 인구 100만200만 명 규모 도시와 맞먹습니다.

전자 폐기물(E-waste): 전 세계 총량이 2022년에 6,200만 톤에 달했으며, 매년 약 260만 톤씩 증가하고 있습니다. 공식적인 재활용으로는 25% 미만을 회수합니다. 나머지는 비공식적이며 종종 유독하고 주로 글로벌 사우스(Global South) 지역에서 처리됩니다.

H100당 내재 탄소량: 추정치는 150~250 kg CO2e 범위에 있으며, 이는 주로 Fab 에너지, HBM 스태킹, 기판 제조에 의해 발생합니다.

운영 측면을 추가하자면: 단일 프론티어(frontier) 학습 실행만으로도 그리드, 모델 크기, 기간에 따라 500~1,500톤의 CO2e를 배출할 수 있습니다. 이를 수행하는 연구소의 수로 곱하고, 전 세계적인 규모의 추론(inference)까지 곱하면 됩니다. 이 수치들은 어떤 재생 에너지 조달 전략으로도 상쇄하기 어려울 정도로 빠르게 복합적으로 증가합니다.

왜 라이프사이클이 양 끝단에서 모두 파괴되는가

채굴 단계와 폐기 단계는 공통적인 특징을 가지고 있습니다. 바로 가치가 포착되는 곳과 책임 소재가 있는 곳으로부터 멀리 떨어진 곳에서 발생한다는 점입니다.

추출은 칠레, 인도네시아, 중국의 DRC에서 일어나며, 이 지역들은 역사적으로 환경 보호보다 생산량을 우선시하는 규제 체제를 갖추고 있습니다. 폐기는 가나, 파키스탄, 나이지리아, 인디아에서 이루어지는데, 이곳에서는 비공식적인 재활용업자들이 케이블과 산성 용액에 담근 회로 기판을 태워 금속을 회수하며 노동자와 지역 사회를 납, 수은, 다이옥신에 노출시키고 있습니다.

사슬의 중간 지점인 팹(fab)과 데이터 센터가 돈과 언론의 주목을 받는 곳입니다. 이는 우연이 아닙니다. 글로벌 공급망이 피해를 분배하는 구조적 특징입니다.

만약 AI 제품을 개발하고 있다면, 그 함의는 불편하지만 명확합니다. 당신은 통제할 수 없고 쉽게 감사(audit)할 수 없는 공급망의 하류에 있다는 것입니다. '탄소 중립' 주장은 거의 항상 이 사슬의 끝부분까지 포함하지 못합니다. 대부분의 ESG 보고서도 마찬가지입니다.

실질적인 개입 방안에 대해 이야기해 봅시다. 슬로건이 아닌 실제 행동들입니다.

1. 하드웨어 수명 연장. 내재 탄소(embodied carbon)를 줄이는 가장 높은 레버리지 이동은 GPU를 더 오래 사용하는 것입니다. 3년 대신 5년간 작동하는 GPU는 그 내재 탄소를 67% 이상 많은 컴퓨팅에 걸쳐 상각합니다. 이것은 화려하지 않으며, 업계가 중독된 업그레이드 주기와 충돌합니다. 그래도 실행해야 합니다.

2. 워크로드를 한계 그리드(marginal grid) 탄소와 일치시키기. 전력망이 가장 깨끗할 때, 그리고 그곳에서 학습을 수행하세요. 이는 추론(inference)의 경우 종종 불가능한 방식으로 스케줄링될 수 있습니다. 기존 도구를 사용하면 학습 실행당 한계 배출량을 30% 줄이는 것이 가능합니다.

3. 토큰당 줄(joule)을 일급 지표로 추적하기. 양자화(Quantization), 증류(Distillation), 투기적 디코딩(speculative decoding), MoE 라우팅은 사소한 품질 손실만으로도 추론 에너지를 3배에서 8배까지 절감할 수 있습니다. 대시보드에 지연 시간과 비용은 표시하지만 토큰당 에너지는 표시하지 않는다면, 다음번에 당신을 제약하게 될 지표에 대해 눈가리개를 하고 있는 것입니다.

4. 공급업체로부터 공급망 투명성을 요구하기. 하드웨어 제공업체에게 단위당 내재 탄소, 팹 위치, 에너지 구성 비율(energy mix), 그리고 수명 종료 프로그램에 대해 문의하세요. 대부분은 답을 알지 못할 것입니다.

실행하는 사람에게는 프리미엄을 지불할 가치가 있습니다.

5. 구매하기 전에 폐기 계획을 세우세요. 대규모로 배포한다면 하드웨어 퇴역(retirement) 계획을 수립하세요. 재생(refurbish), 재판매 또는 책임 있는 재활용 업체를 통해 파기 인증을 받으세요. 기본 경로는 아크라행 컨테이너선입니다.

수명 주기 인식 계측(lifecycle-aware instrumentation)의 코드 레벨 시작점을 원한다면:

AI 워크로드에 대한 대략적인 수명 주기 인식 탄소 회계

def lifecycle_co2(
gpu_hours, # 워크로드를 위한 총 GPU 시간
gpu_power_w, # GPU당 평균 전력 (W)
pue, # 시설 전력 사용 효율성(PUE)
grid_g_per_kwh, # 한계 그리드 탄소 강도
embodied_kg_per_gpu, # GPU당 내재된 탄소 배출량
gpu_lifetime_hours, # 예상 서비스 수명 시간
gpus_used, # 프로비저닝된 GPU 개수
):
operational_kg = (
gpu_hours * (gpu_power_w / 1000) * pue * grid_g_per_kwh / 1000
)
embodied_kg = (
gpus_used * embodied_kg_per_gpu * (gpu_hours / gpu_lifetime_hours)
)
return {
"operational_kg_co2e": operational_kg,
"embodied_kg_co2e": embodied_kg,
"total_kg_co2e": operational_kg + embodied_kg,
}

만약 팀이 operational_kg 라인만 추적하고 있다면, 워크로드 형태와 하드웨어 세대에 따라 전체 배출량의 30%에서 50%를 놓치고 있는 것입니다.

정신 모델 (The Mental Model)

제가 유지하길 바라는 관점은 다음과 같습니다.

AI의 탄소 발자국은 데이터 센터만의 문제가 아닙니다. 데이터 센터가 중간에 위치한 글로벌 공급망 문제입니다. 업계는 지난 10년간 중간 부분(데이터 센터 운영)만을 최적화하고 끝부분(공급 및 폐기)을 무시해 왔습니다. 이는 끝부분이 운영 규모에 비해 작았을 때는 효과적이었습니다. 하지만 지금은 그렇지 않습니다. 왜냐하면 칩이 더 복잡해지면서 내재된 탄소 배출량(embodied carbon)이 증가하고, 배포가 커지면서 폐기 외부성(disposal externalities)이 누적되기 때문입니다.

분석의 올바른 단위는 '추론당 kWh'가 아닙니다. 광산 채굴부터 매립지까지 전 과정을 포함하여 측정된, 유용한 작업 단위당 전체 수명 주기 탄소량입니다. 이를 측정하는 팀은 매우 적습니다. 이 기준을 충족하는 팀들은 규제, 조달 표준, 고객 기대치가 따라잡았을 때 구조적으로 유리한 위치에 있을 것입니다. 그렇지 못한 팀들은 노출될 것입니다.

흥미로운 질문은 AI가 탄소 중립적일 수 있는지 여부가 아닙니다. 산업이 강요받기 전에 전체 수명 주기를 자체 책임으로 간주할 것인지 여부입니다. 역사는 그렇게 하지 않을 것이라고 시사합니다. 이것이야말로 이번 주부터 자신만의 스택에서 메워야 할 격차입니다.

여러분은 어떻게 생각하십니까? 만약 여러분의 인프라에 내재 탄소(embodied carbon)를 측정하려고 시도했다면, 어디서 막히셨습니까? 그리고 아직 시도하지 않았다면, 시작하기 위해 무엇이 필요할까요? 댓글로 남겨주세요.