Talent over tokens: AI models are becoming more expensive to run, and

올해 초, 2026 년 제 1 분기 동안 거의 8 만 명의 근로자가 해고되었다는 보고가 나왔으며, 기업들은 이를 인공 지능 (AI) 의 확산에 책임을 돌리고 있다.

업무 효율성 개선이나 자동화를 통한 비용 절감을 통해 달성된다고 하더라도, 노동력 내에서 AI 를 도입하는 것이 경제적으로 현명한 결정이라는 점은 사실일지라도 그렇지 않았을 수도 있다. 하지만 이제 그 이야기는 설득하기 어려울 수 있다. 엔비디아 (Nvidia) 의 Bryan Catanzaro 최고 책임자는 최근 자신의 팀에서 AI 컴퓨팅 파워의 비용이 실제 근로자의 비용보다 더 비싸다고 언급했기 때문이다.

Catanzaro 의 팀은 엔비디아의 기초 모델 (foundation models) 개발에 관여하고 있지만, 근로자 사이에서의 AI 사용량은 증가하고 있다. 4 월 중순에 발표된 데이터에 따르면 미국 근로자의 약 50% 가 어떤 형태의 AI 를 사용하고 있다고 한다. 몇 주 전 우버 (Uber) 의 CTO 는 회사의 연도별 AI 예산을 단 몇 주 만에 고갈시켰다고 밝혔다. AI 사용 비용이 계속 상승한다면, 이러한 비용은 반드시 고려되어야 한다.

가장 유용한 AI 모델이 생산성 향상을 가져오지 않으면서 너무 비싸게 된다면, 토큰 (token) 비용이 누적됨에 따라 직장에서의 사용량이 급격히 줄어들 수 있다.

Hey big spender

엔비디아 CEO Jensen Huang 에게 기업이 AI 에 얼마를 지출해야 하는지 물었다면, 아마도 근로자에게 지불하는 금액의 적어도 50% 를 지출해야 한다고 대답했을 것이다. 그는 3 월에 엔비디아 엔지니어가 연봉 $500,000 을 받는다면 그 해 동안 최소한 $250,000 이상을 AI 토큰에 지출하지 않으면 "경고"를 받을 것이라고 유명하게 말했다.

Axios와의 인터뷰에서 엔비디아의 Applied Deep Learning 부사장인 Bryan Catanzaro 는 자신의 팀 내에서 "컴퓨팅 비용은 직원의 비용보다 훨씬 더 크다"고 말했다. 이러한 비용의 막대함을 보여주는 예로는 Deep Learning 팀 내의 공석 (vacancies) 을 살펴볼 수 있다. 예를 들어, Senior Software Engineer 공석의 연봉 대역은 $192,000 - $243,000 사이로 책정되어 있어, 해당 팀의 직원들이 높은 컴퓨팅 비용을 발생시키고 있음을 의미한다.

기술 산업의 모든 직원이 엔비디아 직원처럼 AI 를 사용하는 정도는 아니며, 특히 Deep Learning 팀에서 일하는 사람들은 그렇지 않다는 점을 유의해야 한다. 따라서 그들의 AI 모델 사용량과 비용은 일반 근로자의 것과 합리적으로 동일시할 수 없다.

그러나 다른 현대 기술 기업들의 맥락에서는 2026 년에 AI 지출이 증가하고 있다는 점도 발견된다. 2 월의 연구에 따르면 AI 를 사용하는 기업의 80% 이상에서 생산성 향상의 이점을 보이지 않았으며, Harvard Business Review 의 연구에 따르면 AI 사용은 근로자의 번아웃 (burnout) 비율을 높이고 있다.

우버의 CTO 는 회사가 연도별 AI 예산을 단 몇 주 만에 고갈시켰다고 말했고, GetSwan 의 CEO 는 4 명으로 구성된 팀이 한 달 동안 $113,000 이상을 AI 에 지출했다고 공유했다. 최근 Anthropic 은 개별 개발자가 토큰에 지출할 것으로 예상되는 가격표를 두 배로 높였으며, 활동적 하루당 $6 에서 $13 으로 인상되었다. 이는 개발자 당 월 약 $200 에 해당한다.