Speakeasy의 Founding Growth Engineer인 [Nolan Sullivan]이 작성했으며, Originally published on Speakeasy에 최초 게재되었습니다.
하나의 조직 전체 API 키가 누가 청구서의 원인인지 숨깁니다. AI 지출을 귀속시키기 어려운 이유, 3단계로 추적하는 방법, 그리고 재무 및 플랫폼 팀을 위한 성숙도 모델.
AI 비용 추적 (AI cost tracking)
AI 비용 추적은 조직이 개인 구독(personal subscriptions), 엔터프라이즈 라이선스(enterprise licenses), 제공업체 API 호출(provider API calls), 그리고 모델 라우팅(model routing) 등 AI 사용에 지출하는 모든 달러를 측정하고 귀속시키는 관행입니다. 지출은 하나의 원장에 가시화되며, 이를 유발한 팀에 매핑되고, 청구서가 도착하기 전에 통제될 수 있습니다.
이사회에서 AI 예산이 무엇을 반환하는지 물으면 답하기 어렵습니다. 왜냐하면 지출이 여기저기 흩어져 있기 때문입니다. 이는 직원이 경비 처리하는 개인 구독, 재무팀이 비용을 지불하는 엔터프라이즈 좌석, 그리고 엔지니어링 팀이 관리하는 제공업체 API 키에 걸쳐 산재해 있습니다. 각 출처는 보고하더라도 개별적으로 보고하기 때문에 아무도 총합을 소유하지 못합니다.
AI 비용 추적은 FinOps의 가장 새로운 차원입니다. FinOps는 10년 전 컴퓨팅 지출(compute spend)을 통제하는 데 성공했던 분야였으며, 이제 AI가 구동되는 토큰과 좌석까지 확장되었습니다.
주요 시사점
- AI 비용 추적은 토큰과 좌석(seats)에 대한 FinOps입니다. 이는 클라우드 비용 관리(cloud cost management)가 컴퓨팅(compute)에 대해 하는 것과 동일한 방식으로 엔터프라이즈 라이선스, 제공업체 API, 모델 라우팅 전반의 AI 지출을 측정하고 할당합니다.
- 어려운 부분은 파편화(fragmentation)입니다. 지출이 회사 좌석, 제공업체 키, 개인 구독을 통해 발생하며, 조직 전체의 API 키는 어떤 팀이 이를 주도했는지 숨깁니다.
- 이는 세 단계로 작동합니다. 모든 소스를 하나의 원장(ledger)에 연결하고, 사용량을 팀과 에이전트(agents)에게 할당하며, 실시간으로 적용되는 예산으로 지출을 통제하는 것입니다.
- 개인적이고 섀도우(shadow) AI 사용이 가장 큰 사각지대입니다. 대부분의 직원은 회사 좌석과 병행하여 개인 Claude, ChatGPT, Cursor 플랜을 사용하며, 이러한 지출은 거의 어떤 재무 시스템에도 기록되지 않습니다.
- 비용 추적은 모든 AI 호출의 경로에 무언가가 위치할 때만 작동합니다. 그 경로는 AI 제어 평면(AI control plane)이며, 이곳에서 요청마다 계량화(metering), 할당(attribution), 예산 적용(budget enforcement)이 이루어집니다.
왜 AI 비용 추적이 이제 재무 문제가 되었는가
AI 지출은 재무 부서가 이를 자체 범주로 관리해야 하는 기준점을 넘어섰습니다. Gartner는 2025년 전 세계 생성형 AI(generative-AI) 지출이 $644 billion에 달할 것으로 예측했으며, 이는 전년 대비 76% 급증한 수치입니다. 이 정도 규모와 성장률의 지출은 클라우드 비용 규율(cloud cost discipline)을 촉발했던 바로 그 요인이며, AI가 같은 곡선을 더 빠르게 오르고 있습니다.
금융팀들은 알아차렸습니다. State of FinOps 2026 survey에 따르면, FinOps 실무자 중 98%가 현재 AI 지출을 관리하고 있으며, 이는 2년 전의 31%에서 증가한 수치입니다. 또한, AI 지출 관리는 그들이 가장 중요하게 생각하는 미래 우선순위로 자리매김했습니다. 클라우드를 중심으로 성장했던 이 분야가 이제 AI를 주목하고 있으며, 이에 맞춰 도구들도 변화해야 합니다.
| 측정 항목 | 값 | 변화량 | 출처 |
|---|
| 전 세계 생성형 AI 지출 | 2025년 $644B | 이전 연도 대비 76% 증가 | Gartner |
| 현재 AI 지출을 관리하는 FinOps 팀 | 실무자 중 98% | 2년 전의 31%에서 증가 | State of FinOps 2026 |
왜 AI 비용 추적 및 귀속(Attribute)이 그렇게 어려운가?
AI 비용 추적은 클라우드 비용 추적보다 더 어렵습니다. 그 이유는 AI 지출이 여러 곳에서 유입되며, 이들 대부분은 사용량을 중앙 소유자에게 보고하도록 설계되지 않았기 때문입니다.
- 개인 라이선스(Personal licenses). 직원들이 회사 좌석 외에 개인 Claude, ChatGPT, Cursor 플랜을 비용 처리합니다. 두 서비스 전반의 사용량은 한 곳에 모이지 않기 때문에, 동일 인물의 총비용이 여러 시스템으로 분산되며, 이 개별 라이선스는 규정 준수(compliance) 문제를 야기하며 재무 및 보안팀이 답변해야 합니다.
- 비용 귀속 불가(No cost attribution). 토큰은 단일 조직 전체 키로 청구됩니다. 지출을 해당 팀, 제품 또는 에이전트와 연결할 내장된 방법이 없기 때문에 비용 회수(chargeback)가 불가능합니다.
- 통제되지 않는 에이전트(Runaway agents). 자율 에이전트는 예산, 경고 알림, 상한선 없이 루프를 돌거나 재시도하며 토큰을 소모합니다. 따라서 문제의 첫 번째 신호는 종종 청구서가 됩니다.
이 모든 것이 보고상의 격차(reporting gap)입니다. 제공업체의 청구서는 정확하지만, 잘못된 수준에서 지출을 설명하고 있습니다. AI 비용을 추적한다는 것은 그 지출을 그것을 발생시킨 사람과 워크로드에 다시 귀속시키는 것을 의미합니다.
세 단계로 AI 비용 추적하기
AI 비용을 종단 간(end to end)으로 추적한다는 것은 세 가지 기능을 구현하는 것을 의미합니다. 모든 소스를 하나의 원장(ledger)에 연결하고, 사용량을 관찰 및 할당하며, 지출이 초과되기 전에 통제하는 것입니다. 아래 링크된 다이어그램은 상단의 파편화된 지출이 어떻게 단일 원장으로 모여 각 부분에 공급되는지를 보여줍니다.
View the AI cost tracking flow diagram on Speakeasy.
모든 AI 지출 소스를 하나의 원장에 연결하기
첫 번째 단계는 수집(collection)입니다. 지출이 개인 구독, 기업용 좌석, 제공업체 API 키 또는 모델 라우터 등 어떤 경로로 발생하든, 반드시 하나의 표준화된 기록으로 들어와야 합니다. 이는 다음을 의미합니다:
- 회사 지급 좌석과 직원이 경비 처리하는 개인 플랜에 대한 라이선스 추적을 하나의 대시보드에서 나란히 확인하는 것.
- Anthropic, OpenAI 및 기타 제공업체 전반의 모든 호출에 대해 토큰 레벨로 **API 계량화(metering)**를 하는 것.
- 폴백(fallbacks) 및 재시도(retries)를 포함하여 모든 홉(hop)에서 비용을 포착하는 모델 라우터 통합.
- 모든 지출이 하나의 기록으로 집계되어 내보내기 또는 분석할 준비가 된 통합 원장.
이 단계가 없으면, 이후의 모든 수치는 부분적입니다. 할당(Attribution)과 예산은 모든 소스가 같은 장소로 보고될 때만 의미를 갖습니다.
팀, 에이전트 및 모델에 AI 비용 할당하기
두 번째 단계는 AI 비용 할당(AI cost attribution)입니다. 지출이 하나의 원장에 들어오면, 모든 요청은 해당 요청을 발생시킨 팀, 사용자, 에이전트, 모델 및 토큰 수와 함께 기록될 수 있으며, 이를 통해 재무팀은 필요한 방식으로 비용을 분할할 수 있습니다:
- 팀별, 에이전트별, 모델별로 실시간으로 지출이 누적되는 실시간 사용량.
- 모든 호출에 팀, 제품 또는 원가 센터를 태그하여 자신감 있는 내부 청구(chargeback) 또는 비용 보고(showback)가 가능한 비용 할당.
- 각 워크로드가 실제로 운영하는 데 얼마의 비용이 드는지 보여주기 위해 모델 및 제공업체 전반의 비용을 비교하는 모델별 분석.
- 시간에 따른 지출을 추적하고 재무 검토 및 예측을 위해 내보내는 추세 보고서.
기여도(Attribution)는 또한 투자수익률(ROI)의 기반이 됩니다. 비용 추적은 그 첫 번째 단계입니다. 모든 달러가 자금을 지원하는 작업 부하에 매핑되면, 각 팀이 이미 측정하고 있는 결과와 결합하여 어떤 AI 투자가 효과를 내는지 확인할 수 있습니다.
청구서가 도착하기 전에 예산으로 AI 지출 통제하기
세 번째 단계는 집행(enforcement)입니다. 사후적인 가시성만으로는 여전히 청구서에 반응하는 수준에 머무르기 때문에, 예산을 실시간으로 설정하고 강제해야 합니다:
- 예산 한도: 팀별, 에이전트별 또는 키별로 적용되는 하드(hard) 또는 소프트(soft) 제한으로, 이를 초과하는 호출을 차단하거나 속도를 늦춥니다(throttle).
- 지출 알림: 사용량이 특정 임계값을 초과할 때 경고가 발생하여, 청구서 대신 Slack 채널에 예상치 못한 알림이 전송되도록 합니다.
- 무분별한 지출 방지(Runaway protection): 루프와 비정상적인 토큰 급증을 감지하고 에이전트가 예산을 고갈하기 전에 작동을 제한합니다.
- 속도 및 할당량(Rate and quota) 제어: 조직 전체의 지출을 예측 가능하게 유지합니다.
AI 비용 추적 성숙도 모델
기업들은 AI 비용 추적을 단계적으로 달성하며, 지출이 접근 방식보다 먼저 증가하는 경우가 많습니다. 대부분은 네 단계 곡선 중 어디에 위치하는지 파악할 수 있으며, 이 단계를 아는 것은 다음에 무엇을 구축해야 하는지 알려줍니다.
Speakeasy에서 AI 비용 추적 성숙도 모델 다이어그램 보기.
1단계: 법인 카드를 이용한 관리되지 않은 AI 지출
AI 지출은 법인 카드에 의존합니다. 직원들은 개인 Claude, ChatGPT, Cursor 플랜을 경비 처리하며, 아무도 총액을 소유하지 못합니다. 재무팀은 영수증 보고서에서 항목별로 흩어진 내역만 보게 되며 이를 통합할 방법이 없습니다. 사용되는 도구는 이미 재무팀이 운영하는 것이 전부입니다: 법인 카드 명세서, Brex 또는 Expensify와 같은 경비 관리 도구, 그리고 이들을 모으기 위한 스프레드시트가 그것입니다.
2단계: 부분적인 가시성을 가진 엔터프라이즈 라이선스
회사는 대부분의 AI 사용량을 포괄하는 엔터프라이즈 라이선스를 구매하므로, 지출액의 대부분은 재무팀이 확인할 수 있는 계약을 통해 처리됩니다. 개인 플랜은 여전히 주변부에 남아 있으며, 엔터프라이즈 사용량만 표시되므로 실제보다 더 완전해 보이는 그림을 만듭니다. 가시성은 라이선스 좌석(license seats)을 추적하는 제공업체 청구 콘솔 및 SaaS 관리 또는 조달 도구에서 나오지만, 이들 중 어느 것도 계약 이하의 사용량을 확인하지 못합니다.
3단계: 단일 원장(ledger)에서 전체 AI 지출 가시성 확보
엔터프라이즈 라이선스와 개인 라이선스 모두에서 발생하는 지출이 하나의 원장에 기록됩니다. 과거에 경비 보고서에 숨겨져 있던 개인 플랜을 포함하여 전체 AI 사용 흔적이 보이므로, 재무팀은 실제 총액을 명시할 수 있습니다. 이 단계는 이를 위해 구축된 도구가 필요합니다. 즉, 제공업체 API와 라이선스 데이터를 하나의 기록으로 가져오는 통합 원장(unified ledger)이 필요한데, 이는 AI로 확장된 FinOps 플랫폼이든 전용 AI 비용 도구이든 상관없습니다.
4단계: 결과(outcomes)에 귀속된 AI 비용
비용이 자금을 지원하는 팀, 제품 및 비즈니스 결과와 연결됩니다. 모든 달러가 배정됨으로써, AI 지출은 그것이 창출하는 가치와 비교 측정될 수 있으며, 재무팀은 단순히 비용만 아는 것이 아니라 어떤 투자가 수익을 내는지 답할 수 있습니다. 이 수준에서의 귀속(Attribution)은 모든 호출 경로에 있는 무언가에 달려있습니다. 즉, 각 요청에 태그를 지정하고 이미 결과가 측정되는 BI 및 재무 시스템으로 데이터를 전송하는 AI 게이트웨이 또는 제어 평면(control plane)입니다.
대부분의 회사는 엔터프라이즈 라이선스가 포괄성을 느끼게 하는 반면 개인 사용량은 보이지 않는 2단계에 머물러 있습니다. 곡선을 따라 올라가기 위해서는 매 단계마다 동일한 기반, 즉 모든 출처가 하나의 원장으로 보고되는 것이 중요합니다.
Speakeasy가 제어 평면(control plane)에서 AI 비용을 추적하는 방법
비용 추적은 모든 AI 호출 경로에 무언가가 위치해야만 작동합니다. Speakeasy는 AI 제어 평면을 구축하고 있으며, 이 것이 바로 그 경로에 위치하기 때문에, 계측(metering), 귀속(attribution), 예산 강제 집행이 나중에 청구서에서 재구성되는 것이 아니라 모든 요청마다 발생합니다.
- 통합 원장(One unified ledger). Anthropic, OpenAI 및 라이선스 도구에서 발생하는 지출을 단일 진실 공급원(single source of truth)으로 정규화하여 전체 AI 사용량을 한 곳에 모아 관리합니다.
- 차지백 및 쇼백(Chargeback and showback). 모든 호출이 팀, 제품 또는 비용 센터에 귀속되어 내부 청구 및 책임 소재 파악을 위해 누가 지출을 유발했는지 추적할 수 있습니다.
- 개인 및 기업 사용량 통합 관리. 개인 라이선스와 회사 사용량이 동일한 사람에게 귀속되므로, 비용 처리된 개인 플랜의 사각지대가 해소됩니다.
- 실시간 예산 강제 적용. 팀, 에이전트 또는 키별로 제한을 경로상에서 강제하여, 지출이 임계값을 초과하기 전에 차단(blocking), 속도 제한(throttling) 또는 알림(alerting)을 수행합니다.
- 어디서든 내보내기. 사용량 및 비용 기록은 BI 도구, 데이터 웨어하우스, 재무 시스템용 표준 형식으로 내보낼 수 있습니다.
동일한 제어 평면(control plane)이 이미 어떤 도구를 에이전트가 호출할 수 있는지 관리하고 모든 활동 뒤에 감사 추적(audit trail)을 생성하므로, AI 비용 추적은 컨트롤 플랫폼과 보안 팀이 의존하는 통제 기능을 갖추고 있습니다. AI 비용 프로그램을 시작하는 팀에게는 통합 원장(unified ledger)이 올바른 첫 단계입니다. 왜냐하면 귀속(attribution)과 예산 모두 모든 출처가 한 곳으로 보고되는 것에 달려 있기 때문입니다.
자주 묻는 질문 (Frequently asked questions)
AI 비용 추적이란 무엇인가요? (What is AI cost tracking?)
AI 비용 추적은 조직이 엔터프라이즈 라이선스, 제공업체 API 호출, 모델 라우팅 전반에 걸쳐 AI에 지출하는 모든 달러를 측정하고 귀속시키는 관행입니다. 이는 모든 출처의 지출을 단일 원장으로 정규화하고, 각 비용을 해당 활동을 유발한 팀, 사용자 또는 에이전트와 연결하며, 청구서가 도착하기 전에 예산을 강제합니다. 이는 컴퓨팅(compute) 대신 토큰과 좌석에 적용된 클라우드 비용 관리, 즉 FinOps의 AI 버전입니다.
AI 비용 추적은 클라우드 비용 관리와 어떻게 다른가요? (How is AI cost tracking different from cloud cost management?)