대부분의 기업이 AI를 사용하지만, 조직 전체에 에이전트를 확장한 곳은 훨씬 적다

설문 조사 응답자들에게 조직이 AI를 사용하는지 물으면 거의 모두 '예'라고 답합니다. McKinsey의 최신 설문조사에 따르면, 응답자의 거의 10명 중 9명이 그렇습니다. 이제 질문을 더 좁혀보겠습니다. 귀하의 비즈니스 프로세스 중 하나에서 에이전트가 스스로 작업을 수행하고, 누군가가 그 결과를 확인하는 상황에 있습니까? 어떤 설문조사도 정확히 그런 단어로 질문하지는 않지만, 가장 근접한 질문들은 훨씬 적은 비율로 '예'라는 답변을 받습니다.

이 격차가 올해 수치에서 유용한 부분입니다. 이 글은 AI 도입(rollout)을 담당하는 사람들이 두 가지를 알고 싶을 때를 위한 것입니다. 다른 회사들이 에이전트와 관련하여 실제로 얼마나 진전했는지, 그리고 자신이 책임지는 프로세스에 하나를 투입하기 전에 무엇을 주의 깊게 살펴봐야 하는지입니다.

기업들이 어느 정도까지 도달했는가

가장 포괄적인 출처는 8월 25일에 발표된 McKinsey의 2026 State of AI 설문조사입니다. 이 조사는 2026년 5월 4일부터 6월 8일까지 진행되었으며, 97개국에서 1,719명의 응답자가 참여했습니다. 여기서 '10명 중 9명'은 조직이 최소한 하나의 비즈니스 기능에서 정기적으로 AI를 사용하는 응답자들을 의미합니다. 더 작은 그룹인 44%는 AI가 기업 전체에 확장되고 있다고 답했으며, 이는 1년 전의 38%보다 증가한 수치입니다.

에이전트는 더 작고 불규칙한 그림을 보여줍니다.

응답자의 약 10명 중 2명이 조직 전체에서 AI 에이전트가 확장 단계에 도달했다고 답했습니다. 유사한 비율의 응답자가 소프트웨어 코딩 에이전트에 대해서도 그렇게 답했습니다.
다음 수치는 다른 질문에 대한 답변입니다. 즉, 조직 전체가 아닌 최소 하나의 기능에서 에이전트를 확장하는 경우입니다. 이 두 가지는 서로 변환될 수 없으며, 작년의 '어딘가에서' 확장(23%)된 비율과도 일치하지 않습니다.
규모가 매우 중요합니다. 매출액이 10억 달러를 초과하는 조직들 사이에서는 에이전트를 최소한 하나의 기능에서 확장하는 비율이 27%에서 40%로 증가했습니다. 반면, 소규모 조직에서는 이 수치가 22%에 머물렀습니다.
비교를 위해, 가장 광범위하게 사용된 AI 도구는 챗봇으로, 그 비율은 47%였습니다.

내가 읽을 수 있었던 2026년 기사 본문에는 기능별(per-function) 세부 분석이 없었기 때문에, 여기에 제시된 기능별 수치는 작년 조사(2025년 중반 실시) 자료를 바탕으로 합니다. 당시 응답자의 23%는 조직 내 어딘가에서 에이전트 시스템을 확장하고 있다고 답했으며, 또 다른 39%는 실험 중이라고 했습니다. 하지만 실제로 확장을 진행하는 곳들은 한두 가지 기능에 국한되는 경우가 많았고, 단일 비즈니스 기능만 놓고 보더라도 에이전트를 확장한다고 보고한 곳은 10%를 넘지 않았습니다. 스탠퍼드 대학의 AI Index 2026은 동일한 맥킨지(McKinsey) 데이터(2025년 조사)를 인용하며 이를 더 직설적으로 제시합니다. 대부분의 기능에서 응답자 대다수는 에이전트 사용을 전혀 하지 않는다고 보고했으며, 확장된 사용률 역시 거의 모든 곳에서 한 자릿수에 머물렀습니다. 예외는 기술 분야였는데, 소프트웨어 엔지니어링에서는 24%, IT에서는 22%, 서비스 운영(service operations)에서는 21%에 달하는 에이전트 확장이 이루어졌습니다.

두 가지 주의사항이 있습니다. 이 수치들은 자신의 조직을 설명하며 스스로 보고한 답변이며, 스탠퍼드 대학 자체도 이를 포괄적이라기보다는 방향성을 제시하는(directional rather than comprehensive) 것으로 간주합니다. 또한 '어딘가에서 확장한다'는 것은 회사 전체의 업무량이 에이전트를 통해 얼마나 처리되는지에 대한 내용이 아니라, 회사 내 특정 장소에 대한 진술입니다.

한 공급업체의 자체 수치

OpenAI은 자사의 엔터프라이즈 고객들을 위한 사용량 수치를 공개합니다. 지난 8월 12일에 업데이트된 'Enterprise Signals' 보고서에 따르면, 6월 기준으로 해당 고객들 사이에서 Codex는 조합된 Codex와 ChatGPT 출력 토큰의 64%를 생성했습니다. 이 보고서는 또한 매월 활성 사용자당 출력 토큰을 기준으로 고객들을 순위화합니다. 현재 상위 10%는 중간 그룹(45~55 백분위수) 기업들보다 8.3배 많은 토큰을 생성하며, 이는 1월의 2.6배에서 증가한 수치입니다.

이것은 실제 데이터이지만, 다른 질문에 대한 답을 제공합니다. 이는 시장 전체가 아닌 특정 공급업체의 유료 고객들을 다루고 있습니다. 64%라는 수치가 알려주는 것은 이들 고객의 결합된 Codex 및 ChatGPT 출력 토큰 중 대부분이 에이전트 도구에서 나온다는 것입니다. OpenAI는 Codex 토큰을 에이전트 사용으로 간주합니다. 같은 보고서는 이러한 사용이 엔지니어링 분야를 넘어 확산되고 있다고 밝히고 있습니다. 2월 이후, 기업 고객의 주간 활성 Codex 사용자 수는 법무(legal) 부문에서 108배, 영업(sales) 및 채용(recruiting) 부문에서는 각각 41배, 마케팅(marketing) 부문에서는 26배로 증가한 반면, 엔지니어링 부문은 5배 증가했습니다. 이 수치들은 사용량을 측정할 뿐이며, 보고서는 결과를 측정하지 않습니다. OpenAI는 토큰이 비즈니스 가치를 완벽하게 측정하는 지표는 아니라고 말하며, 동시에 이를 AI 사용의 깊이를 보여주는 유용한 대리 지표(proxy)로 간주합니다. 그들이 보여주고자 하는 것은 바로 이 '사용의 깊이'입니다.

이러한 수치들을 하나의 깔때기 모양으로 쌓지 마십시오. '10명 중 9명이 AI를 사용한다', '10명 중 2명이 에이전트를 확장했다' 그리고 '토큰의 64%'는 서로 다른 샘플, 다른 질문, 다른 단위를 다룹니다. 이들 사이에는 백분율로 연결되는 사슬이 없습니다.

비용과 가치 (Cost and value)

채택률보다 더 많은 주목을 받을 만한 두 가지 다른 발견 사항이 있습니다.

첫 번째는 비용입니다. 맥킨지(McKinsey) 응답자 중 약 5분의 1은 운영 비용, 토큰 포함,이 AI 사용에 제한을 가했다고 답했습니다. 가트너(Gartner)의 2026년 AI 하이프 사이클(AI Hype Cycle) 요약 보고서(10월 1일 자) 역시 같은 방향을 지적합니다. 질문은 회사가 AI로 구축할 수 있는가에서, 회사에 AI가 무엇을 하고 있는지 그리고 그것이 얼마의 비용이 드는지를 계산할 수 있는가로 옮겨갔습니다.

두 번째는 가치입니다. 응답자의 37%가 EBIT(이자 및 세금 전 이익) 영향의 원인을 AI로 돌렸으며, 이는 작년과 같은 비율이지만 더 많은 사람들이 확장을 보고하고 있음에도 불구하고 그렇습니다. 대부분은 내년에도 조직이 AI 투자를 늘릴 것으로 예상합니다.

제가 작은 테스트에서 본 것 (What I have seen in small tests)

저는 고정된 작업에 대해 에이전트와 로컬 모델을 실행하고 그 출력을 평가합니다. 여기에 관련 있는 최근 자료 두 가지가 있는데, 단서를 먼저 말씀드리자면: 둘 다 프로덕션 시스템(production systems)이 아닌, 제 자신의 기기에서 구동되는 모델을 사용한 소규모 샘플입니다.

내가 평가한 하나의 연구에서는, 에이전트가 스스로 작업한 방식을 기록하도록 요청하는 체크리스트를 받은 120개의 실행(run)을 평가했다. 이 체크리스트 지침만으로는 공공 기록이 포함된 60개 실행 중 어느 것도 해당 메모를 작성하지 않았다. 요약 작업(qwen3:14b)의 경우, 작업을 완료한 17개 실행 모두 어쨌든 '완료'라고 선언했다. 체크리스트를 강제 적용하자 이 메모가 훨씬 더 흔해졌다. 하지만 버그 수정률은 높아지지 않았다. 강제 적용이 가져온 것은, 그 작업의 검사를 해야 할 바로 그 에이전트가 작성한 서류 작업(paperwork)이었다.

다른 연구에서는, 로컬 모델이 6가지 합성 사례(synthetic cases), 각기 하나의 실행에 대해 지원 답변을 초안 작성했다. 세 가지 경우에서, 이 모델은 어떤 정책이 적용되는지 결정하는 정보를 갖추기도 전에 반품 정책을 선택했다. 그중 두 경우는 나중에 같은 출력 내에서 스스로 수정하거나 조건부(conditional)로 전환했다. 세 가지 중 두 경우는 영수증 날짜와 같은 필드에 의존했는데, 이는 몇 줄의 일반 코드로 확인하여 날짜가 누락된 경우 거부할 수 있는 것이었다.

두 결과 모두 도입률(adoption rates)에 대해서는 아무것도 말해주지 않는다. 이것들은 내가 직접 테스트하면서 발견한 실패 사례들로, 무엇이 '완료'로 간주되는지, 그리고 어떤 결정이 모델에게 맡겨지는지에 관한 것이며, 여러분의 프로세스에서도 먼저 확인해 볼 가치가 있다.

에이전트가 귀하의 프로세스에 들어가기 전에

만약 에이전트를 어디에 배치할지 결정하고 있다면, 내가 먼저 답변을 받고 싶은 질문들이 있다. 이들 중 어느 것도 프레임워크가 필요하지 않다.

어떤 워크플로우, 어떤 기능에서 작동하는가? 작년 설문조사에 따르면, 에이전트를 확장한 대부분의 기업은 한두 가지 기능에만 적용했습니다. 만약 특정 워크플로우를 명시할 수 없다면, 이는 실험 단계인 것이며 괜찮습니다. 예산으로 책정하고 '실험'으로 보고하세요.
누가 작업 완료 여부를 결정하며, 그 주체가 에이전트 본인이 아닌가? 에이전트 스스로가 완료했다고 보고하는 것인지, 아니면 사람이 확인했다는 메모를 남기는 것인지에 따라 주장(claim)의 근거가 달라집니다. 사람이나 테스트가 어떤 증거를 살펴볼지 결정해야 합니다.
질문 없이 무엇을 할 수 있는가? 에이전트가 단독으로 수행할 수 있는 행동(읽기, 초안 작성, 조회 등)과 반드시 지정된 사람이 승인해야 하는 행동(송신, 환불, 기록 변경 등)을 모두 적어보세요. 짧은 목록부터 시작하는 것이 좋습니다.
모델이 결정해서는 안 되는 것은 무엇인가? 날짜, 버전, 금액 또는 고객 채널에서 파생되는 모든 것은 보통 규칙으로 처리할 수 있습니다. 모델에게 실제로 언어적 판단이 필요한 부분만 남겨두세요.
하나의 완료된 작업은 비용이 얼마인가? 좌석당(per seat)이나 월별(per month) 비용이 아닌, 완료되고 승인된 작업 건당 비용을 추적하세요. 응답자의 약 5분의 1은 이미 비용이 사용에 제한 요소라고 답하고 있습니다.
어떤 사례들을 재실행할 것인가? 정답이 알려진 실제 예시를 스무 개에서 서른 개 정도 유지하세요. 모델, 프롬프트 또는 공급업체가 변경될 때마다 이 사례들을 재실행하여 비교해야 합니다.
작동을 멈추고, 누가 인계받는가? 에이전트를 중단하는 날에 누가 해당 대기열(queue)을 이어받아 처리할지 알아야 합니다.

공급업체, 컨설턴트 또는 자체 팀으로부터 채택률 수치를 들었을 때는 분모(denominator)가 무엇인지 질문하세요. 즉, 응답자 수인지, 고객 수인지, 토큰 수인지, 아니면 작업 건수인지 확인해야 합니다. 에이전트의 확산 정도에 대한 혼란스러운 일반적인 출처는 서로 다른 것을 계산하는 숫자를 비교하기 때문입니다.

만약 워크플로우에 에이전트를 적용하고 그 결과를 어떻게 검증할지 방법을 마련했다면, 어떤 결론을 내렸는지 듣고 싶습니다.