기업의 94%가 여전히 AI를 대규모로 구현하지 못하고 있다. Scale의 새로운 보고서가 그 이유를 설명한다.

단 6%의 기업만이 기업용 AI를 진정으로 대규모(at scale)로 작동시키고 있습니다. 이는 Scale AI가 Reuters Insights와 협력하여 전 세계 약 500명의 시니어 AI 의사 결정권자를 대상으로 실시한 새로운 연구인 The Six Percent Report의 핵심 내용입니다.

맥락을 살펴보면: 1년 전, MIT는 비즈니스 파일럿(pilot) 중 단 5%만이 측정 가능한 결과를 성공적으로 도출하고 있다는 사실을 발견했습니다. 1년간의 막대한 투자, 급격한 모델 개선, 그리고 거의 보편적인 "AI 전략" 발표에도 불구하고, 상황은 거의 변하지 않았습니다.

"우리 사회의 중추 역할을 하는 대형 조직들, 즉 병원, 금융 기관, 통신 회사들에게 그 잠재력을 실제 결과로 전환하는 것은 훨씬 더 어려운 일이었습니다."

실제로 무엇이 변했는가

이 보고서는 단순히 문제점을 지적하는 데 그치지 않고, 문제를 해결한 기업들을 프로파일링하고 그 이유를 역공학(reverse-engineers)합니다.

6%의 기업을 구분 짓는 세 가지 일관된 특징은 다음과 같습니다:

• 데이터를 인프라(infrastructure)로 취급합니다. 프로젝트나 특정 단계가 아닙니다. 데이터 품질, 레이블링(labeling), 거버넌스(governance), 그리고 피드백 루프(feedback loops)는 어떤 모델이 배포되기 전부터 그들이 운영되는 방식의 핵심입니다.
• 조직적 작업을 앞당겨 수행합니다. 변화 관리(Change management), 직원 교육, 워크플로우(workflow) 재설계, 그리고 고위 경영진의 후원은 배포 후의 사후 조치가 아니라 _초기 단계_에 이루어집니다.
• 기성 제품(off-the-shelf tools)에만 의존하지 않습니다. 6%의 기업은 내부 전문 지식과 전문 파트너를 결합하여, 파운데이션 모델(foundation models)을 둘러싼 일반적인 SaaS 래퍼(wrappers)가 아닌, 실제 워크플로우와 비즈니스 목표에 부합하는 시스템을 구축합니다.

진짜 병목 현상

이 세 가지 특징 중 그 어느 것도 적절한 모델을 선택하는 것에 관한 것이 아닙니다. 그것은 모델이 중요해지기 _전_에 반드시 존재해야 하는 모든 것에 관한 것입니다.

이는 외부에서 관찰된 내용과 일치합니다. 기업들은 데이터 품질은 누가 책임지는가? 프로세스는 누가 재설계하는가? 직원을 누가 재교육하는가? 와 같은 더 어려운 질문에 답하지 않은 채, ChatGPT나 Gemini를 워크플로우에 급히 연결하는 데 급급했습니다. 모델은 쉬운 부분입니다.

나머지 6%는 기업용 AI가 기술적 구성 요소를 포함한 조직적 문제이지, 그 반대가 아니라는 점을 파악했습니다.

해야 할 일

• 확장되지 못한 파일럿(pilots)을 운영 중인가요? 세 가지 특성 — 데이터 기반(data foundations), 조직 준비도(org readiness), 그리고 자체 구축 대 구매(build vs. buy) 전략 — 을 점검하십시오. 이 부분의 취약점이 중단된 파일럿의 대부분을 설명해 줍니다.
• AI 전략의 초기 단계인가요? 실제 운영 배포(production deployment)를 하기 전에 조직적인 작업을 우선적으로 수행하십시오. 사전에 처리하는 것이 비용이 더 적게 듭니다.
• 자체 구축 대 구매 결정을 내리고 있나요? 보고서는 순수하게 구매하거나 순수하게 구축하는 것 둘 다를 제안하지 않습니다. 귀사의 특정 데이터 및 워크플로우(workflows)와 함께 작동할 수 있는 전문 파트너가 범용 도구보다 더 뛰어난 성능을 발휘합니다.
• 리더십에 보고 중인가요? 상위 6%는 첫날부터 고위 경영진의 후원(senior sponsorship)을 확보하고 있습니다. 만약 귀사의 AI 작업이 부사장(VP) 계층 아래에서만 소유되고 있다면, 이는 구조적 리스크입니다.

전체 보고서는 scale.com/six-percent에서 확인할 수 있습니다.

✏️ KewBot (AI)로 초안 작성, Drew가 편집 및 승인.