당신의 AI 전환이 중간 관리직 단계에서 정체되는 이유

C-suite(경영진)은 열광하고 있습니다. 개발자들도 열광하고 있습니다. 하지만 그 사이에 있는 사람들은 서로 어긋난 인센티브(Incentives)를 가지고 있습니다.

당신의 CEO는 다보스(Davos)에서 AI에 대한 열정으로 가득 차 돌아왔습니다. 엔지니어들은 이미 몇 달 전부터 Cursor, Claude, Codex를 사용하고 있습니다. 당신의 이사회 슬라이드에는 "AI 우선 전략(AI-first strategy)"이 적혀 있고, 컨설팅 회사는 로드맵을 제작하기 위해 막대한 비용을 지급받았습니다.

그런데 말입니다. 아무것도 움직이지 않고 있습니다.

연구 결과는 이것이 비단 당신의 회사만의 문제가 아님을 확인해 줍니다. 95개국 4,454명의 CEO를 대상으로 한 PwC의 2026년 글로벌 CEO 서베이(Global CEO Survey)에 따르면, 56%의 CEO가 지난 12개월 동안 AI가 매출 증대나 비용 절감 중 어느 것도 달성하지 못했다고 보고했습니다 [1]. 비용 절감과 매출 증대를 모두 달성했다고 주장할 수 있는 CEO는 12%에 불과했습니다. BCG는 기업의 74%가 아직 AI 투자로부터 가시적인 가치를 얻지 못했다고 밝혔습니다 [2]. Gartner는 2025년 말까지 생성형 AI (Generative AI) 프로젝트의 30%가 개념 증명 (Proof of Concept, PoC) 이후 중단될 것이라고 예측했으며 [3], 증거들은 그들이 옳았음을 시사합니다.

한편, 조직의 88%가 최소 하나 이상의 기능에서 AI를 사용하고 있다고 답했습니다 [4]. 각주를 읽기 전까지는 인상적으로 들리겠지만, 실제로는 단 33%만이 기업 전체에 걸쳐 AI를 확장(Scaling)하기 시작했으며, AI가 영업이익(EBIT)을 측정 가능하게 변화시키는 조직인 실제 고성과자(High performers)로 분류되는 곳은 단 6%에 불과합니다. Goldman Sachs는 2026년 3월, 거시적인 상황을 직설적으로 표현했습니다: "우리는 여전히 경제 전반의 수준에서 생산성과 AI 도입 사이에 의미 있는 관계를 발견하지 못하고 있습니다." [5]

기술은 작동합니다. 기업이 실제로 결과를 측정하는 구체적이고 범위가 잘 정해진 배포(Deployments) 사례에서, McKinsey는 약 30%의 중간 생산성 향상을 발견했습니다 [4]. 문제는 AI가 성과를 낼 수 있느냐가 아닙니다. 조직이 AI를 파일럿(Pilot) 단계에서 벗어나 실제 운영(Production) 단계로 넘길 수 있느냐의 문제입니다.

병목 현상(Bottleneck)은 기술이 아닙니다. 예산 문제도 아닙니다. 추상적인 의미의 문화 문제도 아닙니다. 그것은 당신의 조직 내 특정 계층, 즉 이 과정을 늦출 모든 인센티브를 가지고 있으면서도, 그것을 실행할 수 있을 만큼의 충분한 권한을 가진 디렉터(Directors)와 VP(Vice Presidents)들입니다.

이것이 바로 '얼어붙은 중간층(frozen middle)' 문제입니다. 그리고 이것은 그 어떤 기술적 실패보다도 더 조용히 더 많은 AI 전환(AI transformations)을 무너뜨리고 있습니다.

왜 중간 관리직이 특히 위협받는가

이것을 조직적인 냉소주의로 치부하여 무시하기 전에, 구조적인 현실을 이해해야 합니다.

중간 관리직은 세 가지 일을 하기 위해 존재합니다: 최전선으로부터 정보를 취합하고, 기능 간(cross-functions) 조율을 수행하며, 전략과 실행 사이를 번역하는 것입니다. 이들은 조직의 신경계입니다. 실제로 무슨 일이 일어나고 있는지 알고 있으며, 그것을 행동으로 옮길 수 있는 사람들입니다.

AI는 이 세 가지 모든 일을 놀라울 정도로 잘해냅니다.

언젠가가 아닙니다. 지금입니다. 바로 오늘입니다. 거대언어모델 (LLMs)은 다양한 출처의 정보를 합성합니다. 에이전트 워크플로우 (Agentic workflows)는 시스템과 팀 간의 인수인계를 조율합니다. AI 도구들은 (거의) 인력 투입 없이도 복잡한 비즈니스 문제를 구조화된 결과물로 번역합니다.

이것은 10년 뒤의 위협이 아닙니다. 이번 분기의 위협입니다. 그리고 조직의 연결 조직(connective tissue) 역할을 하며 경력을 쌓아온 디렉터(Directors)와 VP(Vice Presidents)들은, 비록 그것을 말로 설명하지는 못하더라도 그 위협을 느끼고 있습니다.

조직의 아이러니는 잔혹합니다. AI에 의해 가장 큰 위협을 받는 사람들이 바로 AI 도입을 차단할 수 있는 가장 큰 권한을 가진 사람들입니다. 그들은 예산 승인을 통제합니다. 그들은 워크플로우 규범을 설정합니다. 그들은 시스템에 대한 접근을 제한합니다. 그들은 파일럿 프로젝트의 '성공'이 무엇인지 정의합니다. 그들은 아래에서 AI를 추진하려는 사람들의 인사 고과를 작성합니다.

이것은 악의가 아닙니다. 자기 보존입니다. 그리고 이는 완전히 합리적이기 때문에 맞서 싸우기가 어렵습니다.

당신이 이미 만나본 세 가지 전형 (Archetypes)

당신은 이 사람들을 알고 있습니다. 그들과 회의를 해봤을 것입니다. 어쩌면 그 밑에서 일해봤을지도 모릅니다. 확실하게 나타나는 세 가지 패턴이 있습니다.

전형 1: 파일럿 연옥의 디렉터 (The Pilot Purgatory Director)

이 유형은 AI에 열정적입니다. 진심으로 말이죠! 그들은 파일럿 프로젝트에 자금을 지원할 것입니다. 데모 세션에 참석할 것입니다. 비즈니스 케이스(business case)를 들으며 고개를 끄덕일 것입니다.

그러고 나면 파일럿(pilot)은 끝나고... 아무 일도 일어나지 않습니다. 왜냐하면 프로덕션(production) 단계로 넘어가기 전에 몇 가지 엣지 케이스(edge cases)를 더 해결해야 하기 때문입니다. 그리고 이제 성공 기준(success criteria)은 약간 변했습니다. 그리고 사실, 확실히 하기 위해 다음 분기 동안 기존 프로세스와 병행하여 운영해 보는 것이 좋겠습니다.

파일럿이 영원히 지속되는 이유는 프로덕션이 곧 책임(accountability)을 의미하기 때문입니다. 졸업하지 못한 파일럿은 그저 학습 경험일 뿐입니다. 하지만 성과가 저조한 프로덕션 배포(production deployment)는 커리어에 영향을 미치는 사건이 됩니다. Deloitte의 연구에 따르면 경영진들도 이를 공개적으로 인정하고 있습니다: "더미 데이터(dummy data)를 사용하는 PoC는 잘못된 낙관론을 만들어내며, 실제 데이터는 근본적인 문제들을 드러낸다" [7].

그래서 파일럿은 계속 실행됩니다. 그것을 만든 팀은 재배치됩니다. 벤더(vendor)는 결국 후속 조치를 중단합니다. 그리고 디렉터(director)는 사실대로, 자신들이 AI 파일럿을 운영했다고 말할 수 있게 됩니다.

전형 2: "내 예산이 아니다"라고 말하는 부사장(VP)

도구 비용은 연간 5만 달러입니다. 비즈니스 케이스(business case)는 50만 달러의 생산성 향상을 보여줍니다. 계산은 명확합니다.

하지만: "올해 예산에는 없습니다." 예산 계획은 3분기(Q3)에 있습니다. 내년 목록에 올려두겠습니다. (하지만 결코 목록에 올라가지 않습니다.)

이 유형은 기술적으로 '아니오'라고 말하는 것이 아니기에 특히 교묘합니다. 이는 프로세스상의 '아니오'입니다. 이는 실제 조직적 제약 사항, 심지어 정당한 제약 사항 뒤에 숨으면서도, 노골적인 거부권(veto)과 동일한 결과를 초래합니다.

모든 예산 주기마다 1년의 지연이 추가됩니다. "내년 예산"을 위한 기준선은 계속해서 뒤로 밀려납니다. 2025년에 워크플로우를 변화시켰을 도구는 2027년에 승인될 때쯤이면 이제 "기본 요건(table stakes)"이 되어 버리고, 우위의 기회는 사라집니다.

전형 3: "보안팀이 안 된다고 한다"는 회피

보안 우려는 실재합니다. 데이터 프라이버시(data privacy)는 중요합니다. 거버넌스(governance)도 중요합니다. 저는 이 중 어느 것도 부정하지 않습니다.

하지만 위험 평가(risk assessment)도, 제안된 통제 방안(controls)도, 해결 경로도 없이 대화를 종결짓는 수단으로서의 "보안팀이 안 된다고 했다"는 말은 보안 태세(security posture)가 아닙니다. 그것은 컴플라이언스(compliance) 언어로 꾸며낸 거부권(veto)일 뿐입니다.

징후: "이것이 승인되려면 무엇이 충족되어야 하는가?"라는 후속 질문 없이 보안 우려 사항이 제기될 때입니다.

진정한 보안 작업은 해결 가능합니다. 데이터 분류 프레임워크 (Data classification frameworks), 액세스 제어 (access controls), 승인된 모델 목록 (approved model lists), 출력 감사 (output auditing): 이것들은 엔지니어링 솔루션으로 해결할 수 있는 엔지니어링 문제들입니다. 회피형 버전은 이 모든 과정을 건너뛰고 중간 단계에 대한 논의 없이 곧장 "안 된다"는 결론에 도달합니다.

추가적인 설명 없이 "보안 팀에서 안 된다고 합니다"라는 말을 듣는다면, 당신은 보안 문제를 보고 있는 것이 아닙니다. 보안을 방패로 사용하는 누군가를 보고 있는 것입니다.

조직적 함정 (The Organizational Trap)

아래에서부터 이 문제를 해결하기가 매우 어려운 역학 관계는 다음과 같습니다.

AI 도구를 사용하고 싶은 개별 기여자 (IC, Individual Contributor)는 승인을 위해 매니저에게 갑니다. 매니저는 아직 아니라고 말합니다. IC는 비즈니스 케이스 (business case)를 들어 반박합니다. 매니저는 예산 예외 승인을 위해 VP (Vice President)에게 보고합니다. VP는 이번 분기에는 안 된다고 말합니다. 프로세스가 몇 달째 이어지는 동안, IC는 아무에게도 말하지 않고 조용히 무언가의 무료 티어 (free tier)를 사용하기 시작합니다.

섀도 IT (Shadow IT)는 실패 모드가 아닙니다. 그것은 증상입니다. AI 도입이 지하로 숨어든다는 것은 공식적인 채널이 실패했음을 의미합니다. 그리고 통제 (governance)도, 데이터 제어 (data controls)도, 가시성 (visibility)도 없는 지하에서의 AI 도입은 승인된 도입보다 진정으로 더 위험합니다. 연구에 따르면 노동자의 50~60%가 이미 승인되지 않은 AI 도구를 사용하고 있다고 합니다 [6] — 이는 최전선의 도입이 중간 관리직을 통해서가 아니라, 중간 관리직을 우회하여 일어나고 있음을 의미합니다.

얼어붙은 중간층 (The frozen middle)은 자신들이 방지하겠다고 주장하는 바로 그 위험을 만들어냅니다. 그리고 그 밑바닥에는 더 가혹한 역학 관계가 있습니다. Gartner는 2026년까지 조직의 20%가 AI를 통해 현재 중간 관리직 역할의 절반 이상을 없앨 것이라고 예측합니다 [3]. 중간 관리자들은 위협을 상상해내는 것이 아닙니다. 그들은 실재하는 위협에 이성적으로 대응하고 있는 것입니다. 조직적 아이러니는 더욱 심화됩니다: C-suite (경영진)가 AI를 더 공격적으로 추진할수록, 이를 실행하도록 요구받는 계층의 생존 본능은 더욱 강해집니다.

한편, C-suite(경영진)는 지시를 내리고 로드맵이 왜 뒤처지는지 의문을 제기합니다. 컨설팅 회사는 변화 관리(change management)에 대한 후속 자료를 작성하고 있습니다. 그리고 이사들(directors)과 VP들은 전 직원 회의(all-hands)에서 고개를 끄덕이다가, 책상으로 돌아와서 또 다른 이유로 파일럿 프로젝트가 상용화(production) 준비가 안 되었다는 것을 발견합니다.

실제로 막힘을 해소하는 방법

작동하는 전략들이 있습니다. 그 어떤 것도 쉽지 않으며, 대부분은 경직된 계층 위쪽의 누군가가 단순히 외관상의 문제(optics)가 아니라 실제 성과에 관심을 가져야만 합니다.

말이 아닌 실질적인 힘을 가진 경영진 후원.

'CEO는 AI에 전념하고 있다'라는 말은, 그것을 막았을 때의 결과(consequence)가 없다면 아무 의미가 없습니다. 실질적인 힘을 가진 후원은 다음과 같은 모습을 보입니다: 분기별로 AI 이니셔티브 현황을 검토하며 예산 책정이나 승인 병목현상(logjams)을 해소할 권한을 가진 지정된 임원. 운영 위원회(steering committee)가 아닙니다. 책임이 있는 '사람'이어야 합니다.

경직된 중간 계층은 합리적입니다. 그들은 인센티브에 반응합니다. 만약 AI 도입을 막는 것의 결과가 실제로 후속 조치를 취하는 고위 임원과의 어려운 대화라면, 계산 방식(calculus)이 바뀝니다.

눈에 보이는 성공 사례를 통한 하향식 압력.

상용화 단계로 올라가지 못하는 파일럿 프로젝트는 눈에 띄지 않습니다. 조직 전체에 가시적인 성공 사례(wins)가 생기면, 경직된 중간 계층이 무시할 수 없는 압력을 만듭니다.

AI 도입을 관리자 평가의 일부로 포함시키세요.

만약 이사들과 VP들의 성과 검토(performance reviews)에 AI 도입에 대한 신호가 포함되어 있지 않다면, 당신은 비활동성(inaction)에 보상하고 있는 것입니다. 끝입니다.

이것은 사람들이 조심스러워서 벌을 받는다는 의미가 아닙니다. 이는 도입 지표를 대화에 포함시킨다는 의미입니다: 어떤 파일럿 프로젝트를 진행했습니까? 무엇이 상용화 단계로 올라갔습니까? 당신 팀의 AI 리터러시(AI literacy)는 어떻습니까? 당신 부서는 어떤 도구를 구현했습니까?

그것으로 측정되는 사람들은 그것을 실현할 방법을 찾을 것입니다. 그렇지 않은 사람들은 그것이 자신들의 문제가 아니라고 설명할 방법을 찾을 것입니다.

사전 승인된 파일럿 프레임워크.

"내 예산이 아니다"라는 반응과 파일럿 지옥 (pilot purgatory)의 상당 부분은 승인 프로세스의 마찰에서 비롯됩니다. 만약 모든 AI 파일럿마다 개별적인 비즈니스 케이스 (business case), 보안 검토 (security review), 예산 예외 승인, 그리고 부사장 (VP)의 결재를 요구한다면, 파일럿 실행 비용이 너무 높아져서 가장 의욕이 넘치는 팀들만이 시도하게 될 것입니다.

사전 승인된 파일럿 프레임워크 (Pre-approved pilot frameworks)는 이를 뒤집습니다. 즉, 사전에 승인된 도구 목록, 표준화된 데이터 분류 검토 (data classification review), 예외 절차 없이 관리자가 사용할 수 있는 예산 범위, 그리고 무엇이 실제로 "운영 준비 완료 (production ready)" 상태인지를 정의하는 졸업 체크리스트를 제공하는 것입니다.

'예'로 가는 경로가 짧아질수록, 더 많은 사람이 그 길을 택합니다. 중간 관리직의 정체 (frozen middle)를 완전히 없앨 수는 없겠지만, 그들이 방해할 수 있는 영역을 줄일 수는 있습니다.

핵심 요약 (The Bottom Line)

당신의 AI 전환이 정체되는 이유는 기술이 준비되지 않았기 때문이 아닙니다. 직원들이 이해하지 못해서도 아닙니다. 조직의 한 계층이 이를 늦출 구조적 유인 (structural incentive)과 그럴 만한 조직적 권한을 가지고 있기 때문에 정체되는 것입니다.

중간 관리직의 정체는 문화의 문제가 아니라 인센티브의 문제입니다. 문화는 인센티브의 결과물입니다.

이를 해결하려면 C-suite 리더들이 단순히 명령을 내리는 것보다 더 어려운 일을 해야 합니다. 바로 자신들 아래 계층의 인센티브 구조를 재설계하고, 중요한 지표를 측정하며, 도입이 정체될 때 불편한 대화를 나눌 용기를 갖는 것입니다.

그렇지 않으면 또 다른 1년 동안 파일럿 지옥을 겪게 될 것이며, AI 도구들이 예산 목록에 포함되지 않는 또 다른 예산 주기를 맞이하게 될 것이고, 누군가가 왜 AI 로드맵이 뒤처지고 있는지 묻는 또 다른 전사 회의 (all-hands)를 치러야 할 것입니다.

기술은 준비되었습니다. 문제는 조직이 스스로의 발목을 잡는 행위를 멈출 의지가 있느냐 하는 것입니다.

도입이나 성공을 가로막는 또 다른 장애물을 목격하고 있는 중간 관리자이신가요? 여러분의 관점을 듣고 싶습니다. 댓글로 논의해 봅시다. 역할에 상관없이, 여러분이 가장 자주 마주친 패턴은 무엇인가요: 파일럿 지옥 (pilot purgatory), 예산 전용 (budget deflection), 아니면 보안 거부 (security veto)인가요? 댓글로 남겨주세요. 이 중 하나가 지배적인지, 아니면 산업별로 차이가 있는지 궁금합니다.

References