최근 저는 대부분의 자동화(automation) 논의의 밑바탕에 깔린 가정, 즉 '어떤 과업을 제거하면 그 뒤에 숨겨진 작업도 제거된다'는 생각에 의문을 갖기 시작했습니다. 제가 지켜본 모든 확장되는 시스템은 그 반대를 말해주고 있습니다. 무언가를 자동화한다고 해서 작업이 사라지는 것이 아닙니다. 작업은 당신이 미처 보지 못한 다른 곳으로 이동할 뿐입니다.

사라지지 않는 부분

과업이 자동화될 때, 실제로 제거되는 것은 그 과업의 가시적이고 반복 가능한 부분, 즉 체크리스트 안에 들어갈 수 있는 부분입니다. 그 뒤에 남는 것은 그 체크리스트가 조용히 흡수하고 있었던 모든 것들입니다: 판단(judgment calls), 예외 사항(exceptions), 그리고 기록할 만큼 자주 발생하지는 않았던 에지 케이스(edge cases)들 말입니다.

자동화 이전에는 사람이 이러한 것들을 아무도 모르게 처리했습니다. 결정과 실행이 하나의 직무로 융합되어 있었기 때문입니다. 자동화는 이 둘을 분리합니다. 실행은 시스템으로 가고, 판단은 사람에게 남습니다. 다만 이제 그 사람은 습관이 아닌 의도적인 방식으로 그 판단을 찾아내고, 명명하고, 처리해야 합니다.

이는 AI에만 국한된 이야기가 아닙니다. 수동 프로세스를 자동화된 프로세스로 압축하는 모든 시스템은 동일한 잔여물을 남깁니다:

• 빌드 파이프라인(build pipeline)이 배포(deploy) 버튼을 누르는 사람을 대체하지만, 새벽 2시에 오류가 발생했을 때 그 상황을 책임질 사람은 여전히 필요합니다.
• 추천 엔진(recommendation engine)이 상품을 선택하는 머천다이저(merchandiser)를 대체하지만, 엔진이 무엇을 최적화할지 결정하고 엔진이 잘못된 것을 최적화할 때 이를 잡아낼 사람은 여전히 필요합니다.

과업은 사라집니다. 하지만 과업 뒤에 숨겨진 결정은 사라지지 않습니다. 시야를 넓혀서 보면 이것은 단지 복잡성의 보존(conservation of complexity) 법칙일 뿐입니다. 복잡성을 재배치할 수는 있어도, 삭제할 수는 없습니다.

결정 표면 (The Decision Surface)

저는 이것을 과업의 '결정 표면(decision surface)'이라고 생각하기 시작했습니다. 즉, 사람이 작업을 수행하는 동안 조용히 흡수해버렸기 때문에 결코 기록되지 않는, 과업이 요구하는 판단의 집합입니다. 과업을 자동화한다고 해서 그 표면이 줄어들지는 않습니다. 오히려 그것을 드러낼 뿐입니다.

일단 드러나고 나면, 누군가는 그것을 명시적으로 책임져야 합니다. 시스템이 대신 책임져주지 않기 때문입니다. 이는 이전의 그 어떤 자동화 물결보다 에이전트형 AI (agentic AI)에서 더 중요하게 작고, 채택 곡선(adoption curve)이 이를 뒷받침합니다. McKinsey의 State of AI 2025 설문 조사에 따르면, 조직의 62%가 단순히 텍스트를 생성하는 것을 넘어 스스로 다단계 워크플로우 (multi-step workflows)를 계획하고 실행하는 에이전트 (agents)를 이미 실험하고 있는 것으로 나타났습니다.

계획하고 실행하는 에이전트는 단 한 번의 결정을 내리는 것이 아닙니다. 그것은 단일 함수 호출 (single function call)보다는 콜 스택 (call stack)에 가까운 일련의 결정들을 내립니다. 에이전트에게 고객 환불을 처리하라고 요청하면, 에이전트는 다음과 같은 시퀀스 (sequence)를 수행합니다:

• 요청을 읽고 고객이 실제로 원하는 것이 무엇인지 추론합니다.
• 해당 상황을 명확하게 규정하지 않을 수도 있는 정책 (policy)에 비추어 분류합니다.
• 해당 사례를 사람에게 에스컬레이션 (escalate)해야 할지 결정합니다.
• 어조 (tone), 정책, 그리고 선례 (precedent)를 동시에 충족하는 답변 초안을 작성합니다.

그 스택 (stack)의 각 프레임 (frame)은 에이전트의 판단이 당신이 실제로 원했던 것과 어긋날 수 있는 지점이며, 해결되지 않은 모든 프레임은 사람에게 전달됩니다. 10명의 에이전트를 감독하는 사람은 10개의 과업을 감독하는 것이 아닙니다. 그들은 사람이 처음부터 끝까지 수행했을 때의 프로세스보다 더 많은 노드 (nodes)를 가진 결정 네트워크 (decision network)를 감독하고 있는 것입니다. 우리는 AI가 조율을 맡게 될 때 중간 관리직과 통제 범위(span of control)에 일어나는 일에서도 이와 유사한 확장을 추적해 왔습니다. 그 추가적인 네트워크를 흡수하는 계층은 기업이 계획했던 계층인 경우가 거의 없습니다.

이것이 바로 에이전트 시스템 (agentic systems)을 대규모로 배포할 때, 적어도 운영 계층 (operational layer)에서는 인력 수요를 줄이기보다 오히려 증가시키는 경향이 있는 이유입니다. 이에 놀라는 조직들은 규모 산정 (sizing) 오류를 범했습니다. 즉, 에이전트가 드러낸 새로운 의사결정 표면 (decision surface)이 아니라, 과거의 작업 (old task)을 기준으로 인력을 예산에 편성한 것입니다. 이는 업계 전반에서 나타나는 동일한 불일치입니다: 99%의 기업이 AI 전환 (AI transformation)을 진행하고 있지만, 84%는 이에 맞춰 단 하나의 직무도 재편하지 않았습니다.

과거에 콘텐츠 작성을 위해 5명이 필요했던 팀은 이제 콘텐츠 작성을 위해 2명이 필요하고, 일주일에 500개의 변형된 결과물의 일관성을 검토(audit)하기 위해 3명이 필요하게 되었습니다. 출력량 (output volume)이 판단력 (judgment)보다 더 빠르게 확장되었기 때문입니다. 자본은 이미 이 방향으로 움직이고 있습니다: PwC는 에이전트 도입을 인력 감축이 아닌 동력으로 꼽으며, 경영진의 88%가 향후 1년 동안 AI 관련 예산을 늘릴 계획이라고 밝혔습니다.

더 깊은 실수는 한 단계 위, 즉 무엇을 최적화하느냐에 있습니다:

• 대리 지표 (Proxy): 작업당 인원 감소.
• 목표 (Target): 의사결정 처리량 (decision throughput), 즉 시스템이 드러내는 판단 사항들을 병목 현상 (bottleneck)이 되는 동일한 세 명의 시니어 인력에게 모든 사례가 몰리지 않고, 조직이 신뢰할 수 있게 해결할 수 있는 속도.

대리 지표는 달성하면서 목표는 완전히 놓칠 수 있습니다. 자동화 도입 직후 인력을 감축하는 대부분의 기업이 정확히 그렇게 합니다. 그들은 의사결정 표면이 커지는 바로 그 순간에, 그 표면을 흡수해야 할 그룹을 축소해 버립니다. McKinsey는 생성형 AI (generative AI)가 63개의 사용 사례 (use cases) 전반에 걸쳐 연간 2.6조 달러에서 4.4조 달러의 가치를 창출할 것으로 추정하며, 그 가치 중 어느 것도 이를 생성하는 시스템을 구성하고, 검토하고, 수정하는 사람 없이는 포착될 수 없습니다.

자동화를 넘어

이런 관점에서 바라보면, 이 패턴은 비단 AI에 국한된 문제가 아닙니다. 이는 조직의 판단 역량 (capacity for judgment)이 증가하는 속도보다 출력의 양이나 속도를 더 빠르게 증가시키는 모든 시스템에 관한 문제입니다.

인프라를 확장하는 것은 실패 모드 (failure modes)를 이해하는 사람에 대한 필요성을 제거하는 것이 아니라, 실패가 발생할 수 있는 지점들을 배가시킵니다. 더 나은 툴링 (tooling)을 통해 영업 프로세스 (sales motion)를 확장하는 것은 어떤 거래가 중요한지에 대한 판단 (judgment)의 필요성을 제거하는 것이 아니라, 그 판단이 적용되어야 하는 거래의 수를 늘리는 것입니다.

기술은 결코 전체 시스템이 아닙니다. 기술은 허가 없이 실행되는 시스템의 일부입니다. 기술이 스스로 결정할 수 없는 모든 것은 하나의 업무 (job)가 되며, AI-ready (AI 준비 상태)가 된다는 것은 사실 인력 배치 (staffing) 문제의 변형입니다. 즉, 배포가 노출하기 직전의 결정 표면 (decision surface)을 누가 소유하느냐의 문제이며, 이는 사고 (incident) 중에 발견되는 것이 아니라 출시 전에 결정되어야 합니다.

거시적 데이터도 이와 일치합니다. 세계 경제 포럼 (World Economic Forum)은 2030년까지 공식적인 일자리의 22%가 구조적인 영향을 받을 것으로 예상하지만, 동시에 같은 기간 동안 7,800만 개의 일자리가 순증할 것으로 예측합니다. 이 일자리들은 대부분 이전에는 구성 (configuring)이나 감사 (auditing)가 필요하지 않았던 시스템을 구성하고, 감사하며, 해석하는 역할들입니다. 이것이 바로 노동 통계로 나타나는 결정 표면입니다.

언급할 가치가 있는 2차 효과 (second-order effect)도 있습니다. Science지에 발표된 연구에 따르면, ChatGPT에 대한 접근성은 지식 노동자들 사이에서 직무 만족도를 약 0.50 표준 편차만큼 높였으며, 이는 단일 도구로서는 큰 효과입니다. 흥미로운 판단 (judgment calls)을 끌어내고 반복적인 실행을 흡수하는 자동화는 단순히 일거리를 만드는 것이 아닙니다. 그것은 더 나은 업무를 만드는 경향이 있습니다.

자동화에 의해 압박을 받는 기업들은 자동화를 너무 많이 도입한 기업들이 아닙니다. 그들은 도입을 새로운 업무 계층을 위한 시작 조건이 아닌 결승선으로 취급한 기업들입니다. 스스로 작동하는 모든 시스템은 결국