5부 중 2부입니다. 'AI, 리더십 그리고 인간 노동 구조'는 AI가 실제로 사람을 이끄는 방식에 어떤 변화를 가져오는지, 그리고 그 변화들이 필연성이 아닌 선택임을 다루는 시리즈입니다.

제가 아는 한 선임 엔지니어가 작년에 데이터베이스 마이그레이션 계획안을 승인한 적이 있습니다. 그 계획은 명확하고 논리적이었으며, 자신감 있게 작성되었고, 실제로 프로덕션 시스템을 다운시킬 것이었습니다. 왜냐하면 그 과정 중 한 단계가 데이터베이스가 실제 제공하지 않는 잠금(lock)을 가정했기 때문입니다. 이 계획안은 AI가 만든 것이었습니다. 엔지니어는 유능했습니다. 그는 첫 번째 검토가 아닌 두 번째 검토에서 오류를 발견했는데, 그것이 매일 승인하는 올바른 계획과 정확히 똑같이 보였기 때문입니다. '겉보기에 얼마나 옳아 보이는가'와 '실제로는 얼마나 틀렸는가' 사이의 간극이 이 글 전체의 주제입니다.

첫 번째 글에서는 AI가 개인의 웰빙에 미치는 비용은 기술적 결과물이 아니라 리더십의 선택이라고 주장했습니다. 이번 글은 더 조용한 손실, 즉 '권위(authority)'에 관한 것입니다. 모델이 화요일에는 팀원들 중 대부분보다 나은 전문가인데, 수요일에는 자신감 있고 그럴듯하게 틀린다면, 방 안의 전문가는 누구일까요?

AI를 숙련된 업무에 도입하는 모든 사람을 불안하게 만들 만한 연구 결과로 시작하겠습니다. 2023년, Harvard Business School과 Boston Consulting Group의 연구원들이 수백 명의 경영 컨설턴트를 대상으로 현장 실험을 진행했습니다. AI가 수행할 수 있는 영역에 속하는 과제에서는, AI를 사용한 컨설턴트들이 품질 면에서 약 40% 더 높은 평가를 받은 결과물을 내놓았고, 작업 완료 시간은 약 25% 단축되었으며, 처리량도 늘렸습니다. 반면, 그 역량을 살짝 벗어난 과제에서는 패턴이 뒤집혔습니다. AI를 사용한 사람들이 오히려 그렇지 않은 사람들보다 오답에 도달할 가능성이 더 높았습니다. 약간 틀린 정도가 아니었습니다. 유창하고, 자신감 있게 틀렸는데, 모델이 마치 올바른 작업처럼 보이는 권위 있는 결과물을 만들어냈기 때문입니다.

그들은 이것을 '들쭉날쭉한 최전선(jagged frontier)'이라고 불렀습니다. AI는 겉으로 볼 수 없는 패턴에서 매우 뛰어나지만 쓸모없는 면도 가지고 있으며, 이 두 가지가 바로 나란히 존재합니다. 한 작업에서는 팀이 전문가처럼 보이게 만드는 도구가 인접한 다른 작업에서는 잘못된 정보를 내놓으면서 그들을 전문가인 것처럼 보이게 만듭니다. 마크 트웨인이 언급한 문장이 이것을 가장 잘 설명하는 것 같습니다. '문제가 되는 것은 모르는 것이 아니라, 확실하다고 아는 것이 틀린 것이다.' AI는 자신감 있게 틀리는 기계이며, 이 자신감이야말로 인간이 무시하는 데 가장 서툰 신호입니다.

이러한 주장에 힘을 싣는 두 번째 증거가 있습니다. _Psychological Bulletin_에 게재된 2025년 메타 분석은 사람들이 AI를 신뢰하는지 혹은 불신하는지에 대한 수년간의 모순되는 연구 결과를 종합했으며, 그 답은 '작업(task)에 따라 다르다'였습니다. 사람들은 객관적이고 역량 중심적인 작업에서는 AI를 높이 평가하지만, 주관적이고 개인적인 작업에서는 저항감을 느낍니다. 이는

빨리 읽으면 좋은 소식처럼 들리고, 단기적으로는 그렇습니다. 하지만 천천히 읽어보면 경고가 담겨 있습니다. 만약 AI가 가장 경험이 적은 사람조차도 숙련된 것처럼 보이는 결과물을 만들게 한다면, 당신이 관리하던 신호(signal)를 잃게 됩니다. 이제 출력물만으로는 역량을 읽을 수 없습니다. 왜냐하면 그 출력물이 평준화되었기 때문입니다. 진정으로 이해하는 주니어와 프롬프트를 잘 사용한 주니어가 똑같은 문서를 제출합니다. 당신이 경력 내내 의지해 온 '좋은 결과물은 좋은 개발자를 의미한다'는 말이 조용히 더 이상 사실이 아니게 됩니다.

반론에 대한 논의, 진지하게 다루기

가장 명백한 반론은 이렇습니다. 모델들이 계속 좋아지고 있으니, 프런티어(frontier)가 메워져서 이 모든 문제가 스스로 해결되지 않을까요? 아닙니다. 그리고 여기에는 정확히 왜 그런지 설명할 가치가 있습니다. 프런티어는 움직이지만, 여전히 들쭉날쭉합니다. 역량의 모든 도약은 모델이 이제 시도하고 미묘하게 틀리는 새로운 인접 작업 세트를 열어젖힙니다. 이는 모델이 자신이 숙달한 작업에 가져오는 것과 정확히 같은 자신감으로 그 작업을 시도하기 때문입니다. 더 유능한 모델일수록, 이 새로운 경계면에서 더 유능하면서도 '자신만만한 오류를 범하는 기계'가 됩니다. 그리고 신호 손실 문제, 즉 평준화된 출력물만으로는 역량을 읽을 수 없다는 사실은 모델이 개선되어도 나아지지 않습니다. 오히려 악화됩니다.

이것이 리더에게 요구하는 것

직원들에게 AI를 무조건적으로 믿거나 불신하라고 지시하지 마십시오. 이 두 가지 모두 들쭉날쭉한 프런티어에서는 잘못된 접근입니다. 대신 그들이 '만들어내도록' 하고, 그리고 그들 스스로가 다음을 보여주도록 요구하십시오: 모델에 의존하는 부분, 모델을 검증하는 부분, 그리고 그 차이를 어떻게 알고 있는지 말입니다. 가장 빠르게 결과물을 내놓는 사람보다, 그럴듯하지만 틀린 답을 잡아내는 엔지니어에게 보상하십시오. '여기서 잘못될 수 있는 부분이 있고, 내가 이렇게 확인했다'라는 것을 마찰(friction)이 아닌 일류 기여(first-class contribution)로 만드십시오.

그리고 이것이 조용히 어떤 비용을 초래하는지 주목하십시오. 모델에 모든 작업을 완전히 맡기는 것은 직원들이 더 이상 연습하지 않는 작업이 됩니다. 제 엔지니어가 마이그레이션 버그를 잡아낼 수 있게 해준 전문 지식은, 그가 직접 그 일을 수행하면서—실패하고, 그리고 잘하게 되면서—수년간 쌓인 것이며, 이는 지금 여러분이 자동화로 대체하려는 유혹에 빠진 바로 그 작업입니다. 이것은 남겨두기에 가치가 있는 질문을 제기합니다. 만약 우리가 직원들의 전문 지식 구축을 멈춘다면, 기계를 감독할 수 있는 다음 세대의 사람들은 어디에서 오는 것일까요? 이 질문을 염두에 두십시오. 이 시리즈는 이 문제로 돌아오며, 그 답은 편안하지 않습니다.

우선순위가 높은 질문부터 말씀드리겠습니다. 만약 기계에 대한 판단이 새로운 권위라면, 절반의 '역할'이 더 이상 사람이 아니라 필요할 때 가동하는 에이전트(agents)로 구성된 팀을 실제로 어떻게 운영해야 할까요? 그것은 다음 주에 다루겠습니다.

시리즈: AI, 리더십 그리고 일의 인간 구조

1. AI가 초래하는 심리적 비용은 기술적 결과가 아닌 리더십 선택이다
2. 이제 권위자는 누구인가? 들쭉날쭉한 제너럴리스트 시대에 선두를 달리는 주체
3. 에이전트 팀 관리: 역할이 소프트웨어가 될 때의 리더십
4. AI를 위한 조직 설계: 왜 당신의 우수 센터(Centre of Excellence)가 병목 현상이 되는가
5. 주니어 인력 감축은 불가피한 AI의 필연성이 아닌 선택이다

현재 파트 2를 읽고 계십니다. 각 게시물마다 링크가 추가됩니다.

작성자: Richard Atkins.

출처: Dell'Acqua et al. (2023), "Navigating the Jagged Technological Frontier" (Harvard/BCG) — https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573321 · Mollick, "Centaurs and Cyborgs on the Jagged Frontier" — https://www.oneusefulthing.org/p/centaurs-and-cyborgs-on-the-jagged · Qin et al. (2025), "AI aversion or appreciation? A capability-personalization framework", Psychological Bulletin · Garry Kasparov, 인간-기계 팀의 프로세스에 관하여 (Kasparov의 법칙).