당신을 위해 만들어진 안주하는 정체기 (The Comfort Plateau)

지난 1년 동안 엔지니어와 작가들이 이러한 도구들을 채택하는 과정을 지켜보았고, 동일한 패턴이 계속해서 나타나고 있습니다. 처음 3개월은 혁신적으로 보입니다. 그다음 9개월은 처음 3개월과 거의 동일해 보입니다. 결과물은 계속 나오고, 자신감은 계속 쌓입니다. 하지만 기술은 더 이상 발전하지 않습니다. 이것은 AI가 사람들을 더 멍청하게 만든다는 이야기가 아닙니다. 이전에는 존재하지 않았던 '안주하는 정체기 (Comfort Plateau)'에 대한 이야기이며, 그 상태에 머무는 데 어떤 대가가 따르는지에 대한 이야기입니다.

접근성의 돌파구는 실재합니다. 스파이더 차트 (Spider Chart)를 그려보십시오. SQL, 계약법, React, 방사선학, 협상, Kubernetes, 카피라이팅 등 수백 개의 축이 있습니다. 한 인간의 점수를 매겨보십시오. 대부분의 전문가는 두세 개의 돌출된 스파이크가 있고 나머지 영역은 평평한 별 모양처럼 보입니다. 핵심은 깊이 (Depth)입니다. 동일한 차트에 AI를 표시해 보십시오. AI는 어떤 축에서도 5점을 받지는 못합니다. 하지만 거의 모든 영역에서 2~4점 사이에 위치합니다. 그 어떤 개인도 이토록 광범위하게 유능한 도구를 가져본 적이 없습니다. 이것이 신규 진입자들에게 얻는 이득이 매우 큰 이유입니다. 758명의 컨설턴트를 대상으로 한 BCG 연구에 따르면, 평균 이하의 성과자는 43% 향상되었고, 평균 이상의 성과자는 17% 향상되었습니다. 5,179명의 고객 지원 상담원을 대상으로 한 현장 연구에서는 초보자의 생산성이 34% 증가한 반면, 가장 숙련된 상담원들은 거의 아무런 이득을 얻지 못했습니다. "이걸 할 수 없다"에서 "결과물을 출시했다"로 가는 데 예전에는 몇 달이 걸렸습니다. 이제는 몇 분이면 충분합니다. 이야기의 이 부분은 긍정적입니다. 그리고 대부분의 AI 관련 글들이 멈추는 지점이기도 합니다.

그릴 수 없는 자전거
사람들에게 자전거가 어떻게 작동하는지에 대한 이해도를 평가해 달라고 요청하십시오. 그들은 높게 평가할 것입니다. 기억을 되살려 자전거를 그려보라고 요청하십시오. 비자전거 이용자의 약 절반은 체인을 잘못 그리는데, 뒷바퀴와 페달에만 연결하는 대신 양쪽 바퀴 모두에 두르는 실수를 범합니다. 많은 이들이 프레임이 앞바퀴와 뒷바퀴를 연결하도록 그리는데, 이는 조향을 불가능하게 만듭니다. 그림을 그린 후 다시 평가해 달라고 요청하면 자신감은 무너집니다. 이것이 바로 '설명 깊이의 착각 (Illusion of Explanatory Depth)'입니다. 사람들은 실제로 설명할 수 없는 것들을 이해하고 있다고 느낍니다. 이 착각은 설명을 반드시 만들어내야만 하는 상황에 직면했을 때 비로소 깨집니다.

그러한 생산 단계 (production step)가 없다면, 자신감은 영원히 도전받지 않은 채 머물러 있게 됩니다. AI는 생산 단계를 제거합니다. 당신은 자전거를 직접 그리지 않습니다. 그저 자전거를 요청할 뿐입니다. 페달은 올바른 위치에 있고, 체인은 제대로 돌아갑니다. 당신은 그것을 출시 (ship) 합니다. 아무것도 무너지지 않습니다. 다음에 자전거가 필요할 때 당신은 다시 요청할 것이고, 정신적 모델 (mental model)을 구축했을 피드백 루프 (feedback loop)는 결코 닫히지 않습니다. 이 '자전거 효과 (bicycle effect)'가 코드나 산문에 완벽하게 적용되는지는 확실하지 않습니다. 하지만 강요된 설명 없이 유창한 결과물을 내놓는 그 메커니즘은 타당해 보입니다. 그리고 이제 직접적인 증거가 있습니다. 지난 1월, Anthropic의 한 연구가 정확히 이 현상을 측정했습니다. AI의 도움을 받아 생소한 라이브러리를 배우는 주니어 개발자들은 그렇지 않은 개발자들보다 개념적 이해와 디버깅 (debugging) 측면에서 17% 낮은 점수를 기록했습니다. 그들이 출시한 코드는 구분이 불가능할 정도로 완벽해 보였습니다. 하지만 그 이면의 판단력은 발달하지 않았습니다.

"하지만 우리는 이전에도 이런 두려움을 가졌었습니다." 계산기가 산술 능력을 없애버릴 것이라 했습니다. 맞춤법 검사기가 문해력을 끝장낼 것이라 했습니다. Stack Overflow가 얕은 지식만을 가진 프로그래머를 양산할 것이라 했습니다. 그 예측들 중 대부분은 틀렸습니다. 한 메타 분석 (meta-analysis)에 따르면, 계산기를 적절히 통합하여 사용하면 수학 능력이 향상되는 것으로 나타났습니다. Stack Overflow는 코드를 더 기능적으로 만들었지만 보안성은 현저히 낮추었음에도 불구하고, 프로그래머들의 능력을 전반적으로 퇴화시키지는 않았습니다. 그렇다면 왜 AI는 다를까요? 그것이 '노동의 어느 지점'을 제거하느냐의 차이 때문입니다. 계산기는 실행 (execution)을 제거합니다. 당신은 여전히 문제를 설정해야 합니다. "이 두 가지를 곱하고 단위를 확인해야 한다"는 정신적 모델은 여전히 당신의 것입니다. Stack Overflow는 검색 (retrieval)을 제거합니다. 당신은 여전히 답을 조정하고, 통합하며, 그것이 적합한지 결정해야 합니다. GPS는 생성 (generation), 즉 공간 지도를 구축하는 과정을 제거합니다. 3년간 GPS 사용자들을 추적한 종단적 연구 (longitudinal study)에 따르면, 헤비 유저들은 해마 의존적 공간 기억력 (hippocampal-dependent spatial memory)이 감소하는 모습을 보였습니다. 그들이 원래 길치였기 때문이 아닙니다. 지도를 생성하는 것을 멈췄기 때문입니다. AI는 계산기가 아니라 GPS와 같습니다. AI는 생성 단계, 즉 정신적 모델을 구축하는 단계를 제거합니다. 그것이 바로 '자전거 붕괴 (bicycle collapse)'를 촉발하는 단계입니다.

그 단계를 제거하면 붕괴는 결코 일어나지 않습니다. 동기 부여된 소수(motivated minority)의 반론: 모든 도구는 분포(distribution)를 만들어냅니다. 상위 25%(top quartile)는 이를 가속화하는 데 사용하고, 중간값(median)은 정체기에 머무르며, 누가 앞서나가는지에 대해서는 아무것도 변하지 않는다는 주장입니다. AI는 단지 그 최신 사례일 뿐이라는 것이죠. 이 말은 절반은 맞습니다. 과거에 어떤 사람들을 다른 사람들보다 더 가치 있게 만들었던 요소, 즉 특정 도메인에서의 깊은 지식(deep knowledge)의 중요성이 이제는 줄어들었습니다. AI는 자신이 수행할 수 있는 작업에 대해 그 격차를 좁혔습니다. BCG 연구는 이를 명확히 보여주었습니다. 하위 50%의 컨설턴트들이 상위 50%보다 더 많은 이득을 얻었습니다. AI가 형성한 작업 영역에서 전문성 격차(expertise gap)는 좁혀지고 있습니다. 하지만 새로운 축이 열리고 있습니다. AI 사용자 간의 편차(variance)는 줄어들고 있지 않습니다. 일부 측정 지표에서는 약 47% 증가하고 있습니다. 새로운 상위 25%는 가장 깊은 도메인 지식을 가진 사람들이 아닙니다. AI의 결과물을 마주하고 다음과 같이 질문할 수 있는 사람들입니다: "이것이 맞는지 확인하려면 나는 무엇을 그려내야 하는가?" 유창함(fluency)을 신호(signal)가 아닌 경고(warning)로 취급하는 사람들입니다. 그것은 AI가 당신에게 줄 수 없는 기술입니다. 설계상, AI는 그 기술을 발달시키는 바로 그 순간을 제거해 버리기 때문입니다. 정체기가 압박이 발생하는 지점입니다: 이것이 지금 중요한 이유는 개인적인 이유뿐만 아니라 외부적인 이유도 있습니다. 압축되고 있는 역할들은 어떤 기술 차트의 최상단에 있는 역할들이 아닙니다. 그들은 요구되는 기술이 AI가 이미 제공하는 수준과 같거나 그보다 낮은 역할들입니다. AI는 바닥(floor)을 높입니다. 바닥에 있거나 그 아래에 있는 역할들은 더 저렴해지거나, 수가 줄어들거나, 다른 누군가의 업무로 흡수됩니다. 반면, 단순히 출시하기에 충분히 다듬어진 결과물(outputs)을 내는 것이 아니라, 설명할 수 있을 만큼 충분히 깊은 이해를 요구하는 '바닥 위'의 역할들은 그렇지 않습니다. 안주하는 정체기(comfort plateau)가 바로 그 바닥입니다. 그곳에 머문다면 당신이 하는 일은 AI가 이미 하고 있는 일입니다. AI가 당신을 위해 할 수 없는 일, 즉 인간의 영역으로 남을 일은 바로 그 일입니다. 이것이 당신에게 요구하는 것: 이것을 시도해 보세요. 지난주에 AI와 함께 완성하여 내놓은 무언가를 가져오세요. 그것을 보지 않고 소리 내어 어떻게 작동하는지 설명해 보세요. 설명이 빈약해지는 지점을 주목하세요. 만약 설명의 대부분이 빈약해진다면, 그것이 바로 정체기입니다. 그것은 노력의 실패가 아닙니다. 마찰(friction)의 실패입니다.

5년 후, 지식 노동(knowledge work)에서 가장 큰 기술 격차는 AI를 사용하는 사람과 사용하지 않는 사람 사이에서 발생하지 않을 것입니다. 그것은 유창함(fluency)이 도전 없이 지나가도록 내버려 두는 사람과, 스스로 자전거를 그려내겠다고 고집하는 사람 사이에서 발생할 것입니다. 도구는 어느 쪽에서든 계속 작동하겠지만, 성장은 그렇지 않을 것입니다.