분석은 늘어났는데 판단은 둔해지는 역사를 AI 시대에 반복하지 않으려면

새로운 정보 기술이 등장할 때마다 기업은 "이것으로 분석이 더 빠르고 정확해질 것"이라고 기대해 왔다. 하지만 실제로 일어난 일은 리포트와 숫자만 늘어나고, 정작 중요한 의사결정은 오히려 늦어지며 질도 떨어지는 역설이었다. Whitney Zimmerman 씨의 기사 「Sustaining a Shared Reality」는 이러한 반복되는 패턴을 과거 기술의 파동으로부터 추적하며, 생성 AI (Generative AI)가 동일한 함정을 한층 더 깊게 만들 수 있다고 경고한다. 엔지니어와 테크 리드 (Tech Lead)에게는 "도구를 도입하면 판단도 좋아질 것"이라는 소박한 전제를 점검할 재료가 된다.

저자는 먼저 메인프레임 (Mainframe) 시대를 되돌아본다. 1955년에 세계적으로 약 240대였던 컴퓨터가 이후 5만 대 규모로 확산되면서 기업에는 전략 계획 붐이 찾아왔다. 하지만 당시 경영진들로부터는 그 방대한 계획 작업이 "시간과 돈의 엄청난 낭비"였다는 불만이 터져 나왔다. 분석 능력은 손에 넣었지만, 그것이 좋은 판단으로 이어지지는 않았던 것이다.

다음 파동은 스프레드시트와 데이터베이스 (Database)다. 1979년의 VisiCalc, 그리고 Oracle로 대표되는 데이터베이스가 분석을 민주화했고, 책상 위에는 스프레드시트가, 기업의 기반에는 데이터베이스가 당연하게 자리 잡았다. 1990년대까지 기업의 분석은 정교하고 대규모화되었다. 그러나 저자는 그 정교함이 조직을 전략적으로 움직이지 못하게 만드는 방향으로 작용하기도 했다고 지적한다.

구체적인 사례로 1993년 IBM을 이끌었던 Lou Gerstner가 언급된다. 그가 목격한 것은 고도의 분석을 보유하고 있으면서도 "마비되어 움직이지 못하는" 회사였다. 상징적인 것은 고객 만족도 조사가 339가지나 별도로 진행되고 있었다는 이야기로, 그 방대한 데이터가 오히려 경영진의 판단을 그르치고 있었다. Gerstner의 대처는 분석을 늘리는 것이 아니라 오히려 반대 방향이었다. "Operation Bear Hug"라고 불리는 노력을 통해 간부들이 고객과 직접 마주하게 함으로써, 조직 내에 공통된 이해를 다시 구축하게 했다.

GE의 Jack Welch도 비슷한 문제에 직면했다고 한다. 저자는 이를 "Fallacy of Detachment (분리의 오류)"라고 부른다. 집약되고 깔끔하게 정리된 정보가 경영진을 현장의 실태로부터 멀어지게 만드는 현상이다. 정보가 정돈될수록 보고 있는 듯한 기분이 들지만 실제로는 보지 못하게 되는 구도이다.

저자는 이러한 패턴이 반복되는 이유를 세 가지 메커니즘으로 설명한다.

첫 번째는 자동화 (Automation)에 의한 방심이다. 기술이 정형화된 작업을 맡게 되면, 사람은 그 주변의 사고로부터도 손을 떼게 된다. 판단력은 계속 사용함으로써 유지되지만, 그 연습 기회가 상실되어 간다.

두 번째는 공유되지 않는 머릿속의 모델이다. 완성된 분석 결과만을 받아보는 팀은 함께 문제를 해결하는 과정에서 길러져야 할 공통 인식을 가질 수 없다. 각자가 제각각의 이해를 가진 채, 보기 좋은 결론만을 공유하게 된다.

세 번째는 속도의 불일치이다. 분석은 점점 빨라지는데, 인간의 숙고나 합의 형성 속도는 변하지 않는다. 빠른 층이 그것을 통치해야 할 느린 층을 앞질러 버린다.

저자의 주장은 AI 자체가 전략에 유해하다는 것이 아니다. 문제는 사용법이며, 과거의 교훈을 의식하면 피할 수 있다는 입장이다. 기사에서 제시하는 방향성은 다음과 같다.

다듬어진 슬라이드를 소비하는 것이 아니라, 작업 세션을 통해 직접 관여할 것. 결과물을 즉시 자동화하기 전에 조직이 그것을 소화할 시간을 확보할 것. 분석의 양보다 문제 제기 (Framing)의 질을 우선할 것. 그리고 인간의 판단 흔적을 가치 있는 것으로 다룰 것. 저자는 여기서 Ruskin의 "불규칙성 (irregularities)"을 언급하며, 사람의 손길이 닿은 흔적을 오히려 존중하는 자세를 인용한다.

여기서부터는 나의 보충 설명이다. 이 기사가 보여주는 것은 도구 도입의 효과를 "아웃풋 (Output)의 양이나 속도"로 측정하면 실패하기 쉽다는 점이라고 생각한다. 코드 리뷰 (Code Review)나 설계 판단을 AI에 맡길 수 있는 장면이 늘어날수록, 리뷰나 설계를 "스스로 생각하는" 근육은 의식적으로 사용하지 않으면 퇴화한다. Gerstner가 분석을 더하는 대신 현장과의 대화를 더한 것은 시사하는 바가 크다. AI가 답을 빠르게 내놓기 때문에, 문제를 어떻게 정의하고, 선택지를 어떻게 논의하며, 팀의 공통 이해를 어떻게 만들 것인가 하는, 느리고 인간적인 부분에 시간을 남겨두는 가치가 올라간다. 생성 AI 도입을 검토할 때, "무엇을 자동화할 것인가"와 같은 비중으로 "무엇을 자동화하지 않고 사람이 계속 관여할 것인가"를 결정해 두어야 한다. 그것이 이 기사에서 얻을 수 있는 실천적인 교훈일 것이다. 📝

출처: Whitney Zimmerman의 「Sustaining a Shared Reality: How past technology waves have impacted strategy」. 뉴스레터 『Leadership in Tech』에서 소개됨. 원문: https://whitneyzim.medium.com/sustaining-a-shared-reality-how-past-technology-waves-have-impacted-strategy-c5965139341f