귀사의 조직이 AI 도입을 잘못하고 있지는 않나요?

제가 보기에 대부분의 조직들이 AI를 도입하는 방식은 전략이라기보다는 희극에 가깝습니다. 만약 이걸 영화로 만든다면, 평론가들은 믿을 수 없다고 할 겁니다. 아무도 그렇게 바보일 수는 없습니다.

하지만 우리는 여기에 와 있습니다. 그리고 더 좌절스러운 점은 우리가 이전에 이런 상황을 겪었다는 것입니다.

2014년경, 저는 Smashing Magazine을 위해 Digital Adaptation이라는 책을 집필했습니다. 이 책에서는 조직들이 디지털 전환(digital transformation)에 접근하면서 저지르는 실수들과 대신 무엇을 해야 하는지에 대해 다루었습니다. 그때와 지금의 유사점은 놀라울 정도입니다.

그래서 이번 포스트에서는 _Digital Adaptation_을 되돌아보며, 그 책의 교훈이 AI 시대에 어떻게 적용되는지 살펴보고, 오늘날 AI가 안겨준 어려움을 헤쳐나가는 데 과거로부터 무엇을 배울 수 있을지 알아보고자 합니다.

그때나 지금이나 가장 큰 실수는 이 모든 것을 기술적인 도전 과제로 접근하는 것입니다.

기술이 아닌 사람에 관한 문제입니다

물론 디지털 전환과 AI 모두 기술적 진보이며, 어느 정도의 기술 구현은 필요합니다. 하지만 그것은 아주 거대한 빙산의 일각에 불과합니다.

디지털 전환 시대 한창일 때, IT 부서들은 CMS(콘텐츠 관리 시스템), CRM(고객 관계 관리) 시스템, 인트라넷 등을 도입하고 있었습니다. 동시에 고객 대면 측면에서는 조직들이 웹사이트, 앱, 개인화 기능을 출시했습니다. 하지만 그들은 사람들이 이 시스템들을 어떻게 사용할지에 대해서는 거의 강조하지 않았습니다.

내부 시스템은 사용하기 어려웠고, 고객들은 무엇이 만들어지고 있는지 신경 쓰지 않거나 아예 다른 것을 원했습니다.

AI에서도 같은 일이 벌어지고 있습니다. 고위 경영진들은 과장된 기대감에 휩쓸리고 있고, IT 팀들은 Copilot Studio 라이선스를 회사 전체에 도입하며 임무를 완수했다고 생각합니다. 물론 조직 전체적인 일반 교육은 있지만, 그게 전부입니다.

예전처럼 직원들은 이 새로운 시스템들을 가지고 무엇을 해야 할지 의아해하며, 사용하고 결과를 내야 한다는 압박감을 느낍니다.

조직은 AI가 단순히 기술적 변화일 뿐만 아니라 문화적 변화라는 것을 인식해야 하며, 이러한 변화는 직원들에게 막대한 영향을 미칩니다.

결국 이번에는 상황이 더 심각합니다. 왜냐하면 이번에는 직원들이 자신의 일자리를 두려워하기 때문입니다. 그들은 여러분과 똑같은 헤드라인을 읽었으며, 고위 경영진의 어떤 약속도 그들을 더 나아지게 만들 수 없습니다.

직원들은 왜 AI를 도입하고 싶어 할까요?

생각해 보세요. 직원 입장에서 말입니다. 관리자들이 자신들을 대체하는 데 사용하려고 의도한다는 사실을 제외하더라도, AI는 그들에게 개인적으로 거의 이득이 되지 않습니다.

고위 경영진이 AI에 열광하는 주된 이유는 이것이 추가적인 생산성을 제공하기 때문입니다. 사람들은 더 적은 시간 동안 더 많은 일을 할 수 있게 됩니다. 하지만 그것은 직원들에게 이익이 되지 않습니다. 그들은 여전히 9시부터 5시까지 일해야 하지만, 이제는 같은 시간 안에 더 많은 것을 하도록 기대받습니다. 그들은 시간을 되찾지 못하고, 급여도 많이 받지 못하므로 왜 AI를 받아들일까요?

따라서 직원들에게 AI 도입을 강요하기 전에, 조직은 어떻게 그들을 동기 부여할 것인지 스스로에게 질문해야 합니다.

한 가지 전략은 직원들이 자신의 직무 중 싫어하는 부분을 파악하고, AI가 그러한 작업을 더 빠르고 덜 고통스럽게 수행하도록 어떻게 도울 수 있는지 알아보는 것입니다. 사람들은 변화가 자신의 업무 생활을 개선할 기회로 제시될 때 훨씬 더 수용적인 경향이 있습니다.

하지만 그것은 시작에 불과해야 합니다. 조직은 경력 발전, 보상 또는 단축된 근무 시간 측면에서 직원들이 AI를 도입하도록 장려하는 인센티브를 제공하는 것을 고려해야 할 수도 있습니다.

직원들은 AI를 도입하기 위해 시간과 지원이 필요합니다

또한, AI를 도입하는 것은 간단한 작업이 아닙니다. 이는 수십 년에 걸쳐 (어떤 경우에는) 쌓아온 모든 업무 관행에 도전하는 것을 포함합니다. 이 모든 절차적 지식을 재구축해야 합니다. 이것은 최고의 상황에서도 누구에게나 많은 요구이며, 대부분의 직원은 최상의 상황에 놓여 있지 않습니다.

대부분의 사람들은 과로에 시달리며 할 일 목록을 따라잡기 위해 애쓰고 있습니다. 그들에게 새로운 도구를 배우고 그것이 자신의 업무 흐름(workflow)에 어떻게 맞는지 파악할 시간이 없습니다.

단순히 시간만 문제가 아닙니다. 상당한 고려와 실험의 과정이 필요합니다. 직원을 교육 과정에 보내서 AI를 최대한 활용하기를 기대하는 것만으로는 충분하지 않습니다.

최소한 직원들은 UX 팀을 위한 AI 교육과 같이 자신의 역할에 특화된 교육이 필요합니다. 하지만 조직은 훨씬 더 나아가야 합니다.

그들은 여러 부서의 직원들이 자신들의 특정 역할에서 AI를 어떻게 사용할 수 있는지 이해하도록 돕는 정교한 교육 프로그램을 개발해야 합니다. 또한 지속적인 지원과 AI를 실험하여 가장 좋은 사용 방법을 찾을 시간이 필요합니다.

하지만 공식적인 교육만으로는 한계가 있습니다. 제 경험상, 가장 효과적인 지원은 동료에게서 나옵니다. 이것이 제가 저항하는 사람들(resisters)보다 열정적인 사람들(enthusiasts)부터 시작해야 한다고 생각하는 이유입니다. 모든 조직에는 이미 누군가 요청하지 않았음에도 AI를 실험하고 있는 소수의 사람들이 있습니다. 이 사람들을 모으고, 그들이 효과를 본 것을 공유할 시간과 공간을 주고, 그들의 열정이 다른 모든 사람에게 퍼지도록 하세요.

저도 디지털 전환(digital transformation) 시대에 이런 사례를 목격했습니다. 제가 쓴 _Digital Adaptation_에서 직원들이 동료들에게 자신이 무엇을 만들었는지 보여준 내부 컨퍼런스를 설명했는데, 이는 최고 경영진의 어떤 메모보다도 도입률에 더 큰 영향을 미쳤습니다. 사람들은 고위 관리자로부터 지시받는 것보다 비슷한 역할을 하는 동료가 성공적으로 사용하는 것을 볼 때 무언가를 시도할 가능성이 훨씬 높습니다.

가장 저항하는 직원들을 먼저 설득하려고 하기보다는, 조직은 이미 AI를 실험하고 있는 사람들을 찾아 그들이 배운 것을 공유할 시간을 주고, 사회적 증거(social proof)가 핵심적인 역할을 하도록 해야 합니다.

안타깝게도 실험에는 큰 단점(downside)이 따릅니다… 실수들이 발생할 것입니다.

실패해도 안전해야 합니다 (It Needs To Be Safe To Fail)

솔직히 말해서 많은 조직들은 실수를 무능함의 징후로 보는 두려움의 문화를 가지고 있습니다. 하지만 AI와 같은 새로운 도구를 학습하는 과정 자체가 실수들을 수반하기 때문에, 이것이 채택(adoption)에 엄청난 장벽이 될 수 있습니다.

저는 디지털 전환(digital transformation) 시대에 이 현상을 목격했습니다. 고위 경영진은 디지털 전환을 요구했지만, 실제로 그렇게 되지 않았을 때 혼란스러워했습니다.

그들이 깨닫지 못한 것은 직원들에게 상반된 메시지를 보내고 있었다는 점입니다. 물론 그들은 디지털 전환을 요구했지만, 여전히 동일한 핵심 성과 지표(KPIs)를 달성할 것을 요구했고, 연례 평가에서도 실수를 지적했습니다.

성과를 내야 한다는 압박이 끊임없었기 때문에, 실패할 공간 자체가 없었습니다.

이번에는 그보다 더 심한 것 같습니다. AI 도입을 하라는 말을 들은 지 불과 몇 주 만에 토큰(tokens)을 너무 많이 사용했다는 이유로 직원이 질책당했다는 끔찍한 이야기를 듣습니다. 또는 직원들이 AI를 가지고 무엇을 해야 하고 무엇을 해서는 안 되는지에 대해 너무 많은 강의를 들어서, 아무것도 시도하는 것을 두려워합니다. 예전처럼 하던 대로 하는 것이 더 안전합니다.

만약 경영진이 직원들에게 AI 도입을 원한다면, 그들은 직원들이 실험해도 안전하다고 느끼게 만들어야 합니다. KPI를 조정하고, 직원 평가 방식을 변경하며, 직원들이 학습하는 동안 일부 거버넌스(governance)를 완화해야 합니다.

거버넌스를 신중하게 다루기 (Handle Governance With Care)

보시다시피, AI는 어떤 거버넌스가 마련되지 않은 채로 배포될 수 없습니다. 하지만 다시 말하지만, 이것은 조직들이 일반적으로 형편없이 처리해 온 영역입니다.

디지털 전환의 한가운데에서, 거버넌스는 존재하지 않거나, 너무 엄격해서 혁신을 저해하는 경우가 많았고, 안타깝게도 AI 도입에서도 같은 패턴이 나타나고 있습니다.

직원들은 자신이 어디에 서 있는지 알 수 있도록 어느 정도의 거버넌스가 필요합니다. 이는 그들이 무엇이 기대되는지, 그리고 무엇을 할 수 있고 무엇을 할 수 없는지를 이해하는 데 도움을 줍니다.

하지만 너무 자주 조직들은 지나치게 엄격하여 아예 아무것도 하지 않는 것이 더 쉬운 상황에 놓입니다. 직원들이 AI와 무엇을 공유해야 하고 무엇을 공유해서는 안 되는지에 대한 수많은 지침 페이지가 제가 앞서 언급한 그러한 두려움을 만들어냅니다.

조직들은 gov.uk의 디자인 원칙과 유사하게 몇 장의 포스터에 담을 수 있는 짧은 원칙 세트가 필요합니다. 그 외에도 직원들이 상식적으로 사용할 것이라는 어느 정도의 신뢰를 보여줄 필요가 있습니다.

물론 실수는 발생할 것이지만, 그것이 변화의 대가이며, 따라서 조직들은 이를 받아들이고 기술을 배포하는 방식에서 이를 완화하기 위해 할 수 있는 일을 해야 합니다.

적응형 기술 도입 (Adaptive Technological Rollout)

그렇다고 하더라도, 조직들은 IT 관점에서 AI를 어떻게 배포할지 신중해야 합니다. 다시 한번 말하지만, 모든 것을 잠가버리고 AI의 채택을 위축시키기 쉽습니다.

다시 말씀드리지만, 이것은 제가 2014년에 디지털 전환(digital transformation)과 관련하여 강조했던 내용입니다. 과부하된 IT 팀들은 일련의 기술들을 선택하여 조직 전체에 배포했고, 종종 그것을 사용할 개개인들과는 거의 또는 전혀 협의하지 않았습니다. 그 기술 세트 밖에 있는 것은 모두 복잡한 승인 절차를 거쳐야 했으며, 보통 운영 위원회(steering committee)가 관여했습니다. 그 결과는 변화의 빙하 같은 속도였고, 이는 디지털 전환 프로젝트 실패율의 주요 기여 요인 중 하나였습니다.

오늘날 우리는 똑같은 것을 목격하고 있습니다. IT 팀들은 Copilot과 같은 도구를 선택하여 끝났다고 생각하지만, 그것은 종종 엄청나게 부족합니다.

예를 들어, 제가 현재 함께 작업하고 있는 UX 팀을 예로 들어보겠습니다. 경영진은 AI 도입을 강력하게 추진하고 있으며, 팀은 AI 기반 연구 저장소와 심지어 AI 페르소나(AI personas)를 생성하는 잠재력에 대해 흥분해합니다. 이는 열정적인 경영진, 기대감 넘치는 팀, 혁신적인 아이디어가 있는 AI 도입의 멋진 사례 연구처럼 들립니다.

안타깝게도 현실은 Copilot이 팀의 비전을 충족시키지 못하기 때문에 아무 일도 일어나지 않는다는 것입니다. 그래서 그들은 현재 AI 운영 위원회(AI steering group)를 설득하기 위해 다른 도구 세트를 사용해야 한다고 애쓰느라 관료주의에 갇혀 있습니다. 이해할 만하게, 팀의 열정은 식어가고 있습니다. 왜 애써야 할까요?

그리고 그 팀은 비교적 인내심이 강한 편입니다. 많은 조직에서 직원들은 운영 위원회를 기다리지 않습니다. 디지털 전환 시대에 우리가 그림자 IT(shadow IT)를 목격했던 것처럼, 공식 도구들이 필요한 것을 수행할 수 없었기 때문에 사람들이 Dropbox나 Google Docs에 가입하던 것과 마찬가지로, 우리는 지금 그림자 AI(shadow AI)를 보고 있습니다. 사내 AI 도구가 직원들이 업무를 처리하는 것을 허용하지 않을 때, 그들은 휴대폰이나 집 노트북에서 개인 ChatGPT 또는 Claude 계정을 열고 계속 작업을 진행합니다.

이것은 제한 조치가 막으려고 했던 문제보다 훨씬 더 위험합니다. 회사 데이터가 조직이 통제할 수 없고, 감독도 없으며, 무엇이 공유되었는지 기록조차 남지 않는 도구에 들어가게 됩니다. 모든 것을 잠그려고 노력하는 과정에서, 조직들은 자신이 볼 수 없는 어딘가로 리스크를 밀어내는 결과를 낳습니다.

본능적인 반응은 더 엄격한 정책, 차단된 웹사이트, 그리고 징계 조치 경고와 함께 통제하려는 것입니다. 하지만 그것은 거의 효과가 없으며, 행동을 더욱 지하 깊숙이 몰아넣습니다. 그림자 AI는 증상이며, 유용한 증상입니다. 왜냐하면 공식 도구들이 정확히 어디에서 부족한지를 보여주기 때문입니다.

그림자 AI를 뿌리 뽑으려고 하기보다, 조직은 그것으로부터 배워야 합니다. 직원들과 그들이 개인 계정으로 무엇을 사용하고 있는지, 그리고 제공받은 AI로는 무엇을 할 수 없다고 느끼는지에 대해 이야기하고, 이를 다음 배포할 내용을 구상하는 데 활용해야 합니다.

보시다시피, 복잡하고 통제 불가능한 기술 스택의 비용은 이해합니다. 이상적이지 않습니다. 하지만 도입 초기 단계에서는 사람들이 가능한 것의 경계를 탐색하고 일반적인 사용 사례를 정리해 나가는 동안 약간의 혼란을 감수해야 할 수도 있습니다.

조직은 직원들이 다양한 용도의 AI와 심지어 여러 AI 앱을 탐색할 수 있도록 허용해야 합니다. 이를 통해 각자의 역할에 맞는 특정 요구사항을 찾아낼 수 있습니다. 조직의 실제 필요가 더 명확해지면 언제든지 통제(locking down)를 시작해도 됩니다.

위험한 시기

이 모든 것이 일부 조직에게는 위험하게 느껴진다는 것을 인정합니다. 그들은 AI 도입 과정을 중앙에서 통제하고 아무것도 잘못되지 않도록 하고 싶어 합니다. 저는 그것을 이해합니다. 하지만 변화에는 어느 정도의 위험이 따르며, 너무 느리게 움직이는 위험은 너무 빠르게 움직이는 위험보다 더 큽니다.