인공지능 (AI) 프로젝트는 거의 기술 때문에 실패하지 않습니다. 프로젝트는 마지막 단계, 즉 사람들의 업무에 AI를 통합하는 단계에서 실패합니다.

저는 조직의 인간적인 측면을 다루는 혁신 및 비즈니스 전략 컨설턴트인 Mayra Regueira와의 대화 후에 이 글을 씁니다. 저는 기술적인 측면 — 자동화 및 AI 에이전트 (AI Agents) 구축 — 에서 왔고, 그녀는 제가 자주 보았지만 정리하지 못했던 현상에 이름을 붙여주었습니다. 임계점은 모델 (Model)이나 통합 (Integration), 또는 예산에 있는 것이 아닙니다. 그것은 인도(delivery)가 이루어진 다음 날에 있습니다.

프로젝트는 작동하지만 여전히 시작되지 않는다

시퀀스는 항상 비슷합니다. 프로세스를 정의하고, 자동화를 구축하고, 기업이 이미 보유한 시스템과 연결하고, 테스트합니다. 데모 (Demo)는 성공적으로 끝납니다. 모두가 박수를 칩니다.

그리고 거기서 진짜 문제가 시작됩니다. 도구가 루틴, 계층 구조, 그리고 각자의 역할에 대해 상당히 명확한 생각을 가진 팀에 들어오기 때문입니다. AI는 이 모든 것에 동시에 영향을 미치지만, 아무도 그 대화를 준비하지 않았습니다.

작동하지만 아무도 사용하지 않는 기술은 기술적인 문제가 아닙니다. 그것은 수행되지 않은 업무의 문제입니다.

아무도 준비하지 않은 세 가지 질문

시스템이 가동되면, 사전에 답변된 적이 거의 없는 세 가지 질문이 나타납니다:

1. 이전에 그 업무를 수행하던 사람은 이제 무엇을 하는가?
만약 누군가가 매일 데이터 입력에 2시간을 할애했는데 그 2시간이 더 이상 존재하지 않는다면, 그 사람은 그 시간을 어디에 사용할지 알아야 합니다. 만약 아무도 말해주지 않는다면, 그 사람의 머릿속에서 스스로 만들어지는 답변은 "나를 해고하려는 것이다"입니다. 그리고 그렇게 생각하는 사람은 구현 (Implementation)에 협조하지 않습니다. 의도치 않더라도 이를 방해하게 됩니다.

2. AI가 업무의 일부를 해결하게 되면 팀의 업무 방식은 어떻게 변하는가?
단순히 작업 하나가 사라지는 것이 아닙니다. 시간 배분이 변하고, 누가 무엇을 검토하는지가 변하며, 무언가 잘못되었을 때 누구에게 책임이 있는지가 변합니다. 이를 정의하지 않은 팀은 의문이 생기는 즉시 과거의 방식으로 돌아가 버립니다. 왜냐하면 과거의 방식에는 익숙한 규칙이 있기 때문입니다.

3. 누가 사람들에게 이를 설명할 것인가?
이 질문은 Mayra와의 대화에서 가장 기억에 남는 부분입니다. 그리고 불편한 답변은, 기술 제공업체의 역할이 아니라는 점입니다.

리더의 역할은 외주를 줄 수 없는 영역이다

저는 완벽하게 작동하는 워크플로우 (Workflow)를 구축할 수 있습니다. 문서화하고, 교육하고, 지원 체계를 열어둘 수도 있습니다. 하지만 외부에서 제가 할 수 없는 일은, 팀원 개개인에게 이제 각자의 역할이 무엇인지 말해주는 것입니다.

그것은 그룹의 리더가 해야 할 일입니다. 리더는 사람과 AI 사이의 새로운 역학 관계 속에서 구성원들의 위치를 재설정하고 각자의 활동을 재정의해야 합니다. 즉, 무엇이 인간의 영역으로 남을지, 무엇이 기계로 넘어갈지, 그리고 무엇보다 확보된 시간을 통해 이제 어떤 새로운 일들을 할 수 있을지를 결정해야 합니다.

이것은 시스템의 문제가 아니라 리더십 (Leadership)의 문제입니다. 그리고 예산이나 구현 (Implementation) 일정 어디에도 나타나지 않기 때문에 가장 자주 생략되곤 합니다.

이 작업이 이루어지지 않으면 항상 똑같은 일이 발생합니다. 도구는 설치되어 2주 동안 사용되다가, 한 달 뒤면 팀은 다시 이전의 스프레드시트 (Spreadsheet) 방식으로 돌아가 버립니다. 프로젝트는 완료된 것으로 표시되지만, 아무도 사용하지 않게 됩니다.

구체적으로 무엇을 할 수 있는가

이 모든 것은 추상적인 이야기가 아닙니다. 꽤 실질적인 네 가지 사항입니다:

→ 시작한 후가 아니라, 시작하기 전에 직무에 대한 질문에 답하십시오. 첫 번째 코드 라인을 작성하기 전에, 영향을 받는 모든 구성원이 시스템이 가동될 때 자신이 무엇을 하게 될지 알고 있어야 합니다. 만약 정직한 답변이 "아직 모른다"라면, 그 사실 또한 말해야 합니다. 하지만 반드시 말해야 합니다.

→ 팀 리더가 프로젝트 초기부터 참여해야 합니다. 단순히 예산을 승인하는 사람이 아니라, 설계의 일부로서 참여해야 합니다. 팀 리더는 매뉴얼과는 거의 다른, 실제 업무 루틴을 가장 잘 아는 사람이기 때문입니다.

→ 매니저가 아닌 팀원들을 괴롭히는 프로세스부터 시작하세요. 모두가 싫어하는 업무를 가장 먼저 자동화할 때 도입이 훨씬 쉬워집니다. 민감한 부분을 건드리기 전에 신뢰를 먼저 얻어야 합니다.

→ 산출물이 아닌 사용량을 측정하세요. 지표는 "시스템이 운영 환경(Production)에 배포되었다"가 아닙니다. 이번 주에 얼마나 많은 사람이 사용했느냐입니다. 만약 그 숫자가 떨어진다면, 그것은 버그(Bug)의 문제가 아니라 팀과 나누어야 할 대화가 남아있다는 신호입니다.

그리고 기술적인 관점에서 제가 항상 강조하는 한 가지가 있습니다: 망가진 프로세스를 자동화하지 마세요. 먼저 프로세스를 정리하십시오. 그렇지 않으면 혼돈을 자동화하여 혼돈을 더 빠르게 만들 뿐입니다.

업계에서 잘 팔지 않는 부분

AI 시장은 모델, 에이전트(Agents), 통합(Integrations)과 같은 역량을 판매합니다. 이는 데모(Demo)에서 보여주기 쉬운 것들입니다. 하지만 거의 아무도 수익을 내지 못하면서, 프로젝트의 성패를 결정짓는 부분은 바로 그 시스템과 함께 살아갈 팀을 지원하는 과정입니다.

그렇기에 이 글을 쓸 가치가 있다고 생각했습니다. 저는 기술이 작동한다는 것을 보장할 수 있습니다. 하지만 기업이 그것을 실제로 사용하는 것은 공동의 책임이며, 그 책임의 절반은 기술적인 영역이 아닙니다.

만약 기업에 AI를 도입하려 한다면, 무엇인가에 서명하기 전에 스스로에게 질문하십시오: "이것이 작동한 다음 날, 당신의 직원들이 무엇을 하고 있을지 이미 알고 있습니까?"

이 글을 쓰게 된 계기는 이러한 프로세스의 인간적인 측면을 전문적으로 다루는 혁신 및 비즈니스 전략 컨설턴트인 Mayra Regueira와의 대화였습니다. 저는 비즈니스의 운영 뒷단에 집중하는 AI 컨설팅 기업인 Varka에서 기업을 위한 AI 자동화에 대해 글을 쓰고 있습니다. 자동화를 검토 중이며 거품 없는 의견이 필요하다면 저에게 연락해 주세요.