누가 “이 정도면 충분하다”라고 말할 수 있는가? AI 도입이 정체되는 이유

모든 기업이 AI를 도입하고 싶다고 말합니다. 하지만 그만큼 자주 목격되는 장면이 있습니다. 바로 심사숙고는 길어지지만, 실제 도입은 결코 일어나지 않는 모습입니다. 왜 앞으로 나아가지 못하는 걸까요?

보통 제시되는 이유는 "불안감"입니다. 기밀 정보가 유출되면 어쩌지? 우리가 인지하지 못한 채 잘못된 결과물을 사용하면 어쩌지? 자신도 모르게 타인의 권리를 침해하면 어쩌지? 하지만 데이터는 다른 방향을 가리키고 있습니다.

	일본	미국	영국	중국
"AI가 불안하다" *1	29%	64%	61%	—
생성형 AI 사용 경험 (개인) *2	26.7%	68.8%	—	81.2%

일본의 "불안감"은 30개국 중 가장 낮으며, 이는 미국과 영국의 절반에도 미치지 못합니다. 그럼에도 불구하고 실제로 사용해 본 사람들의 비율은 가장 작습니다. 불안해하지는 않지만, 사용하지도 않는 것입니다. 정체되는 이유는 감정 너머에 있습니다.

(*1 Ipsos AI Monitor 2025 / *2 일본 총무성, 2025 정보통신 백서)

그렇다면 무엇이 발목을 잡고 있는 걸까요? 제 직감은 이렇습니다. 그들은 완벽함을 기다리고 있습니다.

완벽함을 기다리지 않고 시작하기

해외의 엔지니어 및 비즈니스 리더들과 대화하다 보면, 그 온도 차이가 놀라울 때가 있습니다. AI의 그럴듯해 보이는 오류, 이른바 환각 (hallucinations)에 대해 이야기를 꺼내면, 돌아오는 답변은 "인간보다 거짓말을 덜 하니까 상관없다"와 같은 식입니다. 반면 일본의 리더에게서는 다음과 같은 말이 가장 먼저 나옵니다. "그래서, 얼마나 정확한가요?" "실수를 했을 때, 누가 책임을 지나요?" 그 간극이 바로 "온도 차이"가 의미하는 실제 모습입니다.

"인간보다 거짓말을 덜 한다"—농담처럼 들리겠지만, 이는 실질적인 핵심을 찌르는 말입니다. 제가 다루는 해외 환경에서는 상대방을 불쾌하게 하지 않는 답변을 하는 것이 사회적 에티켓이며, 사실 관계의 정확성보다 그것이 우선시되는 것이 드문 일도 아닙니다. 그곳 사람들은 진실보다는 마찰을 피할 수 있는 말을 합니다. 반면, AI는 당신을 기쁘게 유지해야 할 사회적 이해관계가 없습니다. 직장이 예의 차원의 "네, 다 됐습니다"라는 말로 운영될수록, 아첨 없이 답변하는 AI는 역설적으로 더욱 정직한 정보원이 될 수 있습니다.

AI에 부여되는 기대치는 애초에 다릅니다. "완벽한가?"가 아니라 "시작하기에 충분히 좋은가?"입니다. 그 질문 하나가 관점의 렌즈가 됩니다. 그래야 완벽함을 기다리지 않고 움직일 수 있기 때문입니다. AI에게 어디까지 위임하고 어디서부터 인간이 개입할 것인가에 대해, 시작하기도 전에 그 선을 완전히 긋기보다는 일단 실행해 봅니다. 그런 다음 실제 결과를 보면서 AI가 처리할 수 있었던 것과 인간이 맡아야 할 것을 분류합니다. 그 경계선은 사전에 완전히 설계하는 것이 아니라, 진행하면서 정착되는 것입니다.

일본 조직들은 이런 방식에 익숙하지 않습니다. 완벽함이 기본값(baseline)이며, 경쟁은 그 위에 어떤 부가가치를 쌓느냐에 달려 있습니다. 해당 분야에서 품질을 연마해 온 오랜 축적의 역사 때문에, 불완전한 상태로 시작한다는 개념은 받아들여질 곳이 없습니다. "그래서, 얼마나 정확한가요?"라는 질문은 바로 같은 문제의 뒷면입니다. 도입을 가로막는 것은 불안감이 아니라, 정교하게 다듬어진 표준입니다.

어디서 시작할 것인가

지출 결의(expense claims)를 AI에게 맡겨보세요. AI는 때때로 틀리기도 합니다. 만약 완벽함을 목표로 한다면, 100% 정확도를 향해 구축하는 데 수개월을 소비하게 됩니다. 만약 트레이드오프(trade-off)를 수용하는 것부터 시작한다면, AI가 실수를 할 것이라는 전제하에 운영을 시작할 수 있습니다.

그 트레이드오프(trade-off)는 다음과 같습니다. AI가 초안(draft)을 작성하면, 사람이 이를 마무리하는 방식입니다. 노력이 완전히 제로(zero)로 떨어지지는 않지만, 처음부터 직접 타이핑하는 것보다는 빠릅니다. "초안 작성 단계를 아꼈다"라고 말하며, 그 작은 감소분을 정당한 결과로 산정하는 것입니다. 헬프 데스크(help desk)를 구축하고, 정확도를 높이며, 인간의 노력을 제로로 줄이는 날을 기다릴 필요 없이, 당장 내일부터 움직이기 시작할 수 있습니다.

"그냥 한번 시도해 보자"라고 생각할 수 있는 영역들은 몇 가지 공통된 특징을 공유합니다:

• 생사(life-or-death)나 결제(payments)와 직결된 핵심적인 부분이 아님
• 실수가 발생하더라도 나중에 다시 바로잡을 수 있음
• 현재도 수많은 다양한 케이스를 처리하며 흐름을 유지하고 있는 것이 인간의 손길임

비용 청구(Expense claims)는 이 세 가지 조건을 모두 충족합니다. 회의록 정리, 문의 사항에 대한 1차 응답, 내부 문서 요약 등—주변을 둘러보면 동일한 조건에 있는 작업들이 아주 많습니다.

AI에게 어디까지 위임할 것인지, 그리고 어디에서 실수를 잡아낼 것인지—그 경계선은 일단 실행해 보고 나서야 보이기 시작합니다. 정교한 시스템이 필요한 것이 아닙니다. 어려운 점은 경계선을 찾는 것이 아닙니다. 그 경계선에서 누군가가 "이 정도면 충분하다"라고 말할 수 있는지, 그리고 그 선을 넘어가는 부분에 대해 누가 책임을 질 것인지의 문제입니다.

왜 아무도 "이 정도면 충분하다"라고 말할 수 없는가

그럼에도 불구하고, 바로 그 한 문장이 정작 언급되지 않고 있습니다.

"여기서 멈추자"라는 말은 뒤집어 생각하면 "여기까지만 만들고 그 이상은 만들지 않겠다"라고 결정하는 것을 의미합니다. 여러분의 운영 프로세스 모든 부분에는 저마다의 애착이 담겨 있습니다. 그 예외 처리(exception-handling)에는 그만한 이유가 있고, 그 검증(verification) 단계에는 그만한 역사가 있습니다. 모든 것이 다 의미를 지닌다는 것을 모두가 정확히 알고 있기 때문에, 관계자들은 "이 부분은 생략해도 된다"라고 말하는 것을 어려워합니다.

조직 또한 이를 뒷받침하지 않습니다. IT 부서는 시스템의 완결성(completeness)과 안정적인 운영을 기준으로 평가받습니다. "구축하지 말자"라는 제안은 점수를 얻지 못합니다. 현업 부서(business unit)는 현장이 원활하게 돌아가는지를 기준으로 평가받습니다. AI에 대해 "이 정도면 충분하다"라고 말하는 순간, 그 선 너머의 일을 떠맡게 되는 것은 바로 그들 자신의 부서이며, 이는 단지 추가적인 부담으로만 보일 뿐입니다. 디지털 전환(digital-transformation) 팀은 지속적인 성과를 내는 것으로 평가받습니다. "여기서 멈추겠다"라는 보고는 작성하기 가장 어려운 보고서입니다. 벤더(vendor)에게 추가 작업은 추가 수익입니다. 계약 과정에서 어디에서도 멈춰야 할 이유가 없습니다.

아무도 "이 정도면 충분하다"라고 말하지 않는 것과 같은 이유로, 아무도 그 너머에 있는 일을 떠맡으려 하지 않습니다. 실수를 잡아내는 역할은 업무량만 늘릴 뿐 점수를 얻지 못합니다. 그 누구의 평가표에도 이를 위한 항목은 존재하지 않습니다.

아무도 잘못하고 있는 것이 아닙니다. 각자는 단지 자신의 평가 기준에 따라 충실히 일할 뿐이며, 그렇게 구축되는 것들은 100%를 향해 팽창합니다. 다시 말해, 대부분의 조직에는 "이 정도면 충분하다. 여기서부터는 인간이 맡는다"라고 결정하고, 그 인간적인 측면을 책임질 직무를 가진 사람이 없습니다. 리더십이

현실적인 순서는 '빌려오고(borrow), 병행하며 실행하고(run alongside), 그리고 이관하는(transfer)' 것입니다. 처음에는 외부에서 역할을 빌려옵니다. 애착이 없는 제3자가 실제 업무에 투입되어—그 작업을 수행하면서—어디까지 AI에게 위임할지, 그리고 어디서 실수를 잡아낼지를 당신 앞에서 결정하고 시연합니다. 병행 실행 기간 동안, 내부적으로 이 업무를 맡을 다음 사람을 찾고 판단 기준 자체를 넘겨줍니다. 어느 날 내부의 누군가가 처음으로 '우리는 이것을 만들지 않겠다; 여기부터는 인간이 담당하겠다'라고 말하며 그것이 실현되면—그날 외부 역할은 끝납니다.

해외에서는 이 역할을 지칭하는 이름이 생겨나고 있습니다: Forward Deployed Engineer. 간단히 말해, '이 정도면 충분하다(this is good enough)'가 실제로 어떤 모습인지 보여주는 사람입니다. 책상 위에서 하는 연습이 아닙니다. 그들은 실제로 AI를 운영하고, 최대한 많이 통합하며, 인간의 지원이 필요한 곳이 바로 사람들이 개입하는 지점입니다. 그들은 작업을 수행하면서 당신과 함께 판단을 시연하고, 방법을 회사 내부에 남깁니다. 대화를 시작하기 위해 제안서나 전사적인 거대한 설계도가 필요하지 않습니다. 운영상의 단일 작업에서 '우리가 막힌 부분은 여기다'라는 구체적인 한 가지를 가져오기만 하면 됩니다. 그 후부터는 단순히 실행하는 문제입니다.

도입 이후 기다리는 다음 문제

만약 '이 정도면 충분하다'라는 말이 나오고, 도입이 진행된다고 가정해 봅시다. 그러면 똑같은 완벽주의가 다른 모습으로 다시 나타납니다.

지금까지 '있으면 좋겠지만, 할 수 없는' 것으로 조용히 미뤄두었던 업무들이 있습니다. 시간과 인력의 제약이 우선순위화 역할을 대신해 왔습니다. AI가 여력을 확보하게 되면, 그 보이지 않던 체크포인트가 무너집니다. '있으면 좋은 것'이 실제로 가능해지는 것입니다. 조직이 더 양심적일수록, 더욱 의무적으로 시작합니다. AI로 인해 가벼워질 것이라 예상했던 부서가 이전과 똑같이 바빠지게 됩니다. 그렇게 그러한 부서들이 탄생하는 것입니다.

만약 입구에서 던진 질문이 'AI에게 얼마나 위임할 것인가?'였다면, 여기서는 '무엇을 하고 무엇을 하지 않을 것인가'에 대한 질문입니다. '여유 역량이 있지만, 이것은 하지 않겠다'는 것은 회사 전체의 우선순위 결정 과정이며, 제대로 숙고되어야 할 종류의 문제입니다. 그런데 이제 검문소가 사라지자, 아무도 판단하지 않은 채 그저 '실행'으로 변해버립니다. 이는 현장 직원들을 탓하는 것이 아닙니다. 단지 '이것을 정말 해야 하는가?'라고 잠시 멈춰서 질문하는 역할 자체가 애초에 누구에게 할당된 적이 없었기 때문입니다.

월간 보고서에 한 줄만 추가해 보세요. '남는 시간을 무엇에 사용했는가?'라는 항목을요. 이렇게 하면 조용히 진행되던 실행 과정이 다시 의제에서 선택할 수 있는 영역으로 돌아오게 됩니다.

포착할 역량은 이미 존재한다

완벽함을 추구하는 것이 약점이 아닙니다. 그것은 품질 경쟁을 해온 조직의 핵심이자 강점입니다. 다만, AI 앞에서 이 핵심이 두 번이나 발목을 잡힙니다. 입구에서는 '불완전해도 시작'하기를 거부하고, 내부로 들어선 후에는 '하지 않기로 결정하는 것'을 거부합니다. 둘 다 결국 '여기까지 할 수 있는가'라는 질문으로 귀결됩니다.

그리고 이 역량이 0인 것은 아닙니다. 100%를 목표로 구축된 시스템의 공백은 오늘날에도 현장 직원들이 직접 메우고 있습니다. 이러한 패치 작업은 매일 벌어지고 있습니다. 나머지 부분을 포착하는 것은 새로운 부담을 쌓는 것이 아니라, 이미 보이지 않게 이루어지고 있는 판단에 이름과 시간, 그리고 인정을 부여하여 적절한 업무로 만드는 것입니다.

내일 할 수 있는 일은 작습니다. 가장 최근의 AI 도입이 오류가 0이 된 후에 실행되는 것이 아니라, 누가 발견하든 고칠 것이라는 전제 하에 이미 운영되고 있습니까? '우리는 이것을 하지 않기로 결정했다'는 기록이 어딘가에 남아 있습니까? 그리고 이 프로젝트를 추진하는 팀에게 물어보세요. '남는 역량을 무엇에 투입했습니까?'

특히 다음과 같은 낙관적인 답변을 주의하십시오: "이전에는 시간이 없어서 못 했던 온갖 일들을 이제야 하고 있습니다!" 이 답변이 더 밝게 들릴수록, 더 주의 깊게 멈춰 서서 생각할 가치가 있습니다. 그 일들 각각이 실제로 선택된 것입니까? 누군가가 "이것을 하자"라고 판단한 것입니까, 아니면 단순히 여유 역량 (capacity)이 생겼기 때문에 결정되지 않은 채로 채워진 것입니까? 만약 선택에 의해 시작된 것이라면 그것은 투자입니다. 만약 선택 없이 채워진 것이라면, 그것을 다시 선택하는 것이 당신의 최우선 과제입니다.