「여기까지면 충분하다」를 누가 결정하는가

AI를 도입하고 싶다는 이야기는 어느 회사에서나 들린다. 그런데 검토만 계속될 뿐, 도입에는 이르지 못하는 풍경 또한 그만큼 자주 보인다. 왜 앞으로 나아가지 못하는 것일까.

이유로 자주 거론되는 것은 「불안」이다. 기밀 정보가 외부로 유출되지 않을까, 잘못된 출력을 그대로 사용하게 되지 않을까, 나도 모르는 사이에 타인의 권리를 침해하지 않을까. 하지만 데이터는 정반대를 가리키고 있다.

| 일본 | 미국 | 영국 | 중국 | |
|---|---|---|---||
| 「AI는 불안하다」※1 | 29% | 64% | 61% | — |
| 생성 AI 이용 경험·개인※2 | 26.7% | 68.8% | — | 81.2% |

일본의 「불안」은 30개국 중 가장 낮으며, 미·영의 절반 이하이다. 그런데 사용 경험은 가장 적다. 불안하지도 않은데 사용하지 않는다——나아가지 못하는 이유는 감정의 외부에 있다.

(※1 Ipsos AI Monitor 2025／※2 총무성·레이와 7년판 정보통신백서)

그렇다면 무엇이 가로막고 있는 것일까. 완벽함을 기다리고 있기 때문이 아닐까 생각한다.

해외의 엔지니어(Engineer)나 사업 책임자와 이야기하다 보면 온도 차에 놀랄 때가 있다. AI의 그럴듯한 오답——이른바 할루시네이션 (Hallucination, 환각 현상)——을 언급해도, 돌아오는 대답은 「인간보다 거짓말을 안 하니까 신경 쓰이지 않는다」 정도다. 반면, 일본의 책임자에게서 가장 먼저 나오는 말은 「그래서 정밀도는 어느 정도입니까」, 「틀렸을 때 누가 책임을 집니까」이다. 이 차이가 온도 차의 정체이다.

「인간보다 거짓말을 안 한다」——농담 같지만 핵심을 찌르는 말이다. 관계를 맺고 있는 해외 현장에서는 상대의 기분을 상하게 하지 않는 대답을 하는 것이 그 자리의 예법이며, 일의 정확성보다 그것이 우선시되는 경우도 드물지 않다. 그곳에서 사람은 진실보다 마찰이 없는 말을 내뱉는다. 그런 점에서 AI에게는 기분을 살피는 사교상의 사정이 없다. 「네, 되고 있습니다」가 예의가 되는 상황일수록, 눈치를 보지 않고 답하는 AI가 오히려 정직한 정보원이 될 수 있다.

애초에 AI에 요구하는 기대치가 다르다. 완벽한가 아닌가가 아니라, 우선 시작하기에 충분한가. 그 한 점을 보고 있다. 그렇기에 완벽을 기다리지 않고 움직일 수 있다. 어디까지를 AI에게 맡기고, 어디서부터 인간이 담당할 것인가——그 선을 처음에 완전히 긋고 시작하는 것이 아니라, 우선 움직인다. 그리고 AI가 해낼 수 있는 부분과 인간이 수습해야 할 부분을 움직인 결과에 따라 나누어 간다. 선은 시작하기 전에 설계하는 것이 아니라, 움직이면서 정해지는 것이다.

일본의 조직은 이러한 진입 방식에 익숙하지 않다. 완벽해야 마땅하며, 그곳에 어떤 부가가치를 얹을지로 승부한다. 그 토대 위에서 품질을 연마해 온 축적이 있기에, 불완전한 채로 시작한다는 발상이 뿌리내리기 어렵다. 앞서 말한 「그래서 정밀도는」도 그 반대 급부다. 가로막고 있는 것은 불안이 아니라, 연마된 표준(Standard)이라고 생각한다.

경비 신청을 AI에게 맡겨본다. AI는 때때로 틀린다. 완벽을 지향한다면 정밀도를 100%에 가깝게 만드는 정교화 작업에 수개월을 들인다. 차라리 단념하고 시작한다면, 틀리는 것을 전제로 그대로 처리를 흘려보낸다.

그 단념은 다음과 같은 태도다. AI가 초안을 만들고, 나머지는 사람이 마무리한다. 수고가 제로(Zero)가 되지는 않지만, 처음부터 쓰는 것보다는 빠르다. 「초안 덕분에 수고가 줄었다」——그 작은 단축을 제대로 성과로 인정한다. 창구를 마련하고 정밀도를 높여 사람의 손이 필요 없는 날을 기다리지 않고, 내일부터 바로 움직일 수 있다.

「일단 한번 해볼까」라고 생각할 수 있는 영역에는 공통점이 있다.

• 인명이나 결제의 핵심이 아니다
• 틀려도 나중에 다시 바로잡을 수 있다
• 지금은 인력이 있기 때문에 다양한 패턴을 돌릴 수 있다

경비 신청은 이 세 가지를 충족한다. 회의록 정리, 문의 1차 대응, 사내 문서 요약——둘러보면 같은 조건의 업무는 얼마든지 있다.

어디까지를 AI에게 맡기고 어디서 실수를 받아들일 것인가——그 선은 움직여 보면 보인다. 거창한 시스템은 필요 없다. 어려운 것은 선을 찾는 것이 아니다. 그 선에서 「여기까지면 충분하다」라고 인정하고, 넘쳐흐른 부분을 누가 맡을 것인가 하는 문제다.

그런데 그 한마디를 말하지 못한다.

「여기까지만 한다」는 것은 뒤집어 말하면 「여기서부터는 만들지 않겠다」고 결정하는 것이다. 자사의 업무에는 어디에나 애착이 있다. 그 예외 처리에도 이유가 있고, 그 확인 공정에도 역사가 있다. 모든 것에 의미가 있다는 것을 알고 있기에, 당사자는 「여기는 생략해도 된다」라고 말하기 어렵다.

조직 측에서도 그것을 뒷받침하지 않는다. 정보 시스템 부문의 평가는 시스템의 완성도와 안정적인 가동으로 결정된다. 「만들지 않는다」는 제안은 점수가 되지 않는다. 업무 부문의 평가는 현장이 차질 없이 돌아가는 것으로 결정된다. AI에게 「이 정도면 됐다」라고 말하면, 그 이후를 책임지는 것은 해당 부서다. 부담이 늘어나는 것으로밖에 보이지 않는다. DX 추진 부문의 평가는 성과를 계속해서 내는 것으로 결정된다. 「여기서 멈춥니다」는 가장 쓰기 어려운 보고이다. 벤더(Vendor)에게 있어서는 추가 대응이 그대로 추가 매출이 된다. 멈춰야 할 이유가 계약 어디에도 없다.

「이 정도면 됐다」라고 말하는 사람이 없는 것과 같은 이유로, 그 이후를 떠맡는 사람도 없다. 실수를 받아내는 역할은 업무만 늘어날 뿐 점수가 되지 않는다. 누구의 평가표에도 그 항목이 없기 때문이다.

아무도 틀리지 않았다. 각자가 자신의 평가에 충실하게 일할 뿐, 만들어지는 것은 100%를 향해 부풀어 올라간다. 즉, 많은 조직에는 「이 정도면 됐다. 여기서부터는 인간이 한다」라고 결정하고, 그 인간 측을 책임지는 직책을 가진 사람이 없다. 경영진이 「적당히 끊어가도 된다」라고 명령을 내려도 진척되지 않는 것은 이 자리가 비어 있기 때문이다.

공석을 갑자기 사내에서 채우는 것은 어렵다. 평가가 100%를 향해 있는 조직에서는 「여기서 멈춘다」라는 판단을 연습할 기회가 애초에 없기 때문이다.

현실적인 것은 「빌리고, 병행하며, 옮긴다」는 순서이다. 처음에는 그 역할을 외부에서 빌린다. 이해관계가 없는 제삼자가 업무에 참여하여, 어디까지를 AI에게 맡기고 실수를 어디서 받아낼지를, 실제로 움직이면서 눈앞에서 결정해 보여준다. 병행하는 동안 다음에 담당할 사람을 사내에서 찾아내고, 판단 기준까지 함께 인계한다. 사내의 누군가가 처음으로 「이것은 만들지 않겠습니다. 여기서부터는 인간이 하겠습니다」라고 말하고, 그것이 통과된 날이 외부의 역할을 마치는 날이다.

해외에서는 이러한 역할에 Forward Deployed Engineer라는 명칭도 생겨나고 있다. 요컨대 「이 정도면 됐다」를 현장에서 직접 보여주는 사람이다. 탁상공론이 아니다. AI를 실제로 구동하여, 할 수 있는 데까지를 우선 업무에 편입시킨다. 사람의 도움이 필요한 상황이 나오면 그 부분은 사람이 받아낸다. 그 판별을 실제로 움직이면서 옆에서 보여주며 사내에 남긴다. 이야기를 시작하는 데 제안서도 전사 구상도 필요 없다. 자사의 어떤 업무 하나에서 「이 부분이 걸려 있다」라는 구체적인 사례를 하나 가져오기만 하면 된다. 그다음은 직접 움직여 보는 것부터 시작이다.

「이 정도면 됐다」라고 말할 수 있게 되어 도입이 진행되었다고 가정하자. 그러면 똑같은 완벽주의가 이번에는 다른 얼굴로 나타난다.

지금까지 「있으면 좋지만, 지금은 그럴 때가 아니다」라며 자연스럽게 보류되어 온 업무들이 있다. 시간과 인력의 제약이 묵묵히 우선순위 결정을 대신해 주었다. AI로 여력이 생기면 이 보이지 않는 검문소가 사라진다. 있으면 좋았던 것들을 할 수 있게 된다. 모든 것에 의미가 있다고 생각하는 성실한 조직일수록 숙연하게 착수한다. AI로 편해져야 하는데 이전과 다름없이 바쁘다. 그런 부서는 이렇게 생겨난다.

입구에서 질문받은 것이 「어디까지 AI에게 맡길 것인가」라면, 여기서 질문받는 것은 「무엇을 하고 무엇을 하지 않을 것인가」이다. 「여력은 있지만 이것은 하지 않겠다」는 것은 회사 전체의 우선순위 판단이며, 본래는 제대로 검토되어야 할 사항이다. 그런데 그 검문소가 사라진 지금, 그것은 누구의 판단도 거치지 않은 채 「실행」으로 변해간다. 현장을 탓하는 이야기가 아니다. 멈춰 서서 「이것을 해야 하는가」라고 묻는 역할이 애초에 누구에게도 부여되지 않았을 뿐이다.

월간 보고에 「남은 시간을 어디에 사용했는가」를 덧붙이는 것만으로도, 모르는 사이에 진행되던 실행이 선택 가능한 의제로 돌아온다.

완벽을 지향하는 자세는 약점이 아니다. 품질로 승부해 온 조직의 핵심이자 강점이다. 다만 AI 앞에서는 그 핵심이 두 번 발을 걸어 넘어뜨린다. 입구에서는 「불완전한 채로 시작하기」를 거부하고, 들어온 후에는 「하지 않기로 결정하기」를 거부한다. 둘 다 「여기까지」라고 말할 수 있느냐의 문제다.

그리고 그 능력이 제로냐 하면 그렇지 않다. 100%를 목표로 만들어졌을 시스템의 빈틈을 현장은 오늘도 수작업으로 메우고 있다. 그러한 보완 작업은 이미 매일 일어나고 있다. 남은 부분을 받아낸다는 것은 새로운 부담을 얹는 것이 아니라, 지금 보이지 않는 채로 메우고 있는 빈틈에 이름과 시간과 평가를 부여하여 정식 업무로 바꾸는 것이다.

내일 할 수 있는 일은 작다. 최근의 AI 도입은 실수를 제로로 만든 다음이 아니라, 발견한 사람이 수정한다는 전제하에 이미 움직이고 있는가. 무언가를 「이것은 하지 않겠다」라고 결정한 기록이 어딘가에 남아 있는가. 그리고 추진 부문에 「생겨난 여력을 무엇에 돌렸습니까?」라고 물어보는 것이다.

「저것도, 이것도, 지금까지 손을 대지 못했던 일들을 하고 있습니다」 —— 그렇게 기쁘게 대답해 올 때일수록, 한 번 멈춰 서야 한다. 그 하나하나가 제대로 선택된 것일까. 누군가가 「이것은 한다」라고 판단한 것인가, 아니면 여력이 생긴 만큼 아무도 결정하지 않은 채 채워져 버린 것인가. 선택해서 시작한 것이라면 그것은 투자다. 선택되지 않은 채 채워져 있었던 것이라면, 그것을 다시 선택하는 것이 첫 번째 의제가 된다.