AI 시대에 '정답을 가지고 있는 것'만으로는 부족해지는 이유

저는 평소 사무 업무를 담당하고 있습니다.

업무 개선이나 DX(디지털 전환)와 관련되면서, AI가 직장에 스며들면서 조직이나 전문 부서에 요구되는 것이 변하기 시작했다고 느낍니다.

생성형 AI의 등장으로 인해, 이전에는 전문 부서에 문의했던 내용도 우선 AI에게 묻는 사람이 늘어났습니다.
사내에서 계약한 AI라면 과거 매뉴얼이나 운영 안내를 참조하여 그럴듯한 답변을 해줍니다. 간단한 문의라면 충분히 유용하게 활용되는 경우도 많아졌습니다.

반면, AI는 오래된 정보도 참조합니다.
이미 운영이 변경되었거나 예외적인 케이스의 경우에는 잘못된 답변을 할 수도 있습니다.
AI 에이전트를 이용하고, 답변하기 어려운 것을 전문 부서로 에스컬레이션(escalation)하는 시스템이 있다면, 전문 부서가 최종적인 답변을 내릴 수도 있습니다.

하지만 일반적인 챗봇형 AI에서는 사용자가 AI의 답변을 그대로 믿고 절차를 진행하다가 나중에 트러블이 생기는 경우가 있습니다.

여기서 의문점이 생깁니다.
위화감을 느꼈는데, 왜 전문 부서에 확인하지 않는 것일까요?
개인적으로는 문의 후 대기 시간이나 불투명함이 이유라고 생각합니다.

예를 들어, 문의를 해도 다음과 같은 상황이 될 수 있습니다.

• 언제 답변이 돌아올지 알 수 없다
• 현재 어디까지 확인이 진행되고 있는지 알 수 없다
• 애초에 문의가 접수되었는지도 알 수 없다

물론 그 자리에서 바로 답변할 수 없는 내용도 있습니다.
그럼에도 불구하고, 다음과 같은 진행 상황 공유만 있어도 문의를 한 쪽의 인상이 크게 달라집니다.

• '○일까지 확인하겠습니다'
• '현재 관련 부서에 확인하고 있습니다'
• '답변까지 며칠이 걸릴 것으로 예상됩니다'

AI는 틀릴 수 있지만, 몇 초 만에 어떤 답변을 돌려줍니다.
반면, 사람이나 전문 부서가 정답을 가지고 있더라도, 일주일 동안 답장이 없으면 사용자는 다른 수단을 찾기 시작합니다.

즉, 사용자가 AI를 선택하는 이유는 AI가 더 정확하기 때문이라고만은 않습니다.빨리 반응이 돌아오기 때문에 선택되는 경우도 있는 것 같습니다.

AI 덕분에 기다리지 않고 정보를 얻는 경험이 일상적이 되었습니다.
그 결과, 기존의 문의 대응과의 격차가 눈에 띄게 커진 것은 아닐까요?

YouTube 같은 동영상을 배속으로 시청하는 것이 일반화된 것처럼, 정보도 단시간에 얻는 것이 당연해지고 있습니다.

이전에는,
담당자가 휴가일 수도 있다고 생각하며 며칠 기다릴 수 있었던 것이, 이제는 몇 시간, 경우에 따라서는 몇 분이라도 길게 느껴질 때가 있습니다.

이는 좋고 나쁨의 문제가 아니라, 사회 전체의 기대치가 변한 것이라고 생각합니다.

AI의 보급으로 바뀐 것은 답변을 만드는 방법만이 아닙니다.
사용자가 허용할 수 있는 대기 시간 자체가 변화하고 있습니다.

저는 업무 개선이나 DX와 관련하여 정보 부서와 소통하는 경우가 있습니다.
그 안에서 느끼는 것은 다음과 같은 상황이 의외로 많다는 것입니다.

• 문의한 내용에 대한 진행 상황 공유가 없다
• 검토 중인지, 거절된 것인지 알 수 없다
• 어디까지 이야기가 진행되고 있는지 알 수 없다
• 몇 주 동안 기다렸는데도 이유의 상세 설명 없이 안 된다고 한다

물론 정보 부서에도 사정이 있습니다.
보안이나 계약, 기존 시스템에 미치는 영향 등 신중하게 확인해야 하는 것도 많을 것입니다. 또한, 사용자 부서에 전문 용어로 전달해도 이해가 안 되는 경우도 있고...

문의 결과로,
'보안상의 이유로 실행할 수 없습니다.'라는 답변을 받는 경우도 있습니다.
보안 확보는 중요합니다. 하지만 사용자 입장에서는 다음 점도 중요합니다.

• 왜 안 되는지
• 어떤 리스크가 있는지
• 대체 수단은 있는지
• 조건을 바꾸면 실행할 수 있는지
• 장기적으로 실현 가능성은 있는지

이러한 정보 없이 결론만 전달받으면, 사용자는,
정식 절차를 밟아도 아무것도 변하지 않는다고 느끼게 될 때가 있습니다.

그 결과로,

• 개인적으로 다른 도구를 사용한다
• 승인되지 않은 클라우드 서비스를 이용한다
• 비공식적인 방법으로 업무를 진행한다

와 같은 섀도우 IT(Shadow IT)로 이어집니다.
물론 규칙에 어긋나는 방법을 선택하는 것이 정당화되는 것은 아닙니다.
반면, 섀도우 IT를 사용자 개인의 도덕성 문제로만 다루어도 근본적인 해결책이 되지는 않을 것입니다.

그 배경에는,
정규 경로로는 언제까지 기다려야 할지 알 수 없다.
상담해도 대체 수단이 제시되지 않는다.
라는 조직 측의 과제가 존재하는 경우도 있습니다.

보안을 위해 마련된 정식 절차가 사용되지 않게 되면, 결과적으로 조직 전체의 리스크가 높아집니다.

따라서 샤도우 IT(Shadow IT)를 방지하기 위해서는 금지하는 것뿐만 아니라, 정규 경로를 이용하기 쉽게 만드는 것 또한 필요하지 않을까요?

AI의 성능이 향상되었다고 해서 전문 지식의 가치가 사라진다고는 생각하지 않습니다.

AI 시대에 전문 부서에게 요구되는 것은 모든 답을 머릿속에 담아두는 것이 아닙니다.

정확한 정보를 유지하고, 판단 근거를 언어화하며, 예외를 적절하게 판단하여, 그 결과를 조직 전체에서 재사용할 수 있는 시스템으로 변화시키는 것입니다.

전문 부서의 가치는 '정답을 알고 있다'는 것에서, 조직 전체가 정답에 도달할 수 있는 시스템을 만드는 것으로 이동합니다.

그리고 즉시 답을 할 수 없을 때에도 진행 상황이나 전망을 전달하고, 이용자를 불안한 상태로 방치하지 않는 것도 AI 시대의 전문성 중 하나가 될 것이라고 생각합니다.