백오피스 업무를 AI로 처리할 수 있게 하겠다고 한마디로 말하지만, 실제로 하는 일의 대부분은 「AI에게 시키는 것」보다 「인간과 AI 모두 읽을 수 있는 형태로 공정을 다시 쓰는 것」이기도 하다.

이 기사는 CS(Customer Support, 고객 지원) 대응의 답장 문장 생성을 소재로, 그러한 공정의 재작성 방법을 하나의 실례로 보여주는 것이다.

1. 재정의의 core

기존의 정의는 단순하다. CS 대응 = 고객 메시지를 분류하고, 적절한 답장 문장을 생성하는 것.

이 기사에서 시도한 것은 다른 정의다. CS 대응 = 「실행 게이트(금전·불가역적인 대응의 승인)를 결정하기 위한, 판단의 연속을 서포트하는 것」. 답장 문장은 그 연속의 부수 산물로서 생성된다.

더 나아가 말하자면, 판단 연속의 골(Goal)은 「실행」 혹은 「결론」 중 하나다. 교환·환불처럼 실행으로 끝나는 안건뿐만 아니라, 「사양대로이며 결함이 아니다」라는 결론으로 끝나는 안건도 동일한 프레임워크의 종착점으로 다룰 수 있다. 이 전환을 통해, 「좋은 답장 문장을 만드는 것」이라는 목적에서 「실행 승인의 근거를 구성하는 것」이라는 목적으로, 시스템의 주역이 바뀐다.

2. 설계의 출발점이 된 가설

인간이 실행(행동)을 결정하기까지의 판단은, 사실 간단한 판단을 여러 번 겹친 결과이다.

AI의 판단에도 크게 같은 메커니즘이 적용될 것이다. 뉴럴 네트워크(Neural Network)는 단순한 연산(층)을 쌓아 올린 구조이며, 복잡한 판단은 간단한 판단의 합성으로서 나타난다. 이러한 일반화는 Herbert Simon이 『시스템의 과학』(1969)에서 제시한, 복잡한 시스템은 거의 독립적으로 분해 가능한 계층 구조로서만 존재할 수 있다는 생각의 연장선상에 있다.

중요한 보충으로서, 인간의 「왜 그렇게 판단했는가」라는 자기 보고도 신뢰할 수 없다는 전제를 설계에 포함하고 있다. Nisbett & Wilson(1977)의 실험이나 choice blindness(선택 맹목) 연구가 보여주듯, 인간도 AI도 「나중에 이유를 말하게 하면」 작화(Confabulation)할 리스크를 공통적으로 가지고 있다. 따라서 이 설계는 사후적인 이유 설명에 의존하지 않고, 판단이 일어난 순간의 구조적인 흔적(어느 블록이 발화했는가)을 그대로 기록함으로써 이 문제를 회피한다.

AI saves the human heart, 의 뒷이야기

AI saves the human heart, 라고 어딘가에 적었다. 이번 내용은 그 이야기의 메커니즘 측면이다.

감정 처리를 인간으로부터 빼앗는 것이 아니라, 판단의 연속 속에 「이 부분은 인간이 결정한다」라는 선을 명시적으로 남긴다. 효율화의 끝에 무엇이 남아야 하는가라는 질문에 대한 하나의 구현 시도이다.

온도감이 높은, 즉 소모적인 대응에 인간이 투입되었을 때, 시스템은 단지 단어 선택을 조정하여 지원하는 것에 그치지 않는다. 동시에, 얼마나 부하가 높은 대응이었는지에 대한 기록도 생데이터(Raw data)로서 쌓여간다. 소모는 수치로 나타나지 않는다고 흔히 말하지만, 나타낼 수 있도록 해두는 설계이다.

대응 난이도를 자동으로 판정할 수 있다면, 그 사람의 숙련도에 맞춰 운용을 조정할 수도 있다. 부하가 높은 대응이 경험이 적은 사람에게 무의식적으로 계속 할당되는 것을 방지하는 방향으로도 사용할 수 있다.

이어서

여기서 구축한 골격을 실제로 어떻게 움직이는가(아키텍처, 블록의 발화 로직, 여러 업종에서의 롤플레이 검증, 간이 구현 구상)는 조금 더 구현에 가까운 이야기로서 별도의 기사로 나누어 작성하겠다. 관심 있는 분은 그쪽도 확인해 주길 바란다.

Discussion