챗봇, AI 에이전트, 아니면 인간: 2026년 고객 지원에 실제로 구축할 것

만약 개발자로서 '지원 기능에 AI를 추가해 달라'는 요청을 받았다면, 실제로는 세 가지의 명확히 다른 아키텍처 중 하나를 선택하라는 요구를 받는 것이며, 이 선택이 전체 구현 방식을 바꿉니다.

규칙 기반 챗봇(rule-based chatbot)은 단순히 의도 분류기(intent classifier)에 결정 트리(decision tree)가 붙은 것에 불과합니다. 배포하기 쉽고 유지보수 비용도 저렴하지만, 스크립트된 의도를 벗어나는 어떤 것도 처리할 수 없습니다. 메모리, 추론 능력, 도구 호출 기능이 전혀 없습니다.

AI 에이전트는 완전히 다른 시스템입니다. 주문, 결제, CRM API에 대한 함수 호출(function-calling) 접근 권한을 가진 LLM에, 턴(turn) 전반에 걸쳐 맥락을 유지하는 메모리 계층(memory layer)이 추가된 형태입니다 (이상적으로는 고객의 전체 이력에 걸쳐서도). 도구 호출 기능을 추가하는 순간 구현 복잡도가 급증합니다. 이제 권한 범위 지정(permission scoping, 에이전트가 인간의 승인 없이 실제로 할 수 있는 것), 환불 같은 작업에 대한 동일성 처리(idempotency handling), 그리고 정책 세부 정보를 환각(hallucinating)하는 대신 자체 문서에 기반하려면 RAG 계층을 구축해야 합니다.

대부분의 팀들이 부족하게 구현하는 부분은 에스컬레이션 상태 기계(escalation state machine)입니다. 핸드오프(handoff, 인계)를 예외 경로로 취급하기 쉽지만, 이는 자체적인 트리거가 있는 일급 시민 상태(first-class state)여야 합니다: 신뢰도 점수 임계값 미달, 특정 키워드 일치, 해결되지 않은 턴의 반복, 그리고 인간 에이전트에게 콜드 스타트(cold start) 대신 전체 대화 기록을 제공하는 맥락 전달 페이로드(context-passing payload)가 필요합니다.

비용 측면에서는 Intercom Fin과 같은 결과 기반 청구 플랫폼은 해결 건당($0.99)으로 비용을 부과하여, 낮은 볼륨에서는 계산하기 쉽지만 규모가 커지면 놀라울 정도로 비쌉니다. '구매(buy)'가 '직접 구축(build)'보다 낫다고 가정하기 전에 자체 LLM API 비용과 비교 계산해 보세요.

인도 시장의 실제 INR 비용 계층 — SaaS 대 맞춤형 RAG 구축 — 에 대해서는 더 긴 글에서 깊이 다루었습니다: AI-Powered Customer Support in India 2026: Chatbot vs AI Agent vs Human Handoff.

프로덕션 시스템을 염두에 두고 설계한다면, 에스컬레이션 상태 머신(escalation state machine)과 툴 호출 권한 부여(tool-call permissioning)가 다른 모든 것들에 비해 과도하게 공들여야 할 두 가지 요소입니다.