고객 지원을 위한 RAG 챗봇 구축으로 티켓 수를 73% 절감한 방법

Pimjo 팀은 12개 이상의 제품을 운영하고 있습니다. 고객 지원 문의는 항상 같은 내용이었습니다. 환불 방법, 통합 연결 방법, API 키를 어디서 찾는지 등입니다. 모든 답변은 이미 저희 문서에 존재했습니다. 하지만 고객들은 여전히 누군가 링크를 보내주기를 몇 시간씩 기다려야 했습니다.

저희는 처음에는 챗봇을 시도해 보았습니다. 이 챗봇은 자신감 있게, 그리고 종종 잘못된 답을 내놓았습니다. 출처 없는 잘못된 답변은 아무 답변이 없는 것보다 더 나쁩니다. 왜냐하면 고객이 그 답변을 바탕으로 행동한 다음 다시 문의하기 때문입니다.

효과적이었던 것은 오직 저희 자체 콘텐츠만을 기반으로 답변하고, 처리할 수 없을 때는 담당자에게 인계하는 RAG 챗봇 또는 AI 지원 에이전트 챗봇이었습니다. 이 글에서는 이러한 패턴이 어떻게 작동하는지, 기본적인 검색 기능을 넘어 지원 봇에 필요한 것이 무엇인지, 그리고 지난 45일 동안 저희가 확인한 수치들을 설명합니다.

RAG 챗봇이란 무엇인가요

RAG는 retrieval-augmented generation의 약자입니다. 답변 과정을 두 단계로 나눕니다:

RAG

1. 검색(Retrieve): 질문이 들어오면, 시스템은 고객의 콘텐츠(문서, FAQ, 과거 티켓)에서 해당 질문과 가장 관련성이 높은 구절을 검색합니다.
2. 생성(Generate): 언어 모델은 이 구절들과 함께 질문을 받아 이를 기반으로 답변을 작성합니다.

언어 모델을 기반으로 구축된 일반적인 챗봇은 학습 과정에서 알게 된 모든 것에서 답변합니다. 지난주에 변경한 가격 정책에 대해서는 아무것도 모릅니다. 반면, RAG 챗봇은 사용자가 통제하는 문서 세트로부터 답변합니다. 문서를 업데이트하면 답변도 그에 맞춰 바뀝니다.

다른 옵션들이 실패했던 이유

**스크립트 기반 봇(Scripted bots)**은 자체 결정 트리 안에서 작동합니다. 질문을 조금만 다르게 해도, 아무 근거 없이 유창한 답변을 만들어냅니다. 또한 어려운 질문을 사람에게 인계할 수도 없습니다.

**정적 도움말 센터(Static help centers)**는 작성한 날짜에만 정확합니다. 가격을 변경해도, 이전 기사는 누군가 편집할 때까지 지난 분기의 수치를 계속 보여줍니다.

**인력 채용(Hiring)**은 비용을 직선적으로 증가시키지만, 반복적인 질문들은 여전히 같은 비율로 도착합니다. 당신이 구매하는 것은 해결책이 아니라 용량입니다.

검색만으로는 지원에 충분하지 않다 (Retrieval is not enough for support)

검색(Retrieval)은 적절한 구절을 모델 앞에 가져다줍니다. 고객에게 노출되는 챗봇은 그 주변에 몇 가지 추가 규칙이 필요합니다:

Retrieval is not enough for support

• 답변이 없는 콘텐츠는 거부한다. 검색을 통해 관련 내용을 찾지 못하면, 챗봇은 추측하는 대신 답변할 수 없다고 말해야 합니다.

• 전체 대화 기록과 함께 인계한다. 챗봇이 중단되면, 고객이 문제를 반복하지 않도록 전체 대화가 담긴 티켓을 담당자에게 전달해야 합니다.

• 전체 대화를 읽는다.

• 티켓을 담당자에게 전달하는 비율이 73% 감소했습니다.

• 첫 응답까지 걸리는 시간이 15분에서 6분으로 단축되었습니다.

• 상담원(agent)은 채팅 위젯 내 대화만으로 **80%**를 해결했습니다.

Before and After Nivon.AI

이 수치들은 서로 다른 것을 측정합니다. 티켓 감소의 대부분은 고객들이 티켓을 작성하는 대신 채팅 위젯을 사용했기 때문입니다. 80%라는 수치는 위젯 내에서 발생한 대화만을 다룹니다.

이는 업계 표준 지표가 아닌 저희 자체 데이터입니다. 귀하의 결과는 문서화가 얼마나 완벽한지, 그리고 고객들이 무엇을 질문하는지에 따라 달라집니다.

Nivon.AI로 직접 경험해 보세요

Nivon.AI - AI support agents
Nivon은 이 작업에서 탄생한 지원 상담원입니다. 설정에 몇 분밖에 걸리지 않으며 개발자가 필요하지 않습니다.

• 지식 출처(Knowledge sources): 웹사이트 또는 사이트맵을 크롤링하거나, 문서를 업로드하고, Google Drive나 OneDrive에서 가져오거나, FAQ를 추가하거나, 텍스트를 붙여넣거나, 과거 지원 티켓을 가져올 수 있습니다.
• 모델 선택(Model choice): 각 상담원별로 OpenAI, Anthropic, Google, xAI의 20개 이상의 모델 중에서 선택할 수 있으며, 언제든지 전환이 가능합니다.
• 언어(Languages): 고객이 작성한 언어로 95개 이상의 언어에서 응답합니다.
• 채팅 우선 또는 리드 우선(Chat First or Lead First): 상담원이 즉시 질문에 답변할지 아니면 방문자를 먼저 자격 심사(qualifies)할지 선택할 수 있습니다.
• 작업 공간(Workspaces): 팀이나 제품별로 별도의 상담원, 대화, 지식을 관리할 수 있으며, 관리자 및 멤버 역할이 제공됩니다.
• 분석(Analytics): 대화량, 해결률, 응답 시간, 그리고 고객들이 어느 곳에서 작성하는지 추적할 수 있습니다.

Nivon은 기존의 헬프데스크와 함께 작동합니다. 상담원이 해결할 수 없는 내용은 대화 내용이 첨부된 티켓으로 자동 생성되므로, 마이그레이션할 것이 없습니다.

데이터 처리 (Data handling)

콘텐츠와 대화는 전송 중(in transit)과 저장 시(at rest) 모두 암호화되며, 각 워크스페이스는 격리됩니다. 고객님이 보내시는 어떤 정보도 AI 모델 훈련에 사용되지 않습니다. Nivon은 GDPR, CCPA, 그리고 ISO 27001 수준의 요구사항을 충족합니다. SOC 2 Type II 준수는 진행 중입니다.

가격 책정 (Pricing)

플랜은 사용자 수(per seat)가 아닌 지원 볼륨(support volume)으로 가격이 책정됩니다.

통합 (Integrations)

Google Drive와 OneDrive는 현재 사용 가능합니다. Slack, GitHub, Telegram은 진행 중이며, Notion은 검토 단계에 있습니다. 현재 상태는 로드맵에서 확인할 수 있습니다.

RAG 챗봇을 추가하기 전에

먼저 문서를 확인하세요. 팀이 가장 자주 답변하는 열 가지 질문 목록을 작성하고, 각 답변이 문서로 존재하는지 확인하십시오. RAG 챗봇의 정확도는 검색하는 콘텐츠만큼만 높을 수 있습니다.

설정을 시작하려면 빠른 시작 가이드를 이용하거나 무료 계정 만들기부터 시작하세요.