Klarna의 AI 어시스턴트가 어떻게 8,500만 명의 활성 사용자를 위해 대규모 고객 지원을 재정의했는가

Klarna는 소비자 중심의 AI 기반 결제 및 쇼핑 솔루션을 통해 글로벌 커머스를 재편해 왔습니다. 8,500만 명 이상의 활성 사용자와 플랫폼 내 일일 250만 건의 거래를 보유한 Klarna는 쇼핑을 간소화하는 동시에 소비자에게 더 스마트하고 유연한 금융 솔루션을 제공하는 핀테크 리더입니다.

Klarna의 핵심 제품인 AI 어시스턴트(AI Assistant)는 쇼핑 및 결제 경험을 혁신하고 있습니다. LangGraph를 기반으로 구축되고 LangSmith를 통해 구동되는 이 AI 어시스턴트는 고객 결제부터 환불, 기타 결제 관련 에스컬레이션(escalations)에 이르는 다양한 업무를 처리합니다.

현재까지 250만 건의 대화를 수행한 이 AI 어시스턴트는 단순한 챗봇 그 이상입니다. 이는 700명의 전업 직원과 맞먹는 업무를 수행하며, 결과를 빠르게 전달하고 기업의 효율성을 개선하는 변혁적인 에이전트(agent)입니다.

과제: 고객 지원의 확장 및 에스컬레이션 처리

에스컬레이션 과부하 극복

Klarna는 다부서 에스컬레이션을 관리하는 데 있어 점점 커지는 도전에 직면했습니다. 높아지는 소비자 기대치를 충족하기 위해 Klarna는 글로벌 시장 전반에 걸쳐 확장 가능하면서도 속도, 정확성, 접근성을 결합할 수 있는 솔루션이 필요했습니다.

"LangChain은 우리가 AI 기반 어시스턴트에 대한 비전을 실현하고, 지원 규모를 확장하며, 전 세계에 탁월한 고객 경험을 제공하는 데 있어 훌륭한 파트너가 되어 주었습니다." — Sebastian Siemiatkowski, Klarna CEO 및 공동 창립자

솔루션: LangGraph 및 LangSmith 기반

정밀도와 성능을 주도하는 파트너십

Klarna는 AI 어시스턴트를 신뢰할 수 있고 확장 가능한 멀티 에이전트 시스템(multi-agent system)으로 진화시키기 위해 LangGraph와 LangSmith를 도입했습니다. 주요 개선 사항은 다음과 같습니다:

제어 가능한 에이전트 아키텍처 (Controllable agent architecture): Klarna의 AI 어시스턴트는 LangGraph 프레임워크를 사용하여 요청을 라우팅하고 다양한 작업을 처리했습니다. 이는 지연 시간 (latency)을 줄이고, 신뢰성을 향상하며, 운영 비용을 절감하는 데 도움이 되었습니다.

문맥 인식 지능 (Context-aware intelligence): 특정 시나리오에 맞춰 프롬프트 (prompt)를 동적으로 조정함으로써, Klarna는 토큰 비용과 지연 시간을 줄이는 동시에 AI 어시스턴트가 일관되게 관련성 있고 문맥을 인식하는 응답을 제공하도록 보장했습니다.

테스트 주도 개발 (Test-driven development): LangSmith를 통해 Klarna는 AI 어시스턴트가 어떻게 동작하는지 단계별로 확인함으로써 어떤 문제가 발생하는지 정확히 찾아낼 수 있었습니다. Klarna는 LangSmith를 활용하여 AI 어시스턴트의 핵심 유스케이스 (use case)를 엄격하게 테스트한 후, LLM 평가 (LLM evaluation) 및 프롬프트 반복 (prompt iteration)을 통해 에이전트 성능을 검증하고 개선했습니다.

프롬프트 최적화 (Prompt optimization): Klarna의 통찰력은 결과적으로 LangSmith의 프롬프트 엔지니어링 (prompt engineering) 기능을 향상시켰습니다. 특히 Klarna는 메타 프롬프팅 (meta-prompting)과 같은 고급 기능을 구상하고 설계하는 데 영감을 주었습니다. 메타 프롬프팅을 사용하면 사용자가 프롬프트에 직접 지시를 내림으로써 특정 개선 사항을 제안하고, 최적화된 프롬프트가 응답 품질에 어떤 영향을 미치는지 확인할 수 있습니다.

영향 (The Impact)

LangGraph로 구축되고 LangSmith로 정교화된 Klarna의 AI 어시스턴트는 팀이 고객 에스컬레이션 (escalation)을 더 효과적으로 처리할 수 있도록 지원했습니다. Klarna는 지난 9개월 동안 다음과 같은 성과를 달성했습니다:

더 빠른 해결 (Faster resolutions): 평균 고객 문의 해결 시간을 80% 단축하여 사용자 문의에 더 빠르게 응답할 수 있게 되었으며, 분석가와 엔지니어의 주당 조사 시간을 수 시간씩 절약했습니다.

채팅 처리를 위한 AI 자동화 증가 (Increased AI automation for chat handling): 반복적인 지원 작업의 약 70%를 자동화하여, 고객 서비스 상담원이 복잡하고 가치가 높은 상호작용에 집중할 수 있도록 했습니다.

정확도 향상 (Improved accuracy): 거절 원인 식별 능력을 개선하여 고객 에스컬레이션을 크게 감소시켰습니다.