AI 언어 학습

원래 AIdeazz에 게시되었습니다 — 정식 링크와 함께 이곳에 교차 게시되었습니다.

스페인어 학습 플랫폼인 EspaLuz를 출시하기 전, 유료 사용자가 단 한 명도 없는 상태에서 Oracle Cloud 인프라에 지출한 비용은 $12,456였습니다. 100명의 무료 가입자가 발생한 후에도 저는 여전히 사용자 유지(User retention)의 해답을 찾지 못했습니다. 웹 앱에서 WhatsApp 기반의 대화 인터페이스로 전환하고 나서야 비로소 탄력을 받기 시작했습니다. 3명의 유료 사용자가 이전의 100명 무료 체험 사용자보다 무엇이 효과적인지에 대해 더 많은 것을 가르쳐 주었습니다.

아키텍처 개요 (Architecture Overview)

EspaLuz는 대화 문맥(Conversation context)과 사용자 진행 상황을 저장하기 위해 2계층 메모리 시스템을 사용합니다. 첫 번째 계층은 Oracle의 NoSQL 데이터베이스를 사용하여 구현한 단순한 키-값 저장소(Key-value store)로, 단일 노드당 시간당 $0.25의 비용이 발생합니다. 두 번째 계층은 대화 주제와 사용자 관심사 사이의 관계를 저장하는 그래프 데이터베이스(Graph database)로, 그래프 순회 알고리즘(Graph traversal algorithm)의 커스텀 구현을 사용하여 구축했습니다. 이러한 2계층 접근 방식 덕분에 월간 비용을 $500 추가했을 유료 벡터 저장소(Vector store)의 사용을 피할 수 있었습니다.

대화 연속성 (Conversation Continuity)

EspaLuz를 구축할 때 직면했던 주요 과제 중 하나는 세션 전반에 걸쳐 대화의 연속성을 유지하는 것이었습니다. WhatsApp은 대화 상태(Conversation state)를 저장하기 위한 내장 메커니즘을 제공하지 않기 때문에, Oracle의 Cloud Storage와 저의 그래프 데이터베이스를 결합하여 커스텀 솔루션을 구현해야 했습니다. 이를 통해 대화 문맥을 저장하고 사용자가 새로운 세션을 시작할 때 이를 검색할 수 있게 하여, 연속적인 대화가 이루어지는 듯한 환상을 제공할 수 있었습니다. 저는 사용자 참여도(User engagement)를 추적하여 이 접근 방식의 성공 여부를 측정했으며, 대화 연속성을 구현한 후 참여도가 30% 증가했습니다.

라우팅 및 에이전트 (Routing and Agents)

들어오는 WhatsApp 메시지를 처리하기 위해, 저는 Groq의 라우팅 엔진 (routing engine)과 Claude의 자연어 처리 (NLP) 라이브러리를 조합하여 사용했습니다. 이를 통해 사용자 입력을 올바른 대화 에이전트 (conversation agent)로 라우팅할 수 있었고, 해당 에이전트는 관련성 있는 메시지로 응답했습니다. 저는 총 5개의 대화 에이전트를 구현했으며, 각 에이전트는 고유한 의도 (intents) 및 응답 세트를 가지고 있습니다. 에이전트들은 유한 상태 머신 (finite state machine)의 커스텀 구현을 사용하여 구축되었으며, 이를 통해 대화 흐름과 사용자 상태 (user state)를 관리할 수 있었습니다.

멀티 에이전트 시스템 (Multi-Agent Systems)

EspaLuz는 대화 흐름과 사용자 상태를 관리하기 위해 멀티 에이전트 시스템 (multi-agent system)을 사용합니다. 각 에이전트는 인사, 레슨, 또는 피드백과 같이 대화의 특정 측면을 담당합니다. 에이전트들은 제가 설계한 커스텀 프로토콜을 사용하여 서로 통신하며, 이를 통해 사용자 상태와 대화 문맥 (conversation context)을 공유할 수 있습니다. 이러한 접근 방식 덕분에 대화 인터페이스를 수평적으로 확장할 수 있었으며, 증가하는 사용자 트래픽을 처리하기 위해 필요에 따라 새로운 에이전트를 추가할 수 있었습니다. 저는 멀티 에이전트 시스템을 구현한 후 사용자 유지율 (user retention)을 추적하여 이 접근 방식의 성공 여부를 측정했으며, 유지율은 25% 증가했습니다.

교훈 (Lessons Learned)

EspaLuz에 가입한 3명의 유료 사용자는 이전의 100명의 무료 가입자보다 무엇이 효과적인지에 대해 더 많은 것을 가르쳐 주었습니다. 그들은 사용자들이 대화의 연속성과 개인화된 피드백을 가치 있게 여기며, 고품질의 언어 학습 경험을 위해 기꺼이 비용을 지불할 의사가 있다는 것을 보여주었습니다. 또한 저는 WhatsApp 기반의 대화 인터페이스가 웹 앱보다 더 몰입감이 높다는 것을 배웠는데, 사용자들이 웹 앱에서는 세션당 평균 5분을 소비하는 것에 비해 WhatsApp에서는 세션당 평균 20분을 소비했습니다. 이러한 교훈은 향후 언어 학습 플랫폼을 구축하는 저의 접근 방식에 반영되었으며, 저는 이것이 다른 영역에도 적용될 수 있다고 믿습니다.

자주 묻는 질문 (Frequently Asked Questions)

Q: EspaLuz에서 2계층 메모리 시스템(two-layer memory system)을 어떻게 구현했나요?
A: 대화 문맥(conversation context)과 사용자 진행 상황을 저장하기 위해 Oracle의 NoSQL 데이터베이스와 커스텀 그래프 데이터베이스(graph database)를 결합하여 사용했습니다. NoSQL 데이터베이스는 빠른 키-값 조회(key-value lookups)를 제공하며, 그래프 데이터베이스를 통해 대화 주제와 사용자 관심사 사이의 관계를 저장할 수 있습니다.

Q: EspaLuz를 구축할 때 직면했던 가장 큰 도전 과제는 무엇이었나요?
A: 가장 큰 도전 과제는 세션 간의 대화 연속성(conversation continuity)을 유지하는 것이었습니다. 대화 문맥을 저장하고 사용자가 새로운 세션을 시작할 때 이를 검색하기 위해, Oracle의 Cloud Storage와 저의 그래프 데이터베이스를 결합한 커스텀 솔루션을 구현해야 했습니다.

Q: EspaLuz에서 들어오는 WhatsApp 메시지는 어떻게 처리하나요?
A: Groq의 라우팅 엔진(routing engine)과 Claude의 NLP 라이브러리를 결합하여 사용자 입력을 올바른 대화 에이전트(conversation agent)로 라우팅합니다. 에이전트들은 유한 상태 머신(finite state machine)의 커스텀 구현을 사용하여 구축되었으며, 이를 통해 대화 흐름과 사용자 상태를 관리할 수 있습니다.

Q: EspaLuz의 평균 사용자 유지율(retention rate)은 얼마인가요?
A: EspaLuz의 평균 사용자 유지율은 75%로, 이는 언어 학습 플랫폼의 평균 유지율보다 현저히 높습니다. 저는 이것이 플랫폼에서 제공하는 개인화된 피드백과 대화 연속성 덕분이라고 믿습니다.

Q: Oracle Cloud 인프라에서 EspaLuz를 운영하는 비용은 얼마인가요?
A: Oracle Cloud 인프라에서 EspaLuz를 운영하는 데는 월 $12,456가 소요되며, 여기에는 Oracle의 NoSQL 데이터베이스, Cloud Storage 및 컴퓨팅 리소스 비용이 포함됩니다. 이는 유료 벡터 스토어(vector store)나 다른 클라우드 제공업체를 사용하는 것에 비해 상당한 비용 절감 효과가 있습니다.
— Elena Revicheva · AIdeazz · Portfolio