다섯 개의 인터페이스가 여러분의 모델과 API 키를 위한 단일 창구 역할을 하기 위해 경쟁하고 있지만, 아키텍처 선택의 실수는 채팅 기록, 역할(Roles), 그리고 설정된 RAG (Retrieval-Augmented Generation)를 이전하는 데 몇 주를 허비하게 만들 수 있습니다.

2026년 7월 26일 확인 날짜 기준으로, 다섯 명의 후보 중 네 명이 동시에 업데이트되었습니다: Open WebUI는 7월 1일자 v0.10.2 릴리스에 도달했고, LibreChat은 6월 23일자 v0.8.7, AnythingLLM은 6월 25일자 v1.15.0, Jan은 7월 23일자 v0.8.4에 도달했습니다. 이 네 가지 모두 오픈 소스(Open Source)이며, 릴리스 속도는 주 단위에서 월 단위까지 다양합니다. 다섯 번째인 Msty는 이 연대기에 포함되지 않습니다. 공개 리포지토리가 없는 폐쇄형 애플리케이션으로, 무료 데스크톱 버전과 연간 149달러의 유료 웹 액세스가 공존합니다. 이제 다섯 가지 도구를 하나의 비교 그리드를 통해 살펴보겠지만, 동일한 위험 기준을 적용하지는 않을 것입니다. 완전히 공개된 셀프 호스팅(Self-hosted) 소프트웨어와 폐쇄형 프리미엄(Freemium) 애플리케이션을

pip 및 Docker 설치를 지원하며 거의 매주 업데이트되는 이 도구는, 프로젝트 라이선스 이력에 대한 독립적인 분석에 따르면 지금까지 최소 6번이나 라이선스가 변경되었습니다: Apache 2.0 → MIT → CC BY-NC-SA → MIT → BSD-3-Clause → 그리고 2025년 말 프로젝트 자체 이름을 사용한 커스텀 라이선스로 변경되었습니다. 마지막 변경 사항에는 브랜드에 관한 조항이 추가되었습니다. 즉, 허가 없이 파생된 포크(Fork) 버전에서 프로젝트의 이름과 시각적 정체성(Visual identity)을 사용할 수 없다는 것입니다. 메인테이너(Maintainer)인 Timothy Back은 이 결정에 대해 "라이선스는 여전히 허용적이고 개방적입니다. 여러분은 여전히 자유롭게 사용, 포크, 수정 및 공유할 수 있습니다"라며 직접적으로 방어했습니다. 반면 GitHub에서 pombredanne이라는 닉네임으로 활동하는 토론 참여자는 더 강하게 반박합니다. 그는 프로젝트 설명에서 '오픈 소스'라는 단어를 삭제하는 것에 관한 스레드에서 "이 프로젝트가 독점 라이선스(Proprietary license)로 재라이선스된 이상, 이제 이 프로젝트가 오픈 소스라는 언급은 없어야 합니다"라고 작성했습니다. 독자에게 이것은 단순한 용어 논쟁이 아닙니다. 만약 당신이 자신의 브랜드로 이 프로젝트를 포크할 계획이라면, 채팅 기록이 쌓인 후가 아니라 그전에 라이선스 문구를 명확히 확인해야 합니다.

RAG: 파일을 드래그하거나 파이프라인을 설정하거나

이 셸(Shell)의 RAG(검색 증강 생성, Retrieval-Augmented Generation)는 단일 컨테이너에 내장되어 있습니다. 9개의 지원되는 벡터 데이터베이스(Vector DB), BM25와 벡터를 결합한 하이브리드 검색, 30개 이상의 웹 검색 제공업체를 지원하지만, 프로젝트의 README에 명시된 대로 임베더(Embedder)와 벡터 스토어(Vector store)의 선택은 여전히 사용자에게 달려 있습니다. 반면 LibreChat의 RAG는 기본 애플리케이션에 내장되어 있지 않습니다. 이는 LangChain, PGVector가 포함된 PostgreSQL, FastAPI를 사용하는 별도의 서비스로, MongoDB 및 Meilisearch와 함께 추가 컨테이너로 실행됩니다. 이는 공식 리포지토리(Repo)와 docs/features/rag_api를 통해 확인 가능합니다. 단순히 PDF를 드래그하여 답변을 얻고 싶은 사용자에게 이는 불필요한 인프라 계층(Infrastructure layer)이 될 수 있습니다.

AnythingLLM과 Msty는 동일한 문제를 더 간단하게 해결합니다. 사용자가 임베더 (embedder)나 벡터 스토어 (vector store)를 직접 선택할 필요 없이, 인터페이스를 통해 문서가 작업 데이터베이스로 바로 들어갑니다. Msty의 경우 이 계층을 Knowledge Stack이라고 별도로 명명하며, Msty 페이지에서는 파일이나 YouTube 링크를 모델의 컨텍스트 (context)로 업로드하는 기능을 설명합니다. 이러한 간편함에 대한 대가는 독립적으로 품질이 검증되지 않은 폐쇄형 검색 엔진을 사용한다는 점입니다. Jan의 RAG는 개발자에 의해 아예 실험적 기능으로 표시되어 있습니다. 수동 테스트를 포함한 실무 리뷰에 따르면, 이 기능은 출처의 페이지 번호를 표시하지 못하며 약 200개의 문서 정도를 안정적으로 유지합니다. 개인용 메모 라이브러리로는 충분하지만, 기업용 지식 베이스 (knowledge base)로는 부족합니다.

역할 (Roles), SSO 및 하드웨어 비용

LibreChat은 2026년 4월 21일 v0.8.5 릴리스에서 기존의 OAuth2, LDAP, SAML을 통한 인증 기능 위에 설정 가능한 역할 (roles) 및 그룹을 갖춘 관리자 패널 (Admin Panel)을 추가했습니다. Open WebUI는 내장된 팀 기능 세트가 더 광범위합니다. 역할 및 그룹을 포함한 RBAC (역할 기반 액세스 제어), LDAP/AD, OAuth, 그리고 SCIM 2.0을 기본적으로 제공합니다. Docker 배포 방식의 AnythingLLM 또한 사용자 간 권한을 분리하며 MIT 라이선스로 제공됩니다. 이 프로젝트는 GitHub에서 63,900개의 스타를 보유하고 있지만, 이는 인기 지표일 뿐 역할 모델의 깊이를 의미하는 것은 아닙니다. Jan은 멀티유저 (multi-user) 기능이 전혀 없으며, 인터페이스가 한 대의 기기에서 한 명의 사용자를 위해 설계되었습니다.

리소스 측면에서도 차이가 느껴집니다. serverman.co.uk 블로그의 독립적인 평가에 따르면, 이 인터페이스의 Docker 배포 방식과 AnythingLLM은 약 400600MB의 RAM을 사용하는 반면, MongoDB, Meilisearch 및 별도의 RAG API를 포함한 LibreChat의 전체 스택은 최소 2GB, 원활한 멀티유저 (multi-user) 작업을 위한 권장 사양인 4GB를 명시하고 있음에도 500800MB를 요구합니다. 저자의 방법론은 공개되지 않았으며 수치는 대략적이지만, 이 정도의 규모 차이는 기능 목록을 따지기도 전에 소규모 서버에서는 이미 결정적인 요인이 될 수 있습니다.

5가지 셸 (Shell) 비교

"어떤 셸이 더 나은가"라는 질문은 모든 참가자가 동일한 규칙, 즉 오픈 소스, 의무적인 비용 없음, 기능 품질에 국한된 리스크라는 규칙 아래에서 경쟁한다는 것을 전제로 합니다. Msty는 이러한 전제를 깨뜨립니다. 웹 접속 및 Azure, Bedrock 수준의 프로바이더를 제공하는 Aurum 요금제는 연간 $149 또는 일시불 $349이며, 팀용 Enterprise & Teams는 최소 5개 계정 기준 연간 $300입니다. AnythingLLM은 이와 유사하지만 조금 더 완만한 양상을 보입니다. 2026년에 유료 Pro 요금제가 출시되어 음성 입력 및 기타 "Magic" 기능에 대한 일일 제한을 해제하지만, 셀프 호스팅 (self-hosted) 버전의 기본 채팅과 RAG는 무료로 유지됩니다. 다만 Pro의 정확한 가격과 팀 조건은 벤더의 문서에 고정되어 있지 않습니다. 이러한 제품들을 완전히 오픈된 셀프 호스팅 스택과 동일한 "기능" 척도로 비교하는 것은 방법론적 오류입니다. 벤더 종속 (vendor-lock) 리스크와 기능 부족 리스크는 서로 다른 축이기 때문입니다.

만약 귀하의 시나리오에서 폐쇄형 코드(closed code)와 최소 사용자 수(per-seat) 제한 없는 예측 가능한 가격이 핵심적이라면, Knowledge Stack의 편의성과 관계없이 Msty와 AnythingLLM의 유료 티어는 고려 대상에서 제외됩니다.

남은 네 가지 솔루션의 철학 또한 서로 다르며, 이는 기술적 사양과는 별개로 고려해야 할 사항입니다. LibreChat의 제작자인 Danny Avila는 그 동기를 다음과 같이 설명합니다: "저에게도 결국은 자신의 데이터를 직접 소유하는 문제라고 생각합니다" — Practical AI 팟캐스트 인터뷰에서 그는 이 스택을 격리된 인트라넷 네트워크부터 폐쇄형 루프(closed loop)까지 완전히 맞춤 설정할 수 있는 것으로 묘사합니다. 반면, AnythingLLM의 창립자인 Tim Karambatta가 설명하는 제품의 목표는 Y Combinator의 기업 프로필에 따르면 다르게 기술되어 있습니다. 즉, 일반 사용자를 위해 코드나 인프라 설정이 필요 없는 '마법의 상자'를 지향하며, 이는 AnythingLLM의 코드가 MIT 라이선스로 공개되어 있음에도 불구하고 LibreChat보다는 Msty의 철학에 더 가깝습니다. 만약 스택의 모든 계층에 대한 제어가 중요하다면 LibreChat이나 RBAC 및 SCIM 2.0을 기본적으로 제공하는 옵션이 유리합니다. 반대로 터미널 명령어를 단 한 줄도 입력하지 않고 빠르게 시작하는 것이 더 중요하다면, AnythingLLM이 형식적인 오픈 소스 여부보다 귀하가 실제로 원하는 것에 더 가까울 것입니다.

API 키와 백엔드 — 인터페이스와는 별개의 계층

네 가지 오픈 소스 셸(shell) 모두 OpenAI 프로토콜을 통해 연결되므로, 백엔드(backend)가 반드시 OpenAI 자체일 필요는 없다는 것을 의미합니다. 이 프로토콜과 호환되는 클라이언트는 통합 코드를 다시 작성할 필요 없이, 베이스 URL(base URL)과 키(key)를 교체하는 것만으로 호환 가능한 어떤 제공업체(provider)로든 전환할 수 있습니다. 이러한 인터페이스나 LibreChat을 사용하면 플랫폼을 통해 제공되는 모델 카탈로그에 단일 API 접근을 제공하는 provod.ai(OpenRouter의 러시아판 유사 서비스)로 전환할 수 있습니다. 이때 셸 자체는 모델의 응답이 물리적으로 어디에서 오는지 알지 못합니다. 이는 두 가지 솔루션을 분리해 줍니다. 즉, 먼저 시나리오에 맞는 인터페이스를 선택한 다음, 키에 맞는 모델 소스를 별도로 선택하는 방식입니다.

LibreChat 또는 이러한 셸 내부의 역할(Role) 및 SSO(Single Sign-On)는 누가 채팅에 접속하고 히스토리에서 무엇을 볼 수 있는지를 결정합니다. 누가 하루에 얼마만큼의 토큰을 비용으로 소비하는지는 UI의 문제가 아니라 별도의 빌링(billing) 과제입니다. 공용 키를 사용하는 3~20명 규모의 팀의 경우, 이러한 계층을 분리하는 것이 합리적입니다. 즉, 셸 내부에서 역할을 관리하는 인터페이스와, 조직이 공용 잔액, 참여자 역할, 공용 키에 대한 액세스 제어를 제공받는 provod.ai와 같은 별도의 루프를 두는 것입니다. 이는 채팅 인터페이스 자체가 해결하도록 설계되지 않은 재무 및 관리 측면을 충족시켜 줍니다. 이 과정에서 결제는 해외 제공업체에 지불할 방법을 찾을 필요 없이 카드, SBP(Fast Payment System) 또는 계좌 이체를 통해 루블화로 이루어집니다.

시작하기

서버를 구축하지 않고 모델을 로컬(locally)에 유지한다면, 공식 설치 프로그램을 통해 Jan을 설치하세요. 다만, 완전히 전환하기 전에 실제 문서 규모로 RAG(Retrieval-Augmented Generation)를 테스트해 보시기 바랍니다. 수백 개의 파일을 넘어서는 규모에서 이 기능은 아직 실험적입니다. 만약 자신의 API 키를 사용하면서 설정이 최소화된 채팅 기능만 필요하다면, 이 셸(shell)이 포함된 :ollama 이미지의 Docker 컨테이너 하나면 충분합니다. 실용적인 관점에서 이것이 API 키에서 작동하는 채팅으로 가는 가장 빠른 경로이지만, 포크(fork)를 계획하고 있다면 현재 라이선스의 브랜드 표기 방식을 별도로 확인하십시오. 역할(role)과 히스토리가 필요한 3인 이상의 팀이라면 Docker Compose를 통한 LibreChat 또는 동일한 컨테이너 인터페이스를 사용하세요. LibreChat의 RAG는 별도의 컨테이너에서 실행되는 반면, 두 번째 옵션은 메인 이미지 내에 포함되어 있습니다. 이는 최종 결과의 차이가 아니라 구축되는 인프라 규모의 차이입니다. Msty는 폐쇄형 코드(closed source)가 상관없고, 5인 기준의 팀 요금제 최소 비용이 예산에 부담되지 않을 때만 합리적인 선택이 됩니다.

provod.ai — IDE, SDK 및 내부 도구용 모델

개발자들에게 작업 환경을 바꾸라고 강요하지 마세요: OpenAI 호환 IDE, 라이브 libraries 및 애플리케이션이 공통 엔드포인트(endpoint)에 연결되므로, 팀은 익숙한 명령과 SDK를 그대로 사용하여 계속 작업할 수 있습니다.

하나의 카탈로그에 담긴 텍스트 및 미디어용 최신 모델: OpenAI의 GPT, Anthropic의 Claude, Google의 Gemini, xAI의 Grok, DeepSeek, Qwen, GLM, Kimi 및 MiniMax가 포함되어 있습니다. 이미지용으로는 Nano Banana 2 Pro 및 GPT Image가, 비디오용으로는 Seedance, Kling, Veo 및 Google Omni의 최신 버전이 제공됩니다. 또한 추론(reasoning), 검색, 문서, 임베딩(embeddings), 음악 및 오디오를 위한 모델도 사용할 수 있습니다.

모델 선택의 확장이 요금 인상을 의미하지는 않습니다: 요청 비용은 provod.ai 측의 추가 마진 없이 공식 가격과 1:1로 동일합니다.