Molayo

© 2026 Molayo

Dev.to헤드라인2026. 06. 03. 01:03

LibreChat 2026 리뷰: 모든 제공업체를 위한 오픈 소스 채팅

요약

LibreChat v0.8.5는 OpenAI, Anthropic, Google 등 다양한 LLM 제공업체를 하나의 UI로 통합하는 오픈 소스 셀프 호스팅 채팅 인터페이스입니다. MCP 지원 에이전트 빌더, pgvector 기반 RAG, 엔터프라이즈급 인증 기능을 갖추어 팀 단위 사용에 최적화되어 있습니다.

핵심 포인트

  • 다양한 클라우드 API와 로컬 Ollama 모델을 동등하게 지원
  • MCP 지원 에이전트 빌더 및 내장 플러그인 제공
  • pgvector를 활용한 RAG 기능 탑재
  • LDAP, OAuth2 등 엔터프라이즈급 인증 체계 지원
  • Docker Compose를 통한 간편한 셀프 호스팅

이 기사는 원래 aifoss.dev에 게시되었습니다.

요약 (TL;DR): LibreChat v0.8.5는 OpenAI, Anthropic, Google, Ollama 및 십여 개의 다른 제공업체를 실제 엔터프라이즈 인증 (Enterprise Authentication)과 함께 하나의 UI에 통합한 유일한 셀프 호스팅 (Self-hosted) 채팅 인터페이스입니다. 설정은 Docker Compose만 사용하며 — 단일 바이너리 (Single binary) 방식이 아님 — 전체 스택에는 2GB RAM이 필요합니다. 만약 단일 로컬 모델을 실행 중이고 단순함을 원한다면 Open WebUI가 더 적합합니다. 하지만 여러 제공업체나 팀 인증 (Team auth)이 필요하다면, LibreChat을 따라올 수 있는 것은 없습니다.

LibreChat v0.8.5Open WebUIJan.ai
최적의 용도팀, 다중 제공업체 설정Ollama 중심의 로컬 채팅오프라인 개인 사용
...

솔직한 견해: 만약 하나 이상의 LLM 제공업체를 사용하거나 팀 액세스를 위해 LDAP/OAuth가 필요하다면, LibreChat은 편법 없이 이를 처리할 수 있는 유일한 오픈 소스 옵션입니다.

LibreChat의 실체

LibreChat은 셀프 호스팅 (Self-hosted) 채팅 프론트엔드 (Frontend)이자 오케스트레이션 레이어 (Orchestration layer)입니다. 모델 자체를 실행하지는 않으며, 사용자가 제공하는 API 엔드포인트 (Endpoints)에 연결합니다. 다른 모든 셀프 호스팅 ChatGPT 클론 (Clone)과 차별화되는 점은 연결 가능한 범위의 방대함입니다: OpenAI, Anthropic, Google Vertex AI, AWS Bedrock, Azure OpenAI, Groq, Mistral, DeepSeek, OpenRouter, 그리고 Ollama를 포함한 모든 OpenAI 호환 엔드포인트가 포함됩니다.

마지막 부분이 핵심적인 해제 요소입니다. 대부분의 셀프 호스팅 UI는 한 가지 길을 선택합니다: Ollama 중심(Open WebUI, Jan.ai)이거나 클라우드 API 중심(Chatbot UI)입니다. LibreChat은 진정으로 모든 제공업체를 동등하게 취급합니다. 대화를 나누는 도중에 Claude Opus에서 로컬 Qwen 모델로 전환할 수 있으며, LibreChat은 아무런 마찰 없이 요청을 올바른 엔드포인트로 라우팅 (Routing)합니다.

v0.8.5 (2026년 4월) 기준으로 기능 세트는 상당합니다:

  • 대화별 멀티 프로바이더 전환 (Multi-provider switching)
  • MCP (Model Context Protocol)를 지원하는 에이전트 빌더 (Agent builder)
  • 내장 플러그인 (Built-in plugins): DALL-E 3, Wolfram Alpha, 웹 검색 (web search), 코드 인터프리터 (code interpreter), 계산기 (calculator)
  • pgvector를 통한 RAG (RAG via pgvector): 전용 Python 서비스를 통한 PDF/DOCX/TXT 데이터 수집 (ingestion)
  • 인증 (Authentication): 이메일, OAuth2/OIDC, LDAP/AD, 소셜 로그인
  • 아티팩트 (Artifacts): UI에서 렌더링되는 코드 블록, 마크다운 (markdown), HTML 미리보기
  • 대화 분기 (Conversation branching) 및 메시지 검색
  • 커스텀 프리셋 (Custom presets): 시스템 프롬프트 (system prompts)가 포함된 저장된 모델 설정

이 프로젝트는 MIT 라이선스를 따릅니다. Danny Avila가 2023년 초 개인용 ChatGPT 클론으로 시작한 이 프로젝트는, 2026년 5월 기준으로 34,500개 이상의 GitHub 스타와 2,300만 회 이상의 컨테이너 레지스트리 풀 (pull) 횟수를 기록하고 있습니다. 이 풀 횟수는 단순한 홈랩 (homelab) 호기심을 넘어 실제 운영 환경 (production)에 배포되고 있음을 나타냅니다.

설치 방법: 15분 만에 Docker Compose로 설치하기

단일 바이너리는 존재하지 않습니다. LibreChat 스택은 MongoDB (대화 저장), MeiliSearch (메시지 검색), 메인 Node.js 앱, 그리고 선택 사항인 Python RAG 서비스로 구성됩니다. Docker Compose는 이 모든 것을 합리적으로 패키징합니다.

설치는 네 개의 명령어로 이루어집니다:

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
...

http://localhost:3080에서 UI에 접속할 수 있습니다. 처음 등록하는 계정이 관리자 (admin)가 됩니다.

초기 docker compose up 실행 시 이미지를 다운로드하며, 새 기기에서는 2~5분 정도 소요될 것으로 예상됩니다. 이후 재시작 시에는 30초 미만이 소요됩니다.

.env 파일은 비밀 값 (secrets)과 인프라 설정을 제어합니다. 시작하기 전에 최소한 다음 항목들을 설정해야 합니다:

# 세션 암호화 (랜덤 16진수 문자열 생성)
CREDS_KEY=         # 64자리 16진수
CREDS_IV=          # 32자리 16진수
...

librechat.yaml 파일은 그 외의 모든 것을 제어합니다: 어떤 프로바이더가 나타날지, 어떤 모델을 사용할 수 있는지, 에이전트 설정, 그리고 MCP 서버 정의 등이 포함됩니다. 이러한 분리는 의도적인 것으로, .env는 자격 증명 (credentials)과 인프라를 보유하고, YAML은 기능 (features)을 처리합니다.

하드웨어 요구 사항: 공식 문서에서는 전체 배포를 위해 최소 2GB RAM을 권장합니다. 선택 사항인 RAG API를 활성화하지 않으면 코어 스택 (LibreChat + MongoDB + MeiliSearch)은 더 가볍게 실행되지만, 스왑 (swap)을 방지하기 위해 호스트에 2GB를 할당할 계획을 세우십시오.

공개용 배포를 위해서는 nginx를 앞에 두고 TLS를 추가하십시오. Docker Compose 스택은 기본적으로 3080 포트만 노출하므로, 실수로 다른 포트가 열리는 일은 없습니다.

제공업체 연결: 클라우드 API와 함께 사용하는 Ollama

멀티 제공업체 (multi-provider) 설정은 librechat.yaml에서 이루어집니다. 로컬 Ollama 인스턴스와 OpenAI를 모두 연결하는 모습은 다음과 같습니다:

endpoints:
  custom:
    - name: "Ollama"
...

Linux에서는 Docker Compose 파일에 --add-host=host.docker.internal:host-gateway를 추가하지 않으면 host.docker.internal이 해석되지 않을 수 있습니다. 연결 문제가 발생하면 호스트의 실제 LAN IP를 사용하십시오.

스택을 재시작한 후에는 두 제공업체 모두 모델 선택 드롭다운 메뉴에 나타납니다. 대화 도중에 모델을 전환해도 전체 대화 기록이 유지됩니다. LibreChat은 다음 메시지를 보낼 때 전체 스레드 (thread)를 새로운 제공업체로 전송합니다.

동일한 패턴이 Anthropic, Google Vertex AI, Groq 또는 vLLM과 같은 모든 OpenAI 호환 API에도 적용됩니다:

  anthropic:
    apiKey: "${ANTHROPIC_API_KEY}"
    models:
...

이러한 폭넓은 지원은 셀프 호스팅 (self-hosted) 옵션 중에서 진정으로 독보적입니다. Open WebUI는 파이프라인 (Pipeline) 시스템을 통해 여러 제공업체를 지원하지만, 퍼스트 클래스 (first-class) 멀티 제공업체 지원은 더 최신 기능이며 더 많은 수동 작업이 필요합니다.

플러그인 툴킷

LibreChat의 플러그인은 함수 호출 (function-calling)을 통해 작동합니다. 플러그인을 활성화하면 시스템 프롬프트 (system prompt)에 도구 정의 (tool definition)가 추가되며, 모델이 이를 호출할 시점을 결정합니다. 이는 ChatGPT의 도구 사용 (tool use)과 동일한 메커니즘입니다.

내장 플러그인:

플러그인 (Plugin)기능필요 사항
DALL-E 3텍스트-이미지 변환 (Text-to-image), 인라인 렌더링OpenAI API 키
...

플러그인 활성화는 사용자별로 이루어집니다. 즉, 각 계정은 원하는 도구를 직접 활성화할 수 있습니다. 관리자(Admin)는 사이트 전체에서 사용 가능한 플러그인을 제어합니다.

솔직한 한계점은 이 생태계가 ChatGPT 플러그인 스토어보다 훨씬 작다는 것입니다. 제3자(third-party) LibreChat 플러그인을 위한 별도의 "마켓플레이스"는 존재하지 않습니다. 기본 제공 기능을 넘어 커스텀 도구를 추가하기 위한 의도된 경로는 MCP 통합(다음 섹션에서 다룸)입니다.

에이전트 (Agents), MCP, 그리고 Assistants API

에이전트 빌더(agent builder)는 LibreChat의 강력한 차별점 중 하나입니다. 각 에이전트는 고유한 시스템 프롬프트 (system prompt), 모델 선택 (model selection), 그리고 도구 액세스 권한을 가진 설정 가능한 AI 어시스턴트입니다. 사이드바 UI에서 에이전트를 생성할 수 있으며, 별도의 설정 파일 (config file) 편집은 필요하지 않습니다.

에이전트를 매력적으로 만드는 것은 네이티브 MCP 지원입니다. librechat.yaml에 MCP 서버를 추가하세요:

mcpServers:
  filesystem:
    type: stdio
...

해당 도구들은 에이전트 빌더에 나타나며, 사용자별로 범위가 지정됩니다. 한 에이전트는 파일 시스템 (filesystem) 읽기 권한을 가질 수 있고, 다른 에이전트는 웹 검색 권한만 가질 수 있습니다. 지연된 도구 로딩 (deferred tool loading)은...

AI 자동 생성 콘텐츠

본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
1

댓글

0