Synkora: 자체 호스팅 가능한 AI 에이전트 플랫폼

자체 호스팅(Self-hosted) AI 에이전트 플랫폼입니다. 클라우드 의존성이나 벤더 종속성이 없습니다. 사용자의 인프라와 LLM 키를 활용하세요.

하나의 플랫폼에서 Slack, WhatsApp, Teams, Telegram, 웹 위젯 및 REST API에 에이전트를 배포할 수 있습니다. MIT 라이선스입니다.

Features • Quick Start • Documentation • Contributing • Community

LangChain은 빌딩 블록(building blocks)을 제공하고, AutoGen은 패턴(patterns)을 제공합니다. Synkora는 전체 플랫폼을 제공합니다.

웹 UI, 멀티테넌트 워크스페이스, RAG 지식 기반, 50개 이상의 도구 통합(tool integrations), 다중 채널 배포, 결제 시스템(billing), 예약 작업(scheduled tasks), HITL 승인 게이트(HITL approval gates), 그리고 LLM 관측 가능성(LLM observability)까지 — 이 모든 것이 사용자의 인프라에 자체 호스팅되며 몇 분 만에 준비됩니다.

직접 스택을 구축하는 것보다 Synkora를 사용하는 이유?

synkora.ai에서 라이브로 사용해 보세요 — 설치가 필요 없습니다.

고객 지원 에이전트: 지식 기반을 통해 24/7 질의 응답 처리가 가능하며, 사람에게 이관(HITL escalation)하는 기능도 제공합니다.엔지니어링 어시스턴트: GitHub, GitLab, Sentry를 통해 코드 검토, 버그 분류 및 문서화가 가능합니다.마케팅 자동화: 콘텐츠 초안 작성, 캠페인 분석, 소셜 미디어 스케줄링이 가능합니다.데이터 에이전트: 데이터베이스에 대한 자연어 질의, 자동 보고서 생성, 이상 징후 감지(anomaly detection)가 가능합니다.내부 코파일럿: HR, 재무, 운영 등 기존 도구와 50개 이상의 통합을 통해 연결되는 에이전트입니다.개인 AI 비서: 음성, 브라우저 제어 및 메시징 통합 기능을 갖춘 범용 목적의 비서입니다.

다중 공급자 LLM 지원 (Multi-Provider LLM Support): LiteLLM을 통해 OpenAI, Anthropic, Google 등 다양한 모델 사용 가능 — 자체 API 키 사용지식 기반 (Knowledge Bases): Qdrant, Pinecone, Elasticsearch를 이용한 벡터 기반 지식 관리맞춤형 도구 (Custom Tools): 50개 이상의 사전 구축 통합 기능 및 확장 가능한 도구 시스템 지원실시간 채팅 (Real-time Chat): 스트리밍 응답이 가능한 WebSocket 기반 채팅 인터페이스MCP 서버 (MCP Servers): Model Context Protocol 서버 통합음성 서비스 (Voice Services): 음성 상호 작용을 위한 ElevenLabs 통합

다중 테넌트 아키텍처 (Multi-Tenant Architecture): 역할 기반 접근 제어(role-based access control)를 통한 완벽한 테넌트 격리결제 및 구독 (Billing & Subscriptions): 계획 기반 리소스 제한이 가능한 Stripe 통합SSO 및 인증 (SSO & Authentication): Okta SSO, SAML, 소셜 인증 지원메시징 봇 (Messaging Bots): Slack, Microsoft Teams, WhatsApp 봇 통합데이터 소스 (Data Sources): 데이터베이스, API 및 외부 서비스 연결 가능위젯 (Widgets): 웹사이트에 임베드 가능한 채팅 위젯 제공관측성 (Observability): LLM 관측성 및 분석을 위한 Langfuse 통합

RESTful API: OpenAPI 문서를 갖춘 포괄적인 FastAPI 기반 API에이전트 API 키 (Agent API Keys): 안전한 접근을 위한 에이전트별 API 키 제공맞춤 도메인 (Custom Domains): 에이전트를 위한 맞춤 도메인 설정 가능활동 로그 (Activity Logs): 포괄적인 감사 추적(audit trail) 기능사용량 통계 (Usage Statistics): 사용량 및 성능 지표 추적

종합적인 기술 분석은 ARCHITECTURE.md를 참조하십시오.

┌─────────────────────────────────────────┐
│ 로드 밸런서 (Load Balancer) │
└────────────────┬────────────────────────┘
...

백엔드 (Backend):

프레임워크 (Framework): FastAPI (Python 3.11 이상)데이터베이스 (Database): PostgreSQL 14 이상 및 pgvector 확장 기능캐시 (Cache): Redis 7 이상벡터 DB (Vector DB): Qdrant, Pinecone, Elasticsearch작업 큐 (Task Queue): Redis 브로커를 사용한 CeleryORM: SQLAlchemy 2.0마이그레이션 (Migrations): Alembic유효성 검사 (Validation): Pydantic v2

프론트엔드 (Frontend):

프레임워크 (Framework): App Router를 사용한 Next.js 15.1UI: React 19, Tailwind CSS상태 관리 (State Management): ZustandHTTP 클라이언트 (HTTP Client): Axios폼 (Forms): Zod 유효성 검사를 갖춘 React Hook Form

인프라스트럭처 (Infrastructure):

컨테이너화 (Containerization): Docker & Docker Compose
오케스트레이션 (Orchestration): Kubernetes (Helm charts 포함)
스토리지 (Storage): MinIO (S3 호환) 또는 AWS S3
관측 가능성 (Observability): LLM 추적을 위한 Langfuse

synkora/
├── api/ # 백엔드 API (FastAPI)
│ ├── src/
...

다섯 가지 상호 보완적인 최적화 기능이 LLM API 비용을 절감합니다. 제시된 절감액은 제공업체가 발표한 가격 또는 벤치마크 스크립트에서 도출되었으며, 추정되거나 조작된 수치는 없습니다.

생성됨:

api/tests/benchmarks/cost_benchmark.py

. API 종속 테스트를 위해서는 ANTHROPIC_API_KEY와 / OPENAI_API_KEY가 필요합니다.

— 실제 키를 사용하여 로컬에서 실행하여 실시간 지연 시간 수치를 확인하세요.

비용 계산 (Cost calculation) — 가격 결정 순서: DB 라우팅 규칙 재정의 → _BUILTIN_COSTS

→ MODEL_COMPARISON_DATA

→ None

(알 수 없음).

Anthropic 프롬프트 캐시 절감액 (Anthropic prompt-cache savings) — 시스템 프롬프트 2,000 토큰, 일일 요청 100회:

응답 캐시 정확성 게이트 (Response cache correctness gates) — 오래된 응답(stale hits)을 방지하는 여섯 가지 게이트:

cd api && python -m tests.benchmarks.cost_benchmark --provider anthropic --api-key $ANTHROPIC_API_KEY
cd api && python -m tests.benchmarks.cost_benchmark --provider openai --api-key $OPENAI_API_KEY

연구 방법론 (Research methodology): 각 플랫폼은 2026년 4월 기준 공식 문서, GitHub 이슈/PR, 및 변경 로그를 통해 조사되었습니다. 모든 셀은 출처가 명시되어 있습니다 — 각주 참조. 범례: ✅ 네이티브 내장 기능 · ⚡ 부분적 (수동 설정 또는 제한된 범위) · ❌ 미지원

¹ Dify 프롬프트 캐싱 — Anthropic 전용, 공식 플러그인 v0.3.10 (2026년 4월)을 통해 지원됩니다. LLM 노드 UI에서 여섯 가지 선택적 호출 매개변수(prompt_caching_system_message, prompt_caching_tool_definitions 등)를 사용할 수 있습니다. OpenAI 접두사 캐싱은 제공자 레벨에서 투명하게 처리됩니다 (Dify는 특별한 기능을 수행하지 않습니다). Gemini는

³ LangFlow 프롬프트 캐싱 — 네이티브 지원 없음. "LLM에서의 프롬프트 캐싱(Prompt Caching in LLMs)"이라는 제목의 LangFlow 블로그 게시물은 교육용일 뿐이며, LangFlow 기능에 대한 설명은 아닙니다. LangChain의 AnthropicPromptCachingMiddleware는 존재하지만, 내장된 LangFlow 노드로 노출되지는 않습니다.

⁴ n8n 프롬프트 캐싱 — Anthropic의 cache_control (4-브레이크포인트 전략)은 내부 AI 워크플로우 빌더(PR #20484, 2025년 10월)에 병합되었습니다. 사용자 대면형 Anthropic Chat Model 노드 PR(#22318)은 2026년 4월 기준으로 여전히 열려 있었습니다.

⁵ Dify 응답 캐시 — 범용적인 Redis 기반 LLM 출력 캐시는 없습니다. 가장 근접한 대안은 Annotation Reply입니다. 이는 벡터 유사성 매칭을 사용하며 LLM 호출을 단축시키는 수동으로 큐레이션된 Q&A 저장소입니다. 워크플로우 수준의 캐싱 기능 요청(#23598)은 2025년 9월에 "계획되지 않음(not planned)"으로 폐쇄되었습니다.

⁶ Flowise 응답 캐시 — 문서화되고 출시된 기능입니다. InMemory, Redis, Upstash Redis, Momento의 네 가지 백엔드를 가진 LangChain 캐시 레이어입니다. 선택적 "Cache" 입력으로 LLM 노드에 연결됩니다. (문서)

⁷ LangFlow 응답 캐시 — LLM 출력 중복 제거(deduplication) 캐시는 존재하지 않습니다. 메모리 내 캐시는 내부 플로우 그래프 상태(실행 중 컴포넌트의 출력)를 위한 것이지, LLM 응답 중복 제거를 위한 것은 아닙니다. Redis는 플로우 캐싱에 대해서만 "실험적(experimental)"으로 문서화되어 있습니다.

⁸ n8n 응답 캐시 — 기본 클래스(first-class) 캐시 노드는 없습니다. Redis Vector Store 노드 + 수동 워크플로우 로직(커뮤니티 템플릿)을 통해 구현할 수는 있지만, 원클릭 설정이 아닌 직접 작성(authoring)이 필요합니다.

⁹ Dify / Flowise / n8n 모델 라우팅 — 세 플랫폼 모두 다른 모델로 라우팅할 수 있는 라우팅 기본 요소(If/Else 노드, Condition 노드, Switch 노드)를 제공합니다. 그러나 비용이 저렴한 모델로 자동으로 라우팅하는 내장된 복잡도 분류기(complexity classifier)는 없습니다. n8n 커뮤니티에서는 이를 위해 OpenRouter를 사용하는 워크플로우 템플릿을 가지고 있습니다.

[업데이트] 주요 AI 플랫폼 API 및 배치(Batch) 기능 현황

¹⁰ LangFlow 모델 라우팅: v1.7 버전에서 실제 LLM 라우터/LLM 셀렉터(LLM Router / LLM Selector) 컴포넌트를 출시했습니다 (PR #5475, 2025년 1월). 이 기능은 OpenRouter의 model-spec API와 판단용 LLM(judge LLM)을 사용하여 품질/속도/비용/균형 등 다양한 기준에 따라 연결된 모델 중 하나를 선택합니다. OpenRouter가 필요하며, 라우팅 결정이 발생할 때마다 실시간 LLM 판단 호출 비용이 발생합니다.

¹¹ Dify 배치 API: "계획되어 있지 않음(not planned)"으로 명시적으로 거부되었습니다 (issue #13126, 2025년 3월 18일 마감).

¹² Flowise 배치 API: Anthropic Message Batches 또는 OpenAI Batch API 통합에 대한 증거가 없습니다. OpenAI 노드의 batchSize 필드는 제공업체(provider)의 배치 엔드포인트가 아니라 LangChain 내부적인 동시성 처리(임베딩 청킹)를 의미합니다. 비동기 응답은 "현재 지원되지 않음"이 확인되었습니다 (discussion #1212).

¹³ LangFlow 배치 API: 지원하지 않습니다. LangFlow의 /v1/flows/batch/ 엔드포인트는 여러 플로우 정의(flow definitions)를 생성하거나 삭제하는 용도이며, 제공업체 배치 API로 LLM 호출을 제출하기 위한 것이 아닙니다.

¹⁴ n8n 배치 API: Anthropic 배치 API는 커뮤니티 워크플로우 템플릿을 사용하여 HTTP 요청 노드(HTTP Request node)를 통해 접근할 수 있습니다. 전용 노드는 없습니다. OpenAI Batch API 역시 동일한 우회 방법이 필요합니다.

¹⁵ Dify 토큰 및 비용 추적: 노드별로 node_finished SSE 이벤트에서 execution_metadata.total_tokens, total_price(USD), currency를 확인할 수 있습니다 (issue #8873). 이는 실행 기록(Run History) / 디버그 보기(Debug view)에서 확인 가능합니다. 캐시 인식 기능으로는 cache_creation_input_tokens가 있습니다.