helixml/helix

SaaS • 프라이빗 배포 (Private Deployment) • 문서 (Docs) • Discord

자체 데이터 센터 또는 VPC에 AI 에이전트를 배포하여 완전한 데이터 보안 및 제어권을 유지하세요.

HelixML은 RAG (Retrieval-Augmented Generation, 검색 증강 생성), API 호출, 비전 (Vision), 그리고 멀티 프로바이더 LLM (Large Language Model) 지원을 갖춘 AI 에이전트 구축 및 배포를 위한 엔터프라이즈급 플랫폼입니다. 간단한 helix.yaml 설정 파일을 작성함으로써 LLM 애플리케이션을 구축하고 배포할 수 있습니다.

당사의 지능형 GPU 스케줄러 (GPU scheduler)는 사용 가능한 GPU 메모리에 모델을 효율적으로 패킹하며, 수요에 따라 모델을 동적으로 로드 및 언로드하여 리소스 활용도를 최적화합니다.

에이전트 상호작용 및 관리를 위한 사용하기 쉬운 웹 UI (Web UI)
일시 중지/재개 기능이 있는 세션 기반 아키텍처 (Session-based architecture)
도구 오케스트레이션 (Tool orchestration)을 통한 다단계 추론 (Multi-step reasoning)
문맥 인지 상호작용을 위한 메모리 관리 (Memory management)
다양한 LLM 프로바이더 지원 (OpenAI, Anthropic 및 로컬 모델)

OpenAPI 스키마를 지원하는 REST API 통합
MCP (Model Context Protocol) 서버 호환성
고급 스크립팅을 위한 GPTScript 통합
안전한 제3자 액세스를 위한 OAuth 토큰 관리
유연한 SDK를 통한 커스텀 도구 개발

내장된 문서 인제스션 (Document ingestion) (PDF, Word, 텍스트 파일)
자동 콘텐츠 추출을 위한 웹 스크래퍼 (Web scraper)
다중 RAG 백엔드: Kodit, LlamaIndex
의미론적 검색을 위한 PGVector 기반 벡터 임베딩 (Vector embeddings)
멀티모달 콘텐츠를 위한 비전 RAG (Vision RAG) 지원

주요 사용 사례:

• 기업 문서 업로드 및 분석
• 웹사이트 문서 URL을 추가하여 즉각적인 고객 지원 에이전트 생성
• 다양한 소스로부터 지식 베이스 (Knowledge bases) 구축

문맥 (Context)이 전부입니다. 에이전트는 단계당 수만 개의 토큰을 처리할 수 있습니다. Helix는 내부 동작 과정을 완전히 시각화하여 제공합니다:

트레이싱 (Tracing) 기능:

• 모든 에이전트 실행 단계 확인
• LLM 프로바이더, 제3자 API 및 MCP 서버에 대한 요청(Request)과 응답(Response) 검사
• 실시간 토큰 사용량 추적
• 가격 및 비용 분석
• 성능 지표 및 디버깅 (Debugging)

멀티테넌시 (Multi-tenancy): 조직(Organization), 팀(Team), 역할 기반 액세스 제어 (RBAC) 지원
예약된 작업 (Scheduled tasks) 및 크론 잡 (Cron jobs)
웹훅 트리거 (Webhook triggers): 이벤트 기반 워크플로우용
평가 프레임워크 (Evaluation framework): 테스트 및 품질 보증 (QA)용
결제 통합 (Payment integration): Stripe 지원
알림 (Notifications): Slack, Discord, 이메일을 통한 알림
Keycloak 인증 (Authentication): OAuth 및 OIDC 지원

HelixML은 다음과 같은 구성 요소로 이루어진 마이크로서비스 아키텍처 (Microservices architecture)를 사용합니다:

┌─────────────────────────────────────────────────────────┐
│ 프론트엔드 (Frontend) (React) │
│ vite + TypeScript │
...

3계층 에이전트 계층 구조 (Three-layer agent hierarchy):

세션 (Session): 에이전트의 생명주기 (Lifecycle) 및 상태 (State) 관리
에이전트 (Agent): 스킬 (Skills)을 조정하고 LLM 상호작용 처리
스킬 (Skills): 특정 기능을 위해 관련 도구 (Tools)를 그룹화
도구 (Tools): 개별 동작 (API 호출, 함수, 스크립트)

Go 1.24.0 - 주요 백엔드 언어
PostgreSQL + PGVector - 데이터 저장 및 벡터 임베딩 (Vector embeddings)
GORM - 데이터베이스 작업을 위한 ORM
Gorilla Mux - HTTP 라우팅
Keycloak - ID 및 액세스 관리 (IAM)
NATS - 메시지 큐 (Message queue)
Zerolog - 구조화된 로깅 (Structured logging)

React 18.3.1 - UI 프레임워크
TypeScript - 타입 안전 (Type-safe) JavaScript
Material-UI (MUI) - 컴포넌트 라이브러리
MobX - 상태 관리 (State management)
Vite - 빌드 도구
Monaco Editor - 코드 편집

OpenAI SDK - GPT 모델 통합
Anthropic SDK - Claude 모델 통합
LangChain Go - LLM 오케스트레이션 (Orchestration)
GPTScript - 스크립팅 기능
Kodit / LlamaIndex - RAG 백엔드

Docker & Docker Compose - 컨테이너화 (Containerization)
Kubernetes + Helm - 오케스트레이션 (Orchestration)
Flux - GitOps 오퍼레이터 (Operator)

빠른 시작 설치 프로그램을 사용하세요:

curl -sL -O https://get.helixml.tech/install.sh
chmod +x install.sh
sudo ./install.sh

설치 프로그램은 시스템을 변경하기 전에 사용자에게 확인을 요청합니다. 기본적으로 대시보드(Dashboard)는 http://localhost:8080에서 사용할 수 있습니다.

DNS 이름을 사용하여 배포를 설정하려면 ./install.sh --help를 확인하거나 상세 문서를 읽어보세요. 쉬운 TLS 종료 (TLS termination) 방법에 대해서도 문서화해 두었습니다.

다음 단계:

• runner 문서에 따라 자체 GPU 러너 (GPU runners)를 연결하세요.
• 외부의 모든 OpenAI 호환 LLM을 사용하세요.

운영 환경 배포 (production deployments)를 위해 당사의 Helm 차트를 사용하세요:

모든 서버 설정은 환경 변수 (environment variables)를 통해 이루어집니다. 전체 설정 옵션 목록은 api/pkg/config/config.go에서 확인할 수 있습니다.

주요 환경 변수:

OPENAI_API_KEY

• OpenAI API 자격 증명 (credentials)

ANTHROPIC_API_KEY

• Anthropic API 자격 증명 (credentials)

POSTGRES_*

• 데이터베이스 연결 설정 (Database connection settings)

KEYCLOAK_*

• 인증 설정 (Authentication settings)

SERVER_URL

• 배포를 위한 공개 URL (Public URL)

RUNNER_*

• GPU 러너 (GPU runner) 설정

상세한 설정 지침은 구성 문서를 참조하세요.

로컬 개발 (local development)을 위해서는 Helix 로컬 개발 가이드를 참조하세요.

사전 요구 사항 (Prerequisites):

• Docker Desktop (또는 Docker + Docker Compose)
• Go 1.24.0+
• Node.js 18+
• Make

빠른 개발 설정:

# 저장소 복제 (Clone the repository)
git clone https://github.com/helixml/helix.git
cd helix
...

포괄적인 설정 지침은 local-development.md를 참조하세요.

개요 (Overview)

• 플랫폼 소개
  시작하기 (Getting Started)
• 첫 번째 에이전트 (agent) 구축하기
  컨트롤 플레인 배포 (Control Plane Deployment)
• 운영 환경 배포 가이드
  러너 배포 (Runner Deployment)
• GPU 러너 설정
  에이전트 아키텍처 (Agent Architecture)
• 기술 사양 (Technical specification)
  API 레퍼런스 (API Reference)
• REST API 문서
  기여 가이드 (Contributing Guide)
• 기여 방법
  업그레이드 가이드 (Upgrading Guide)
• 마이그레이션 (Migration) 지침

여러분의 기여를 환영합니다! 자세한 내용은 기여 가이드를 참조해 주세요.

기여함으로써 귀하는 다음 사항을 확인하게 됩니다:

• 귀하의 변경 사항은 동일한 라이선스(license)를 따릅니다.
• 귀하의 변경 사항에 대한 소유권은 HelixML, Inc.에 있습니다.

Helix는 Docker Desktop과 유사한 라이선스 하에 배포됩니다. 귀하는 다음 용도로 (이 저장소의) 소스 코드를 무료로 실행할 수 있습니다:

개인적 용도 (Personal Use): 개인 또는 개인적으로 실험하는 사람
교육적 용도 (Educational Use): 학교 및 대학교
소규모 비즈니스 용도 (Small Business Use): 연간 매출 1,000만 달러 미만 및 직원 수 250명 미만인 기업

위 조건에 해당하지 않는 경우, Launchpad를 사용하여 대규모 상업적 용도 (Large Commercial Use)를 위한 라이선스를 구매해 주세요. 실험을 위한 체험판 라이선스 (Trial licenses)도 이용 가능합니다.

당사의 코드와 경쟁하는 제품을 구축하기 위해 당사의 코드를 사용하는 것은 허용되지 않습니다.

• 당사는 Helix의 개발을 지원하기 위해 수익을 창출합니다. 당사는 독립적인 소프트웨어 기업입니다.
• 당사는 클라우드 제공업체들이 당사의 오픈 소스 (Open source) 코드를 가져가 그 위에 리브랜딩된 서비스를 구축하는 것을 원하지 않습니다.

만약 더 허용적인 라이선스 (Permissive license) 하에 이 코드의 일부를 사용하고 싶다면, 문의해 주세요.

Discord Community

• 도움과 토론을 위해 커뮤니티에 참여하세요
  GitHub Issues
• 버그를 보고하거나 기능을 요청하세요
  Documentation
• 종합적인 가이드 및 참조 자료
  Email
• 상업적 문의는 이메일로 연락해 주세요

Helix가 유용하다고 생각하신다면, GitHub에서 스타 (Star)를 눌러주세요!

Built with ❤️ by HelixML, Inc.