모델, 벡터 데이터베이스, 검색, Agent 및 모니터링을 포함한 완전한 프라이빗 대규모 언어 모델 (LLM) 애플리케이션 스택을 단 하나의

요약

Go 언어로 작성된 오픈 소스 CLI 도구를 통해 단 한 번의 명령어로 프라이빗 LLM 애플리케이션 스택을 구축할 수 있습니다. Docker를 기반으로 모델, 벡터 DB, 에이전트, 모니터링 도구 등을 자동으로 오케스트레이션합니다.

핵심 포인트

• 단일 명령어로 RAG, 에이전트 등 전체 스택 구축 가능
• Qdrant, Redis, Langfuse 등 주요 오픈 소스 통합
• 선언적 YAML 형식을 통한 자동 오케스트레이션 지원
• 제3자 API 없이 완전한 프라이빗 환경 구성 가능