Show HN: TrustGraph – 더 적은 자원으로 AI 활용 극대화하기 (오픈 소스 AI 인프라)
요약
TrustGraph는 컨텍스트 그래프를 중심으로 구축된 오픈 소스 에이전트 런타임 플랫폼입니다. 도메인 지식을 구조화하여 에이전트의 쿼리가 검증 가능하고 설명 가능한 사실에 기반하도록 하며, 메모리, 검색, 오케스트레이션, 추론을 아우르는 풀스택 솔루션을 제공합니다.
핵심 포인트
- 컨텍스트 그래프 엔진을 통해 엔티티 및 관계를 자동 추출하고 온톨로지 기반의 설명 가능한 검색을 지원합니다.
- DocumentRAG, GraphRAG, OntologyRAG 등 즉시 사용 가능한 다양한 RAG 파이프라인을 제공합니다.
- Anthropic, OpenAI, Gemini 등 주요 LLM과 vLLM, Ollama 등 다양한 추론 스택을 지원합니다.
- Cassandra, Qdrant, Pulsar 등을 포함한 복잡한 인프라를 Docker 컨테이너 세트로 간편하게 배포할 수 있습니다.
- 단일 및 멀티 에이전트 패턴(ReAct, Plan-then-Execute 등)과 MCP 통합을 지원합니다.
TrustGraph는 컨텍스트 그래프 (Context Graphs)를 중심으로 구축된 에이전트 런타임 플랫폼입니다. 컨텍스트 그래프는 도메인 지식을 구조화하고 쿼리 가능한 형태로 표현한 것으로, 주권적 제어가 가능한 프라이빗 배포 환경에서 모든 에이전트 쿼리를 검증 가능하고 설명 가능한 사실에 기반하도록 합니다. 이 플랫폼은 정밀도가 중요한 에이전트 워크로드(Agent workloads)를 위한 컨텍스트 그래프, 메모리 (Memory), 검색 (Retrieval), 오케스트레이션 (Orchestration), 그리고 추론 (Inference)을 아우르는 에이전트 시스템용 풀스택 (Full stack)입니다.
플랫폼 구성 요소:
-
멀티 모델 및 멀티모달 (Multimodal) 데이터베이스 시스템
- 표/관계형 (Tabular/relational), 키-값 (Key-value)
- 문서 (Document), 그래프 (Graph), 벡터 (Vectors)
- 이미지, 비디오, 오디오
-
컨텍스트 그래프 (Context Graph) 엔진
- 자동 엔티티 (Entity) 및 관계 추출
- 온톨로지 (Ontology) 기반 그래프 구축
- 설명 가능한 출력을 위한 그래프 기반 검색 (Graph-grounded retrieval)
-
자동 데이터 수집 및 로딩
- 시맨틱 유사도 검색 (Semantic similarity retrieval)을 통한 빠른 수집
- 정밀한 검색을 위한 온톨로지 구조화
-
즉시 사용 가능한 RAG 파이프라인
- DocumentRAG
- GraphRAG
- OntologyRAG
-
컨텍스트 탐색을 위한 3D GraphViz
-
완전한 에이전트 시스템 (Fully Agentic System)
- 단일 또는 멀티 에이전트
- ReAct, Plan-then-Execute, 그리고 Supervisor 패턴
- MCP 통합
-
어디서나 실행 가능
- Docker를 이용한 로컬 배포
- Kubernetes를 이용한 클라우드 배포
-
모든 주요 LLM 지원
- Anthropic, Cohere, Gemini, Mistral, OpenAI 등을 위한 API 지원
- vLLM, Ollama, TGI, LM Studio, Llamafiles를 이용한 모델 추론
-
개발자 친화적
서비스를 작동시키기 위해 필요한 수십 개의 서드파티 종속성 API 키를 확인하려고 .env.example 파일을 열어본 적이 몇 번이나 있으신가요? TrustGraph에서 API 키가 필요할 수 있는 것은 단 세 가지뿐입니다:
- Anthropic, Cohere, Gemini, Mistral, OpenAI 등과 같은 서드파티 LLM 서비스
- Mistral OCR와 같은 서드파티 OCR
- 사용자가 직접 설정하는 TrustGraph API 게이트웨이용 API 키
그 외의 모든 것은 포함되어 있습니다.
- Cassandra를 통한 관리형 멀티 모델 스토리지 (Managed Multi-model storage)
- Qdrant를 통한 관리형 벡터 임베딩 스토리지 (Managed Vector embedding storage)
- Garage (S3 호환)를 통한 관리형 파일 및 객체 스토리지 (Managed File and Object storage)
- Pulsar를 통한 관리형 고속 Pub/Sub 메시징 패브릭 (Managed High-speed Pub/Sub messaging fabric)
- vLLM, TGI, Ollama, LM Studio, Llamafiles를 활용한 오픈 LLM용 완전한 LLM 추론 스택 (Complete LLM inferencing stack)
소스 코드로부터 직접 빌드하려는 경우가 아니라면 이 저장소(repo)를 클론할 필요는 없습니다. TrustGraph는 Docker 컨테이너 세트로 배포되는 완전한 컨테이너화된 앱입니다. 명령줄(command line)에서 TrustGraph를 설정하려면 다음과 같이 입력하세요:
npx @trustgraph/config
설정 프로세스는 Docker, Podman 또는 Minikube를 통해 로컬에서 실행할 수 있는 앱 설정을 생성합니다. 프로세스 결과로 다음이 출력됩니다:
deploy.zip
이 파일에는 Docker/Podman용 docker-compose.yaml 파일 또는 Kubernetes용 resources.yaml 파일이 포함되어 있으며, 설치 지침은 INSTALLATION.md로 제공됩니다.
Quickstart.mp4
브라우저 기반 설정을 원한다면 Configuration Terminal을 사용해 보세요.
Workbench는 TrustGraph의 모든 주요 기능에 대한 도구를 제공합니다. Workbench는 기본적으로 8888 포트에서 실행됩니다.
Vector Search (벡터 검색): 설치된 지식 베이스(knowledge bases) 검색
Agentic, GraphRAG and LLM Chat (에이전트, GraphRAG 및 LLM 채팅): 에이전트, GraphRAG 쿼리 또는 LLM 직접 채팅을 위한 채팅 인터페이스
Relationships (관계): 설치된 지식 베이스 내의 심층 관계 분석
Graph Visualizer (그래프 시각화 도구): 설치된 지식 베이스의 3D GraphViz 시각화
Library (라이브러리): 지식 베이스 설치를 위한 스테이징 영역
Flow Classes (플로우 클래스): 워크플로우 사전 설정 구성
Flows (플로우): 커스텀 워크플로우 생성 및 런타임 중 LLM 파라미터 조정
Knowledge Cores (지식 코어): 재사용 가능한 지식 베이스 관리
Prompts (프롬프트): 런타임 중 프롬프트 관리 및 조정
Schemas (스키마): 구조화된 데이터 지식 베이스를 위한 커스텀 스키마 정의
Ontologies (온톨로지): 비구조화된 데이터 지식 베이스를 위한 커스텀 온톨로지 정의
Agent Tools (에이전트 도구): 컬렉션, 지식 코어, MCP 연결 및 도구 그룹을 포함한 도구 정의
MCP Tools (MCP 도구): MCP 서버에 연결
TrustGraph 서비스를 UI에 빠르게 통합할 수 있는 3가지 라이브러리가 있습니다.
Context Core는 TrustGraph가 컨텍스트 (Context)를 코드처럼 취급하는 방식입니다. Context Core는 프로젝트와 환경 간에 전달할 수 있고, 운영 환경 (Production)에서 고정(Pin)할 수 있으며, 에이전트 (Agent) 간에 재사용할 수 있는 **이식 가능하고 버전 관리되는 컨텍스트 번들 (Portable, versioned bundle of context)**입니다. 이는 "에이전트가 알아야 할 내용" (구조화된 지식 + 임베딩 (Embeddings) + 증거 (Evidence) + 정책 (Policies))을 하나의 아티팩트 (Artifact)로 패키징하므로, 컨텍스트를 코드처럼 빌드, 테스트, 버전 관리, 배포(Promote), 그리고 롤백 (Roll back)할 수 있습니다. TrustGraph는 이러한 엔드 투 엔드 (End-to-end) 컨텍스트 엔지니어링 (Context engineering) 및 오케스트레이션 (Orchestration) 워크플로우를 지원하도록 설계되었습니다.
Context Core에는 일반적으로 다음이 포함됩니다:
- 온톨로지 (Ontology, 도메인 스키마) 및 매핑 (Mappings)
- 컨텍스트 그래프 (Context Graph, 엔티티, 관계, 지원 증거)
- 빠른 의미론적 진입점 검색을 위한 임베딩 (Embeddings) / 벡터 인덱스 (Vector indexes)
- 소스 매니페스트 (Source manifests) + 출처 (Provenance, 사실이 어디서 왔는지, 언제, 어떻게 도출되었는지)
- 검색 정책 (Retrieval policies, 탐색 규칙, 최신성, 권위 순위)
TrustGraph는 에이전트 워크플로우를 최적화하기 위한 컴포넌트 유연성을 제공합니다.
LLM API
- Anthropic
- AWS Bedrock
- AzureAI
- AzureOpenAI
- Cohere
- Google AI Studio
- Google VertexAI
- Mistral
- OpenAI
LLM 오케스트레이션 (LLM Orchestration)
- LM Studio
- Llamafiles
- Ollama
- TGI
- vLLM
멀티 모델 스토리지 (Multi-model storage)
- Apache Cassandra
벡터 DB (VectorDB)
- Qdrant
파일 및 오브젝트 스토리지 (File and Object Storage)
- Garage
관측성 (Observability)
- Prometheus
- Grafana
- Loki
데이터 스트리밍 (Data Streaming)
- Apache Pulsar
- RabbitMQ
- Apache Kafka
클라우드 (Clouds)
- AWS
- Azure
- Google Cloud
- OVHcloud
- Scaleway
플랫폼이 실행되면 다음 주소에서 Grafana 대시보드에 접속할 수 있습니다:
기본 자격 증명 (Default credentials)은 다음과 같습니다:
user: admin
password: admin
기본 Grafana 대시보드는 다음 항목들을 추적합니다:
텔레메트리 (Telemetry)
- LLM 지연 시간 (LLM Latency)
- 에러율 (Error Rate)
- 서비스 요청률 (Service Request Rates)
- 큐 백로그 (Queue Backlogs)
- 청킹 히스토그램 (Chunking Histogram)
- 서비스별 에러 소스 (Error Source by Service)
- 속도 제한 이벤트 (Rate Limit Events)
- 서비스별 CPU 사용량 (CPU usage by Service)
- 서비스별 메모리 사용량 (Memory usage by Service)
- 배포된 모델 (Models Deployed)
- 토큰 처리량 (Token Throughput, Tokens/second)
- 비용 처리량 (Cost Throughput, Cost/second)
TrustGraph는 Apache 2.0 라이선스 하에 제공됩니다.
Copyright 2024-2025 TrustGraph
Apache License, Version 2.0 (이하 "라이선스")에 따라 라이선스가 부여됩니다. 라이선스를 준수하지 않고는 이 파일을 사용할 수 없습니다. 라이선스 사본은 다음에서 얻을 수 있습니다.
관련 법률에서 요구하거나 서면으로 합의하지 않는 한, 라이선스에 따라 배포되는 소프트웨어는 명시적이든 묵시적이든 어떠한 종류의 보증이나 조건 없이 "있는 그대로(AS IS)\
AI 자동 생성 콘텐츠
본 콘텐츠는 HN AI Engineering의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기