agentgateway/agentgateway

Agentgateway는 AI 네이티브 프로토콜 (MCP 및 A2A)을 기반으로 구축된 오픈 소스 프록시로, 모든 프레임워크와 환경에서 에이전트-LLM (agent-to-LLM), 에이전트-도구 (agent-to-tool), 에이전트-에이전트 (agent-to-agent) 통신에 대해 즉시 적용 가능한 보안, 관찰 가능성 (observability), 거버넌스 (governance)를 제공합니다.

LLM 게이트웨이 (LLM Gateway)

예산 및 지출 제어, 프롬프트 강화 (prompt enrichment), 부하 분산 (load balancing), 장애 조치 (failover) 기능을 갖춘 통합된 OpenAI 호환 API를 통해 주요 LLM 제공업체 (OpenAI, Anthropic, Gemini, Bedrock 등)로 트래픽을 라우팅합니다. -
MCP 게이트웨이 (MCP Gateway)

도구 연합 (tool federation), stdio/HTTP/SSE/Streamable HTTP 전송 방식, OpenAPI 통합 및 OAuth 인증을 포함한 MCP를 통해 LLM을 도구 및 외부 데이터 소스에 연결합니다. -
A2A 게이트웨이 (A2A Gateway)

능력 발견 (capability discovery), 모달리티 협상 (modality negotiation), 작업 협업 (task collaboration)을 포함한 A2A를 사용하여 보안 에이전트-에이전트 통신을 활성화합니다. -
추론 라우팅 (Inference Routing)

GPU 활용도, KV 캐시 (KV cache), LoRA 어댑터 (LoRA adapters), 큐 깊이 (queue depth)를 기반으로 한 결정을 통해 Kubernetes 추론 게이트웨이 (Inference Gateway) 확장 기능을 사용하여 자체 호스팅 모델로 지능형 라우팅을 수행합니다. -
가드레일 (Guardrails)

정규 표현식 (regex), OpenAI moderation, AWS Bedrock Guardrails, Google Model Armor 및 사용자 정의 웹훅 (webhooks)을 사용한 다층 콘텐츠 필터링을 제공합니다. -
보안 및 관찰 가능성 (Security & Observability)

인증 (Auth: JWT, API keys, OAuth), CEL 정책 엔진을 통한 세밀한 RBAC (역할 기반 액세스 제어), 속도 제한 (rate limiting), TLS 및 OpenTelemetry 메트릭/로그/트레이싱을 지원합니다.

• 독립 실행형 퀵스타트 (Standalone Quickstart) — 몇 분 안에 agentgateway를 시작하세요.
• Kubernetes 퀵스타트 (Kubernetes Quickstart) — 내장된 컨트롤러와 Gateway API를 사용하여 Kubernetes에 배포하세요.

배포 환경에 따라 다음 문서를 확인하세요:

• agentgateway.dev/docs: 로컬 또는 온프레미스(on-prem)와 같은 독립 실행형 배포를 위한 문서입니다. 이 문서는 업스트림 agentgateway/agentgateway GitHub 프로젝트를 위한 것입니다. - agentgateway.dev/docs/kubernetes/latest: 내장된 Kubernetes 컨트롤러 및 Gateway API 지원을 사용하는 Kubernetes 기반 배포를 위한 문서입니다.

Agentgateway에는 에이전트-에이전트 또는 에이전트-도구 연결을 탐색할 수 있는 내장 UI가 있습니다:

|

agentgateway의 개발을 지원해 주신 후원자분들께 감사드립니다!

agentgateway 프로젝트에 기여하는 방법에 대한 안내는 CONTRIBUTION.md 파일을 참조하세요.

커뮤니티 미팅에 참여하려면 agentgateway 캘린더를 귀하의 Google 계정에 추가하세요. 그러면 캘린더에서 이벤트 상세 정보를 확인할 수 있습니다.

커뮤니티 미팅 녹화본은 저희 Google Drive에 게시될 예정입니다.

agentgateway는 현재 활발히 개발 중입니다. 누락된 기능이 있다면 저희 GitHub 리포지토리(repo)에 이슈(issue)를 생성해 주세요.

agentgateway를 더 나은 방향으로 발전시키기 위해 도움을 주시는 모든 기여자(contributor)분들께 감사드립니다.