microsoft/agent-governance-toolkit

**
📖 Docs ·
🚀 Quick Start ·
📋 Specifications ·
📦 PyPI ·
📝 Changelog
**

중요

Public Preview -- 프로덕션 품질의 Microsoft 서명 릴리스입니다. GA(General Availability) 전까지 중대한 변경 사항(breaking changes)이 발생할 수 있습니다.

AI 에이전트(AI agents)를 위한 런타임 거버넌스(Runtime governance)입니다. 모든 도구 호출(tool call), 리소스 접근, 에이전트 간 메시지는 실행 전에 정책(policy)에 따라 평가됩니다. 이는 결정론적(deterministic)이며, 1밀리초 미만의 속도로 수행되고, 감사(auditable)가 가능합니다.

에이전트 동작 (Agent Action) ──► 정책 확인 (Policy Check) ──► 허용 / 거부 (Allow / Deny) ──► 감사 로그 (Audit Log) (< 0.1 ms)

프롬프트 기반 안전성("규칙을 준수해 주세요")은 레드팀(red-team) 테스트에서 26.67%의 정책 위반율을 보였습니다. AGT의 애플리케이션 계층 강제 적용(application-layer enforcement) 결과는 **0.00%**입니다.

Python · TypeScript · .NET · Rust · Go를 지원합니다. LangChain, CrewAI, AutoGen, OpenAI Agents, Google ADK, Semantic Kernel, AWS Bedrock 및 20개 이상의 도구와 함께 작동합니다.

Python:pip install agent-governance-toolkit[full]

Python 3.10+ 필요
Node.js: TypeScript SDK의 경우 Node.js 18+ 및 npm 9+ 필요
.NET: .NET SDK를 위해 .NET 8+ 필요
Go: Go SDK를 위해 Go 1.21+ 필요
Rust: Rust SDK를 위해 Rust 1.70+ 필요

Azure 자격 증명 (Azure credentials): Azure 통합 기능을 위해 AZURE_CLIENT_ID, AZURE_TENANT_ID, AZURE_CLIENT_SECRET을 설정하세요.
MCP SDK: Model Context Protocol 통합을 위해 필요

pip install agent-governance-toolkit[full]

from agent_os.policies import (
PolicyEvaluator, PolicyDocument, PolicyRule,
PolicyCondition, PolicyAction, PolicyOperator, PolicyDefaults
...

TypeScript / .NET / Rust / Go 예제

TypeScript

import { PolicyEngine } from "@microsoft/agent-governance-sdk";
const engine = new PolicyEngine([
{ action: "web_search", effect: "allow" },
...

.NET

using AgentGovernance;
using AgentGovernance.Extensions.ModelContextProtocol;
using AgentGovernance.Policy;
...

Rust

use agent_governance::{AgentMeshClient, ClientOptions};
let client = AgentMeshClient::new("my-agent").unwrap();
let result = client.execute_with_governance("data.read", None);
...

Go

import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"
client, _ := agentmesh.NewClient("my-agent",
agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
...

CLI 도구:

agt doctor # 설치 확인
agt verify # OWASP 준수 여부 확인
agt verify --evidence ./agt-evidence.json --strict # 증거가 불충분할 경우 CI 실패 처리
...

전체 가이드: quickstart.md -- YAML, OPA/Rego, Cedar 정책을 사용하여 10분 만에 거버넌스가 적용된 에이전트 구축하기. 🌍 다른 언어 버전: 日本語 | 简体中文 | 한국어

모든 에이전트 동작에 대한 결정론적(Deterministic) 허용/거부(allow/deny) 평가. 밀리초 미만의 지연 시간(단일 규칙 p50 기준 0.012ms, 초당 35,000건의 동시 작업 처리). YAML, OPA/Rego 및 Cedar 정책 언어 지원. 기본적으로 실패 시 차단(Fail-closed) 방식 적용 -- 엔진에 오류가 발생하면 동작은 거부됩니다.

Agent OS · 벤치마크(Benchmarks) · 사양(Spec)

Ed25519 + 양자 내성(quantum-safe) ML-DSA-65 에이전트 자격 증명. 에이전트가 예상 패턴을 벗어나 행동할 때 감소하는 행동 신뢰 점수(Behavioral trust scoring, 0--1000). SPIFFE/SVID 호환. 신뢰 상한선(Trust ceilings)은 위임 체인(delegation chains)을 통해 전파됩니다 -- 위임된 에이전트는 부모의 신뢰 수준을 결코 초과할 수 없습니다.

하드웨어 스타일의 격리(isolation) 의미론을 가진 4단계 권한 링(privilege rings: kernel, supervisor, user, untrusted). 실패 시 자동 보상(compensation) 기능이 포함된 다단계 워크플로우용 Saga 오케스트레이션(Saga orchestration). 즉각적인 에이전트 종료를 위한 킬 스위치(Kill switch).

Runtime · 하이퍼바이저(Hypervisor) · 사양(Spec)

에이전트 플릿(fleets)을 위한 SLO, 에러 예산(error budgets), 리플레이 디버깅(replay debugging), 카오스 엔지니어링(chaos engineering) 및 서킷 브레이커(circuit breakers).

구조화된 거버넌스 이벤트가 포함된 OTel 네이티브 관찰성(observability).

변조 탐지(Tamper-evident)가 가능한 Merkle-chained 감사 로그. 관찰성 신호로부터 재구성 가능한 결정 BOM(Decision BOMs). EU AI Act, SOC 2, HIPAA 및 GDPR에 대한 자동화된 컴플라이언스 매핑. SIEM 통합을 위한 CloudEvents 내보내기.

MCP 도구 정의에 대한 도구 오염(Tool poisoning) 탐지, 설명 드리프트(description drift) 모니터링, 타이포스쿼팅(typosquatting) 확인 및 숨겨진 명령(hidden instruction) 스캔.

기능 (Capability)	설명 (Description)
에이전트 간 신뢰 (Inter-Agent Trust)	메시 네트워크 전반의 신뢰 협상, 피어 서명 검증 (peer signature verification), 조정된 정책 집행 (Spec)
RL 학습 거버넌스 (RL Training Governance)	보상 신호 내 위반 페널티 부여, 심각한 위반 시 에피소드 종료 (Spec)
프레임워크 어댑터 (Framework Adapters)	통합 거버넌스 인터셉터 체인을 갖춘 10개의 어댑터 (Spec)
Shadow AI 탐지 (Shadow AI Discovery)	프로세스, 설정 및 리포지토리 전반에서 등록되지 않은 에이전트 탐지 (Discovery)
에이전트 생명주기 (Agent Lifecycle)	프로비저닝 (Provisioning), 자격 증명 순환 (credential rotation), 고아 에이전트 탐지 (orphan detection), 폐기 (decommissioning) (Lifecycle)
거버넌스 대시보드 (Governance Dashboard)	상태, 신뢰 및 준수 사항에 대한 실시간 플릿 가시성 제공 (Dashboard)
PromptDefense 평가기 (PromptDefense Evaluator)	12개 벡터 프롬프트 인젝션 (prompt injection) 감사 (Evaluator)
기여자 평판 (Contributor Reputation)	사회 공학 (social engineering) 방지를 위한 PR/이슈 작성자 스크리닝. 재사용 가능한 GitHub Action (Action)

모든 주요 구성 요소는 준수 테스트 (conformance tests)를 포함하는 공식 RFC 2119 사양 (specification)을 갖추고 있습니다. 이 사양들은 구현체가 반드시 해야 하는 것(MUST), 해야 하는 것이 권장되는 것(SHOULD), 그리고 해도 되는 것(MAY)을 정의하는 행동 계약 (behavioral contract)을 규정합니다.

사양 (Specification)	범위 (Scope)	테스트 (Tests)
에이전트 OS 정책 엔진 (Agent OS Policy Engine)	정책 평가, 규칙 병합, 페일 클로즈드 (fail-closed) 의미론	68
...
**992개의 준수 테스트 (conformance tests)**를 통해 코드가 사양에 일치하도록 유지합니다. 25개의 아키텍처 결정 기록 (Architecture Decision Records)은 그 이유를 문서화합니다.

프레임워크 (Framework)	통합 (Integration)
Microsoft Agent Framework	네이티브 미들웨어 (Native Middleware)
Semantic Kernel	네이티브 (.NET + Python)
AutoGen	어댑터 (Adapter)
LangGraph / LangChain	어댑터 (Adapter)
CrewAI	어댑터 (Adapter)
...
전체 목록: Framework Integrations · Quickstart Examples

AGT는 OWASP Agentic Security Top 10에서 식별된 10가지 위험을 모두 다룹니다:

위험 (Risk)	AGT 통제 (AGT Control)
ASI-01 에이전트 목표 하이재킹 (Agent Goal Hijacking)	정책 엔진이 승인되지 않은 목표 변경을 차단
...
규제 준수: EU AI Act · NIST AI RMF · SOC 2

언어	명령
Python	pip install agent-governance-toolkit[full]
TypeScript	npm install @microsoft/agent-governance-sdk
Copilot CLI	npx @microsoft/agent-governance-copilot-cli install
.NET	dotnet add package Microsoft.AgentGovernance
Rust	cargo add agent-governance
Go	go get github.com/microsoft/agent-governance-toolkit/agent-governance-golang

다섯 가지 언어 모두 핵심 거버넌스(Governance)(정책, 신원, 신뢰, 감사)를 구현합니다. Python은 전체 스택(Full stack)을 제공합니다. 언어별 지원 범위는 언어 패키지 매트릭스(Language Package Matrix)를 참조하세요.

개별 Python 패키지

패키지	PyPI	설명
Agent OS	agent-os-kernel	정책 엔진(Policy engine), 권한 모델(Capability model), 감사 로깅(Audit logging), MCP 게이트웨이
AgentMesh	agentmesh-platform	제로 트러스트(Zero-trust) 신원, 신뢰 점수(Trust scoring), A2A/MCP/IATP 브리지
Agent Runtime	agentmesh-runtime	권한 계층(Privilege rings), 사가 오케스트레이션(Saga orchestration), 종료 제어(Termination control)
Agent SRE	agent-sre	SLO(Service Level Objectives), 에러 예산(Error budgets), 카오스 엔지니어링(Chaos engineering), 서킷 브레이커(Circuit breakers)
Agent Compliance	agent-governance-toolkit	OWASP 검증, 무결성 검사(Integrity checks), 정책 린팅(Policy linting)
Agent Discovery	agent-discovery	Shadow AI 탐지, 인벤토리(Inventory), 리스크 점수(Risk scoring)
Agent Hypervisor	agent-hypervisor	실행 계획 검증(Execution plan validation), 가역성 검증(Reversibility verification)
Agent Marketplace	agentmesh-marketplace	플러그인 라이프사이클 관리(Plugin lifecycle management)
Agent Lightning	agentmesh-lightning	강화학습 (RL) 훈련 거버넌스

AGT는 OS 커널 수준이 아닌 Python 미들웨어 계층에서 거버넌스를 강제합니다. 정책 엔진과 에이전트는 동일한 프로세스 경계(Process boundary)를 공유합니다.

운영 환경 권장 사항: OS 수준의 격리를 위해 각 에이전트를 별도의 컨테이너(Container)에서 실행하세요. 'Architecture -- Security Boundaries'를 참조하세요.

도구	범위
CodeQL	Python + TypeScript SAST
...

정직한 설계 경계와 권장되는 계층적 방어(Layered defense)에 대해서는 'Known Limitations'를 참조하세요.

카테고리	링크
시작하기 (Getting Started)
빠른 시작 (Quick Start) · 튜토리얼 (Tutorials) (40+) · FAQ
아키텍처 (Architecture)
시스템 설계 (System Design) · 위협 모델 (Threat Model) · ADRs (25)
사양 (Specifications)
모든 사양 (All Specs) (10개의 공식 사양, 992개의 적합성 테스트)
API 레퍼런스 (API Reference)
Agent OS · AgentMesh · Agent SRE
컴플라이언스 (Compliance)
OWASP · EU AI Act · NIST AI RMF · SOC 2
배포 (Deployment)
Azure · AWS · GCP · Docker Compose
확장 (Extensions)
VS Code · 프레임워크 통합 (Framework Integrations)

기여 가이드 (Contributing Guide) · 커뮤니티 (Community) · 보안 정책 (Security Policy) · 변경 로그 (Changelog)

AGT를 사용 중이신가요? 귀하의 조직을 ADOPTERS.md에 추가하세요.

문서	목적
GOVERNANCE.md	의사 결정, 역할, 기여자 계층 (contributor ladder)
...

제3자 에이전트 프레임워크(agent frameworks) 또는 서비스와 함께 작동하는 애플리케이션을 구축하기 위해 Agent Governance Toolkit을 사용하는 경우, 그에 따른 위험은 사용자 본인에게 있습니다. 제3자 서비스와 공유되는 모든 데이터를 검토하고, 데이터 보관 및 위치에 관한 제3자의 관행을 인지할 것을 권장합니다.

이 프로젝트는 MIT License 라이선스 하에 배포됩니다.

이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표나 로고가 포함되어 있을 수 있습니다. Microsoft 상표 또는 로고의 허가된 사용은 Microsoft의 상표 및 브랜드 가이드라인(Trademark & Brand Guidelines)을 따르며 이를 준수해야 합니다. 이 프로젝트의 수정 버전에서 Microsoft 상표 또는 로고를 사용하는 것은 혼란을 야기하거나 Microsoft의 후원을 암시해서는 안 됩니다. 제3자의 상표 또는 로고의 모든 사용은 해당 제3자의 정책을 따릅니다.