서론

지난 기사에서는 Agent Governance Toolkit (AGT)의 Policy 기능을 사용한 도구 호출 제어에 대해 해설했습니다. 이번에는 AGT의 또 다른 중요한 기능인 **Agent Trust (에이전트 신뢰성 관리)**에 대해 구현 사례와 함께 해설합니다.

AI 에이전트가 자율적으로 도구를 실행하는 환경에서는 "이 에이전트는 신뢰할 수 있는가?"라는 판단이 중요해집니다. Agent Trust는 에이전트에 고유 식별자 (DID)를 부여하고, 신뢰 점수 (Trust Score)를 기반으로 액세스 제어를 수행하는 메커니즘을 제공합니다.

Agent Trust란

Agent Trust는 다음과 같은 기능을 제공합니다:

Agent Identity (에이전트 식별): 에이전트에 DID (Decentralized Identifier)를 부여하여 고유하게 식별 -
Trust Score (신뢰 점수): 에이전트의 행동 이력에 기반하여 0-1000 사이의 점수를 관리 -
Ring-based Access Control: 신뢰 점수에 기반한 단계적인 액세스 제어

Trust Score와 Ring 레벨

샘플 프로젝트 구성

본 기사에서는 두 가지 샘플 프로젝트를 소개합니다:

샘플 코드는 다음 리포지토리에서 공개하고 있습니다:

샘플 1: Agent Identity의 기본 (AGTIdentityApp01)

프로젝트 구성

<Project Sdk="Microsoft.NET.Sdk">
<PropertyGroup>
<OutputType>Exe</OutputType>
...

Agent Identity 생성 및 Trust Score 취득

using AgentGovernance.Trust;
var agentIdentity = AgentIdentity.Create(
name: "DataProcessor",
...

실행 결과

did:mesh:xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx
AQAB...（Base64 인코딩된 공개키）
Active
...

해설

AgentIdentity.Create(): 에이전트의 식별 정보를 생성합니다 -
name: 에이전트 이름 -
sponsor: 책임자의 이메일 주소 -
capabilities: 에이전트가 가진 권한 리스트 -
organization: 소속 조직

FileTrustStore: 신뢰 점수를 JSON 파일로 영속화하는 스토어 - 기본 신뢰 점수는 500 (Ring 2 - Standard)부터 시작

샘플 2: MAF 통합 및 신뢰 점수 기반의 액세스 제어 (AGTIdentityWithMAFApp02)

보다 실전적인 샘플로서, Microsoft Agent Framework (MAF)와 AGT를 통합하여 신뢰 점수에 기반해 도구 실행을 제어하는 예를 소개합니다.

프로젝트 구성

<Project Sdk="Microsoft.NET.Sdk">
<PropertyGroup>
<OutputType>Exe</OutputType>
...

신뢰 점수 기반 정책 (trust-based.yaml)

version: "1.0"
name: trust-based-access-control
description: "Trust score based tool access control policy"
...

메인 프로그램 (Program.cs)

메인 프로그램 (Program.cs)

using AgentGovernance.Extensions.Microsoft.Agents;
using AgentGovernance.Trust;
using Azure.AI.OpenAI;
...

실행 결과

=== Creating Agent Identity ===
Agent DID: did:mesh:5298f8ef5a403a261654d3e944226946
Agent Status: Active
...

동작 흐름

구현 포인트

1. Agent Identity 생성

var agent = AgentIdentity.Create(
name: "WeatherAgent",
sponsor: "alice@company.com",
...

• sponsor: 에이전트의 책임자를 명확히 함으로써, 문제 발생 시 연락처를 특정 가능
• capabilities: 에이전트가 가져야 할 권한을 명시적으로 선언

2. Trust Store 영속화

var trustStore = new FileTrustStore("trust-scores.json", defaultScore: 500);

• 신뢰 점수(Trust score)는 JSON 파일로 영속화됨
• 애플리케이션 재시작 후에도 점수가 유지됨
• 운영 환경에서는 Redis나 Cosmos DB와 같은 분산 저장소(Distributed store)를 사용할 수도 있음

3. Governance Kernel과의 통합

.WithGovernance(
kernel,
new AgentFrameworkGovernanceOptions
...

• DefaultAgentId: 에이전트의 DID를 설정
• EnableFunctionMiddleware: 도구 호출(Tool call) 전에 정책 체크를 실행
• BlockedToolResultFactory: 차단 시 커스텀 응답을 정의

실운영 활용 시나리오

시나리오 1: 단계적인 권한 승격

// 신규 에이전트는 Ring 3부터 시작
var newAgent = AgentIdentity.Create(...);
trustStore.SetScore(newAgent.Did, 300); // Ring 3
...

시나리오 2: 이상 탐지 시 즉각적인 권한 강등

// 이상한 액세스 패턴을 탐지
if (DetectAnomalousAccess(agent.Did))
{
...

시나리오 3: Ring 레벨에 기반한 도구 액세스 제어

rules:
- name: ring0-full-access
condition: "trust_score >= 900"
...

요약

Agent Governance Toolkit의 Agent Trust 기능을 사용함으로써:

• 에이전트의 고유 식별: DID를 통해 에이전트를 추적 가능
• 동적인 신뢰 관리: 행동에 기반하여 신뢰 점수를 조정
• 단계적인 액세스 제어: Ring 레벨에 기반한 유연한 권한 관리
• MAF와의 통합: Microsoft Agent Framework와 원활하게 연동

AI 에이전트가 자율적으로 동작하는 환경에서는 "신뢰할 수 있는 에이전트에게만 중요한 작업을 허용한다"는 사고방식이 중요합니다. Agent Trust를 활용함으로써 안전하고 유연한 에이전트 거버넌스 (Agent Governance)를 실현할 수 있습니다.