당신의 AI 에이전트가 도구(tool)를 호출했습니다. 규칙을 준수했는지 증명할 수 있습니까?
요약
AI 에이전트의 도구 호출 시 정책 준수 여부를 증명하기 위한 AEP(Action Evidence Protocol)를 소개합니다. 기존 로그의 한계를 넘어 전/후 상태 다이제스트와 위임 체인을 포함한 구조화된 증거를 제공합니다.
핵심 포인트
- 기존 로그는 정책 적용 시점과 상태 변화를 증명하기 어려움
- AEP는 Zod로 검증된 구조화된 ActionEvidence 객체를 사용
- OpenTelemetry 스팬을 통해 실시간 관찰 가능성 지원
- 멀티 에이전트 환경을 위한 위임 체인 추적 기능 포함
당신의 AI 에이전트가 도구(tool)를 호출했습니다. 규칙을 준수했는지 증명할 수 있습니까?
당신의 에이전트가 방금 파일을 작성했습니다. 당신에게는 로그(logs)가 있습니다. 하지만 다음 질문에 답할 수 있습니까:
정책 게이트(policy gate)가 도구가 실행되기 _전_에 적용되었습니까, 아니면 실행된 _후_에 적용되었습니까?
로그는 그것을 알려줄 수 없습니다. 우리가 이를 어떻게 해결했는지 소개합니다.
현재 에이전트 프레임워크의 공백
대부분의 프레임워크는 다음과 같은 로그 라인을 제공합니다:
[2026-07-07T09:00:01Z] tool:fs_write path=/tmp/report.txt status=ok
이것은 도구가 실행되었음을 알려줍니다. 하지만 다음 사항은 알려주지 않습니다:
- 정책(policy)이 호출을 먼저 평가했는지 여부
- 쓰기 작업 전의 상태(pre-state)가 어떠했는지
- 에이전트가 토큰(token) 및 리스크 예산(risk budget) 범위 내에 있었는지
- 위임 체인(delegation chain) 중 어떤 에이전트가 이를 승인했는지
취미 프로젝트라면 괜찮습니다. 하지만 실제 데이터에 접근하는 작업이라면 그렇지 않습니다.
AEP: 로그 스트림이 아닌 구조화된 증거
WasmAgent의 @wasmagent/aep 패키지는 모든 도구 호출을 ActionEvidence 객체로 기록합니다. 이는 Zod로 검증되고, 스키마 버전(schema-versioned)이 지정되어 있으며, 전/후 상태 다이제스트(pre/post state digests)가 포함되어 있습니다.
import { AEPEmitter } from "@wasmagent/aep";
const emitter = new AEPEmitter({
...
capability_decision은 액션(action)과 동일한 레코드의 일부입니다. 순서가 바뀌거나 누락될 수 있는 별도의 로그 항목이 아닙니다.
그 외 모든 것을 위한 OTel 스팬(spans)
실시간 관찰 가능성(observability)을 위해, AEP는 명명된 OpenTelemetry 스팬(spans)도 방출합니다:
import { AEP_SPAN_NAMES } from "@wasmagent/otel-exporter";
// 모든 OTel 수집기(collector)에 연결:
...
스팬(spans)은 Grafana/Jaeger 등으로 전송됩니다. AEPRecord는 감사(audit) 및 학습 데이터로 유지하는 용도입니다.
멀티 에이전트: 위임 체인
단일 에이전트 설정에서는 이것이 유용합니다. 멀티 에이전트 설정(오케스트레이터가 하위 에이전트에게 위임하는 경우)에서는 필수적입니다:
run_context: {
agent_id: "orchestrator",
subagent_id: "coder-agent",
...
시도해 보기
git clone https://github.com/WasmAgent/wasmagent-js
bun test packages/aep/src/
이 시리즈의 다음 내용: MCP Trust Pack — 도구가 실행되기 전에 정책을 강제하는 게이트웨이 계층.
이 시리즈의 다음 내용: MCP Trust Pack — 도구가 실행되기 전에 정책을 강제하는 게이트웨이 계층.
Code: packages/aep · packages/otel-exporter
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기