Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
KYA는 자율 에이전트 시스템의 신뢰성과 거버넌스를 보장하기 위한 오픈 소스 프레임워크입니다. 서명 검증, 계층적 정책 구성, 신뢰 점수 통합 등 5가지 프리미티브를 통해 에이전트의 오작동이나 통제 이탈을 탐지하고 방지합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv Codex (cs.SE)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기관측성 (Observability)이 운영자에게 에이전트가 느려졌을 때를 알려준다면, KYA는 에이전트가 틀렸거나, 표류(drifting)하거나, 유출(leaking)되거나, 혹은 조용히 통제를 벗어날(rogue) 때를 운영자에게 알려줍니다. 우리는 다섯 가지 프리미티브 (primitives)로 구성된 자율 시스템을 위한 오픈 소스 신뢰 및 거버넌스 계층인 KYA (Know Your Agents)를 제시합니다: (1) Ed25519 서명 검증을 멀티 앵커 피닝 (multi-anchor pinning), 지속 시간 만료 (persist-time expiry), 오직 강화만 허용하는 구성 (only-tighten composition), 그리고 기본값으로서의 운영자 승인 (operator-approval-as-default)과 결합한 4단계 게이트 인바운드 적용 파이프라인 (four-gate inbound apply pipeline); (2) 3채널 멀티 테넌트 계층 (플랫폼 기본값, 테넌트 재정의, 서명된 외부 권장 사항)에 대한 오직 강화만 허용하는 구성 대수 (only-tighten composition algebra); (3) 인간 사용자, AI 에이전트, 서비스 계정에 걸친 신뢰 점수의 스키마 수준 통합인 KYP (Know Your Principal); (4) 안정적인 감사 코드 (audit codes)를 지닌 유계 비대칭 상호작용당 승수 (bounded asymmetric per-interaction multipliers)를 포함하여, AIVSS 형태의 가산 베이스라인 (additive baseline) 상에서 수행되는 감사 가능한 상호작용 승수 증폭 (auditable interaction-multiplier amplification); (5) 세 가지 SDK 훅 (hook) 표면에서 정적 관찰 게이트 기반의 위임 신뢰 프리미엄 (delegation-trust premium)과 제로 설정 런타임 오케스트레이터 책임 (zero-config runtime orchestrator-blame)을 결합한 2축 위임 귀속 (two-axis delegation attribution). KYA는 22개의 에이전트 프레임워크에 대해 프레임워크 불가지론적 (framework-agnostic)입니다. 순수 함수 스코어러 (pure-function scorer)는 p99 기준 1밀리초 미만으로 실행되며, 시스템은 HMAC 체인 무결성을 엔드투엔드로 유지하면서 20개의 동시 워커에서 초당 약 1,800개의 작업 (ops/sec)을 유지합니다. 4단계 게이트 인바운드 적용 파이프라인은 SQLite에서 sub-millisecond p99 지연 시간으로 모든 시도(1,200 / 1,200)에서 위조되거나, 만료되었거나, 완화되었거나, 승인되지 않은 권장 사항을 거부합니다. KYA는 최근 발표된 토폴로지 가이드 멀티 에이전트 공격 (topology-guided multi-agent attack)을 포함하여 PyRIT 및 Garak에서 발생한 1,200개의 적대적 프로브 (adversarial probes) 중 89%를 탐지합니다. 이 시스템은 PyPI에서 veldt-kya 패키지로 Apache 2.0 라이선스 하에 사용할 수 있습니다 (제출 시점 기준 출시 후보 버전; 안정적인 v0.1.0 곧 출시 예정).