본문으로 건너뛰기

© 2026 Molayo

arXiv논문2026. 06. 09. 12:49

에이전트형 AI 시스템의 위임된 실행을 위한 관측 가능성 (Observability)

요약

에이전트형 AI 시스템에서 위임된 실행 과정을 정확히 추적하기 위한 관측 가능성 문제를 다룹니다. 기존의 감사 로그와 트레이스만으로는 복잡한 에이전트의 동적 실행을 재구성하기 어렵다는 점을 지적하며, 이를 해결하기 위한 새로운 관측 기질을 제안합니다.

핵심 포인트

  • 에이전트의 동적 도구 선택으로 인한 트레이스 파편화 문제 해결
  • 기존 보안 스키마의 의미론적 한계 및 재구성 불가능성 지적
  • 위임 컨텍스트를 결합한 경량 게이트웨이 및 공통 정보 모델 제안
  • 시간 창 상관관계 없이 신뢰할 수 있는 포렌식 쿼리 가능

위임 범위 내 실행 (Delegation-scoped execution)은 표준 관측 지표(observables)만으로는 식별할 수 없습니다. 감사 로그 (audit logs)와 실행 트레이스 (execution traces)는 서로 호환되지 않는 여러 위임 할당 하에서도 동일할 수 있기 때문입니다. 이러한 격차는 LLM 기반의 에이전트형 시스템 (agentic systems)에서 특히 심각하게 나타나는데, 여기서 에이전트는 도구를 동적으로 선택하고, 동일한 지침에 대해서도 실행 시퀀스를 다르게 가져가며, 협력하는 하위 에이전트 (sub-agents)를 생성합니다. 이러한 역동성은 트레이스를 파편화하고 서로 얽히게 만들어, 인과 구조 (causal structure)만으로는 위임 범위 내의 재구성을 구조적으로 결정 불가능하게 (underdetermined) 만듭니다. 개별 작업은 승인되고 기록되지만, 기존의 감사, 트레이싱 및 보안 스키마는 이기종 시스템 전반에서 특정 위임 하에 어떤 작업이 발생했는지 재구성할 수 있는 의미론 (semantics)이 부족합니다. 본 연구는 의도 추론 (intent inference)이나 추론 재구성 (reasoning reconstruction)이 아닌, 위임 범위 내의 귀속 (attribution) 및 액세스/공유 발자국 (access/share footprint) 재구성에 초점을 맞춥니다. 우리는 실행 시점에 위임 컨텍스트 (delegation context)를 결합하는 경량 게이트웨이와 공통 정보 모델로 구성된 에이전트 인식 관측 기질 (agent-aware observability substrate)을 제시합니다. 이를 통해 휴리스틱한 시간 창 상관관계 (heuristic time-window correlation) 없이도 신뢰할 수 있는 교차 도구 위임 범위 내 재구성과 직접적인 포렌식 쿼리 (forensic queries)가 가능해집니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0