Byzantine Adversaries 하에서의 Agentic AI 분산 거버넌스를 위한 공격 및 완화 방안

요약

본 연구는 Agentic AI 거버넌스 인프라의 핵심 구성 요소인 Provider가 악의적인 내부자 공격에 취약하다는 문제를 다룹니다. 이를 해결하기 위해, 에이전트의 귀속성 저해, 개인 데이터 추출 등 파괴적인 효과를 지닌 여러 공격 시나리오를 분석하고 식별했습니다. 궁극적으로, 연구진은 완전한 Byzantine 내결함성을 제공하는 SAGA-BFT부터, 성능과 보안 간의 균형을 맞춘 하이브리드 아키텍처인 SAGA-HYB까지 세 가지 유형의 보호 솔루션을 제안하며 각 아키텍처를 비교 분석합니다.

핵심 포인트

• Agentic AI 거버넌스는 에이전트가 정책을 준수하도록 보장하는 핵심 인프라이다.
• 기존 시스템(SAGA)은 악의적인 Provider에 의한 내부자 위협에 취약하다는 문제가 있다.
• 연구진은 공격 분석을 통해 귀속성 저해, 데이터 추출 등 구체적인 위협 시나리오를 식별했다.
• 보안 강도와 성능 오버헤드를 고려하여 SAGA-BFT (완전한 Byzantine 내결함성), SAGA-MON (경량 모니터링), SAGA-AUD (클라이언트 감사) 세 가지 솔루션을 제안했다.
• 최적의 보호를 위해 보안과 성능을 결합한 하이브리드 아키텍처인 SAGA-HYB가 제시되었다.