제로 트러스트 에이전틱 AI 의 하이브리드 검사 및 작업 기반 접근 제어

요약

본 논문은 LLM 기반 에이전트가 동적으로 도구 호출 및 보호된 자원에 접근할 때 발생하는 보안 위험을 해결하기 위한 새로운 프레임워크를 제안합니다. 기존의 승인 흐름으로는 복잡한 다중 턴 대화 환경에서의 권한 오용을 막기 어렵습니다. 이를 위해 결정론적 제어와 의미 기반 검사를 결합한 하이브리드 런타임 강제 모델과, 다단계 작업 추출 및 도구 매칭 과정을 포함하는 향상된 작업 기반 접근 제어(TBAC) 기법을 제시합니다.

핵심 포인트

• LLM 에이전트의 동적 도구 호출은 복잡한 보안 위험을 초래하며, 기존 승인 메커니즘으로는 충분하지 않습니다.
• 제안된 하이브리드 런타임 강제 모델은 결정론적 제어(메시지 무결성)와 의미 기반 검사(사용자 의도 일치 여부)를 결합하여 보안을 강화합니다.
• 작업 기반 접근 제어(TBAC)는 다중 턴 대화에 맞게 확장되어, 사용자 목표 추출 단계와 요청 도구 적절성 평가 단계를 분리했습니다.
• 새로운 데이터셋과 실험 결과를 통해 복잡한 다중 턴 대화 환경에서의 TBAC 적용 가능성을 입증합니다.