자율형 AI 에이전트(Autonomous AI agents)는 악의적이기 때문이 아니라, 신뢰할 수 있는 권한, 자율성, 그리고 속도를 가지고 작동하기 때문에 새로운 종류의 내부 위협(insider threat)으로 부상하고 있습니다. 정체성(identity)과 액세스(access)에 집중했던 전통적인 보안 모델은 더 이상 충분하지 않습니다. 실제 위험은 시스템이 무엇에 접근할 수 있는지뿐만 아니라, 권한을 부여받은 시스템이 어떻게 행동하는지에 달려 있습니다. 보안을 유지하기 위해 조직은 액세스 제어(access control)에서 의도(intent) 및 행동 기반의 거버넌스(governance)로 전환해야 하며, AI의 행동을 지속적으로 모니터링하고, 제약하며, 비즈니스 목표에 맞게 정렬(aligning)해야 합니다.

전체 읽기