Gartner는 미국에 본사를 둔 세계 최대 규모의 IT 리서치 및 어드바이저리(Advisory) 기업으로, 기업의 IT 투자 판단과 기술 채택 로드맵에 가장 강력한 영향력을 가진 존재다.

최근 Gartner는 "2028년까지, AI 에이전트를 도입한 기업의 40%는 거버넌스(Governance)와 리스크 관리의 결여로 인해 운영을 중단하거나 축소할 수밖에 없게 될 것이다."라는 놀라운 발표를 했다.

이에 Gartner의 의도가 어디에 있는지 고찰하고, 대책에 대해서도 생각해 보고자 한다.

AI 에이전트가 중단·축소로 내몰리는 이유

이 예측의 배경에는 기업이 직면한 5가지 구조적 리스크가 있다.

1. 권한 관리의 미비 및 에이전트의 과잉 행동 문제

AI 에이전트는 이메일 전송, 파일 조작, 시스템 업데이트 등 기존에 인간이 수행하던 업무를 자율적으로 실행한다.

하지만 많은 기업에서는 권한의 입도(Granularity), 범위, 감사 로그(Audit Log)가 정비되어 있지 않다.

그 결과,

의도하지 않은 데이터 액세스

부적절한 파일 삭제

잘못된 의사결정의 자동 실행

과 같은 사고가 발생하여 운영 중단으로 내몰리게 된다.

2. 스킬 과잉 부여: 만능화시켜 제어 불능 상태로 만듦

최신 연구에 따르면, "에이전트에게 스킬을 너무 많이 부여하면 오히려 성공률이 떨어진다"는 점이 시사되었다.

즉, 스킬이 많을수록

어떤 스킬을 사용해야 할지에 대한 판단이 어려워짐

의도하지 않은 행동 경로가 증가함

테스트 범위가 폭발적으로 확대됨

결과적으로 기업은 "안전하게 구동할 수 없다"는 이유로 축소를 강요받게 된다.

3. 데이터 거버넌스(Data Governance)의 결여: 내부 정보의 "자동 유출" 리스크

에이전트는 사내 데이터를 횡단적으로 다루기 때문에, 액세스 제어, 분류, 보유 규칙이 미비하면 중대한 정보 유출로 이어진다.

특히 문제가 되는 것은,

개인정보의 자동 처리

사외 전송의 자율 실행

기밀 문서의 잘못된 공유

등, 기존의 DLP(Data Loss Prevention)에서는 상정하지 않았던 자율 행동형 리스크이다.

4. 설명 책임(Accountability)의 결여: 사고 발생 시 "누가 책임을 지는가" 문제

AI 에이전트는 인간의 지시 없이 행동하기 때문에, 사고 발생 시 책임의 소재가 모호해지기 쉽다.

에이전트의 판단인가

모델의 편향(Bias)인가

스킬 설계의 문제인가

데이터의 오류인가

이러한 모호함이 법무·감사 부문의 강력한 반대를 불러일으키며, 결과적으로 운영 중단으로 이어진다.

5. 평가·감사 메커니즘 부족: 동작 보증 불가

에이전트는 복잡한 태스크를 실행하기 때문에, 기존의 "단위 테스트(Unit Test)"

나아가 Copilot은 자율 에이전트(Autonomous Agent)가 아니라 **제어된 어시스턴트 (Controlled Assistant)**로 설계되어 있어, 독단적으로 행동하지 않으며 모든 작업이 사용자 주도로 기록된다.

이러한 구조는 에이전트 도입 시 가장 큰 문제가 되는 "권한 과잉", "책임 소재의 결여", "데이터 액세스의 폭주"를 근본적으로 억제한다.

2028년을 향해 기업들이 단계적으로 에이전트로 전환할 때, M365 Copilot은 안전한 진입점으로서 기능할 것이다.

요약

Gartner의 40% 중단·축소 예측은 단순한 비관론이 아니라, 기업이 에이전트 도입 과정에서 직면하게 될 현실적인 리스크를 지적하는 것이다.

그리고 이 예측은 Agent 365, Entra ID, Foundry, MAI 모델과 같은 Microsoft의 최신 아키텍처가 왜 지금 필요한지를 뒷받침하는 강력한 근거가 된다.

Discussion