왜 AI 에이전트의 60%만이 성공하는가

AI 에이전트는 한때 모든 데모의 주인공이었습니다.

이제는 종료 목록에 올라와 있습니다. 모델이 나빠졌기 때문이 아닙니다.

여러분의 AI 프로그램에서 가장 가치 있는 자산은 여러분이 서명한 그 어떤 계약서에도 들어있지 않습니다.

데모는 쇼룸(Showroom)입니다. 조명도 좋고, 모든 것이 다듬어져 있으며, 모든 것이 완벽하게 작동합니다.

프로덕션(Production)은 엔진룸(Engine room)입니다. 그곳에서도 잘 작동합니다. 새벽 2시까지는 말이죠. 그러다 속도 제한(Rate limit)에 걸려 누군가 손전등을 들고 로그(Logs) 속을 기어 들어가 가설을 세우고, 쇼룸에서는 결코 계획하지 않았던 엣지 케이스(Edge case)를 잡아낼 때까지는 말입니다.

그 해결책이 바로 가치입니다. 그리고 그것은 돈으로 살 수 없습니다.

Gartner는 다음과 같이 말합니다: 2027년까지 기업의 40%가 자율형 AI 에이전트(Autonomous AI agents)를 다시 꺼버릴 것입니다. 프로덕션에서 첫 번째 폭발 사고가 발생한 후에야 드러나는 격차 때문입니다. 97%의 기업이 에이전트를 배포(Roll out)했지만, 실제로 운영(Run)하는 곳은 11%뿐입니다.

이 숫자들 사이의 격차는 모델의 문제가 아닙니다.

그것은 엔진룸의 문제입니다. 이번 주에 실행해 볼 수 있는 세 가지 점검 사항입니다.

쇼룸이 아닌 엔진룸에 투자하십시오

데모에서 에이전트는 완성된 상태입니다. 프로덕션에서 에이전트는 15%만 완성된 상태입니다.

나머지 85%는 부하(Load) 상황에서의 고된 작업입니다. 특정 API 버전에서 발생하는 잘못된 형식의 데이터(Malformed data), 통제 불능 상태로 날뛰지 않는 재시도 로직(Retry logic), 비즈니스 케이스를 망가뜨리는 비용 문제 등이 그것입니다.

IBM은 이를 수치화했습니다: 시스템 강화(Hardening) 비용을 미리 책정하면, ROI(투자 대비 수익)가 29% 더 높게 나타납니다.

쇼룸에 대해서만 비용을 지불한다면, 여러분은 15%를 사고 나머지 85%에 대해서는 비용을 두 번 지불하게 됩니다.

최고의 지식은 두 명의 머릿속에 살고 있습니다

운영 지식(Operational knowledge)은 여러분의 기억입니다. 오늘날 그 지식은 지난 사고를 패치(Patch)했던 두 명의 사람에게 머물러 있습니다.

이것은 집중 리스크(Concentration risk)입니다. 그들 중 한 명이 떠나면, 자산도 함께 떠납니다.

이것이 부채가 쌓이는 방식입니다. 해결되지 않은 AI 생성 기술 부채(Technical debt)는 2026년 초까지 실제 리포지토리(Repositories)에서 100,000개의 미결 이슈(Open issues)를 넘어섰습니다. 해결책이 런북(Runbook)에 기록되지 않았기 때문입니다.

그러니 기록하십시오. 모든 엣지 케이스(Edge case), 모든 "X일 때는 제외"라는 규칙, 모든 새벽 3시의 버그는 채팅 로그가 아니라 리포지토리(Repo)에 있어야 합니다.

그렇지 않으면 여러분은 똑같은 수업료를 두 번 내게 될 것입니다.

50번째 항목을 넘어서면, 자산은 부채로 변합니다

에이전트 라이브러리 (Agent library)가 늘어가는 것은 진전처럼 느껴집니다. 하지만 그렇지 않은 순간이 옵니다.

모든 호출 시 메타데이터 (Metadata)가 컨텍스트 (Context)에 포함되어 전달됩니다. 이로 인해 히트율 (Hit rate)이 떨어집니다. 항목이 약 50개를 넘어가면, 새로 추가된 에이전트가 기존의 49개 에이전트를 덜 신뢰할 수 있게 만듭니다.

Gartner는 다음과 같이 덧붙입니다: 모든 에이전트에 동일한 거버넌스 (Governance)를 강제로 적용하면, 여러분 스스로 장애 (Outage)를 일으키게 될 것입니다.

라이브러리를 잡동사니 서랍이 아닌 포트폴리오 (Portfolio)처럼 운영하십시오. 유지보수 비용이 추가로 얻는 이익보다 커지는 지점을 측정하십시오. 이를 생략한다면, 여러분은 불필요한 무게추 (Ballast)에 자금을 대면서 그것을 전략이라고 부르게 될 것입니다.

엔진룸 오픈. 불을 켭니다.

저는 실제 구축 사례인 AI 통합 (AI integration), 크론 기반 자동화 (Cron-driven automation), 그리고 프로덕션 (Production) 환경에서 고장 나는 부분들에 대한 현장 노트를 작성합니다. 2주마다 새로운 게시물이 올라옵니다. 이 글이 유용했다면, 에이전트 플레이북 (The agent playbook)이 함께 다운로드할 수 있는 동반 자료입니다.