AI 기반 자동화란 무엇인가?

AI 기반 자동화(AI-powered automation)는 사람이 비즈니스 문서를 읽는 방식 그대로 읽고, 그에 따라 조치하는 소프트웨어입니다. 어떤 레이아웃의 송장이라도 읽을 수 있고, 구매 주문서와 일치시키며, 회계 시스템에 기록하고, 이상해 보이는 항목은 플래그를 지정할 수 있습니다. Uber가 공급업체 송장을 이러한 종류의 시스템으로 옮겼을 때, 엔지니어링 팀 보고에 따르면 송장 처리 평균 시간이 70% 감소했습니다.

AI 자동화 시스템이란 무엇인가?

대부분의 기업은 이미 일부 업무를 자동화하고 있습니다. 회계 시스템이 송장이 승인되면 항목을 기록하고, 스프레드시트가 열의 합계를 계산해 줍니다. 이러한 구식 자동화는 고정된 규칙을 따릅니다. 이는 예상치 못한 형태의 것이 도착할 때까지 잘 작동합니다. 예를 들어, 공급업체가 스프레드시트 대신 송장의 휴대폰 사진을 보내는 경우와 같습니다.

AI는 사람의 개입이 필요했던 부분, 즉 '읽기' 부분을 변화시킵니다. 오늘날의 AI는 스캔된 송장, 배송 문서, 아랍어 구매 주문서 또는 고객 이메일을 보고 사람이 찾을 만한 세부 정보(공급업체, 금액, 날짜, 품목 코드)를 추출할 수 있습니다. 그런 다음 일반적이고 예측 가능한 소프트웨어가 사용자의 규칙을 사용하여 해당 세부 정보를 가지고 무엇을 할지 결정합니다.

이 두 가지를 결합하면 전체 프로세스를 실행할 수 있는 소프트웨어를 얻게 됩니다. 문서를 읽고, 확인하고, 시스템을 업데이트하며, 다음 항목으로 넘어갑니다. 무언가 맞지 않으면 멈추고, 의사결정이 필요한 그 케이스와 결정에 필요한 모든 것을 사람에게 전달합니다. Gartner는 2026년까지 엔터프라이즈 애플리케이션의 최대 40%가 작업별 AI 에이전트(task-specific AI agents)를 포함할 것이며, 이는 전년도의 5% 미만에서 증가할 것으로 예측합니다.

저희의 AI 및 머신러닝 개발 업무에서는 하나의 프로세스에 대해 이야기하기보다는 비즈니스 프로세스를 실행하는 에이전트를 구축합니다. 각 에이전트는 사람이 수동으로 하던 일을 수행하고, 여전히 사람이 결정해야 하는 지점에서 멈춥니다.

AI 기반 자동화 비교 방법

AI 자동화의 예시는 무엇인가요?

채택 속도가 빠르게 움직이고 있습니다. McKinsey가 발표한 2026년 AI 현황 조사(State of AI survey)에 따르면 응답자의 44%가 AI가 기업 전반에 걸쳐 확장되고 있다고 답했으며, 이는 1년 전의 38%에서 증가한 수치입니다. 그 이유를 가장 명확하게 알 수 있는 방법은 결과를 발표한 회사들을 살펴보는 것입니다.

Uber의 공급업체 송장은 25개 이상의 언어로 도착합니다. 기존의 규칙 기반 도구로는 이러한 다양성을 따라잡을 수 없었기 때문에, 엔지니어들은 AI로 각 송장을 읽고, Uber의 비즈니스 규칙을 적용하며, 최종 확인을 위해 사람에게 결과를 전달하는 시스템을 구축했습니다. Uber의 엔지니어링 팀에 따르면 이는 수동 프로세스 대비 25~30%의 비용 절감 효과를 가져왔습니다.

세계 최대 물류 중개업체 중 하나인 C.H. Robinson은 하루 종일 이메일을 통해 운송 주문과 가격 요청을 받습니다. 이 회사는 이메일로 받은 운송 주문이 처리되기까지 최대 4시간이 걸릴 수 있었다고 언급했으며, 현재 AI 에이전트가 이를 단 90초 만에 처리합니다. AI는 이메일을 읽고, 운송 세부 정보를 추출하며, 주문을 입력하고 견적과 함께 회신하는 동안 복잡한 케이스만 직원에게 전달됩니다. C.H. Robinson은 또한 생성형 AI(generative AI)가 지난 2년간 생산성 30% 증가에 핵심적인 역할을 했다고 말합니다.

초기 대규모 사례 중 하나는 금융 분야에서 나왔습니다. JPMorgan Chase는 연간 12,000개의 상업 신용 계약서 각각에서 150가지의 주요 세부 정보를 몇 초 만에 추출하는 계약 시스템을 설명했습니다. 이 작업은 최대 36만 시간의 수동 검토 시간을 절약해 주었습니다. 이 기술은 많이 발전했으며, 이제는 글로벌 은행보다 훨씬 작은 회사들도 이러한 작업을 수행할 수 있게 되었습니다.

70% Uber는 생성형 AI를 이용한 공급업체 송장 읽기가 평균 송장 처리 시간을 70% 단축했다고 보고합니다.

어떤 프로세스부터 시작하는 것이 가장 좋을까요?

가장 좋은 첫 프로젝트들은 몇 가지 공통점을 가지고 있습니다. 사람들은 문서를 읽고 그 내용을 다시 타이핑하거나 확인합니다. 업무는 분기별로 한 번이 아니라 매일 발생합니다. 그리고 사람이 판단을 내려야 하는 경우, 예를 들어 설정된 금액을 초과하는 모든 인보이스나 무게가 일치하지 않는 모든 선적 건처럼, 이를 평범한 말로 설명할 수 있어야 합니다.

선적 서류 작업은 좋은 예입니다. 모든 선적 건에 대해, 운영자는 상업 송장(commercial invoice), 포장 명세서(packing list), 선하 증권(bill of lading)에서 동일한 세부 정보를 작업 파일에 타이핑합니다. 저희 자동화 시스템은 하나의 패키지에 포함된 5~7개의 문서를 읽고 작업 기록을 채웁니다. 무게, 수취인 또는 HS 코드가 문서 간에 불일치할 경우, 어떤 것이 맞는지 추측하는 대신 사람에게 선적 건 처리를 맡깁니다. HS 코드는 각 제품을 분류하는 세관 번호입니다.

공급업체 구매 주문서(purchase orders)와 가격 목록도 또 다른 예입니다. 많은 무역 회사에서 한 코디네이터가 이들을 Excel에 다시 타이핑하고 눈으로 마진을 확인합니다. 저희 구매 주문 자동화 시스템은 라인을 시스템에 작성하며, 설정한 하한선(floor)보다 낮은 마진이 있는 라인에 대해서만 사람에게 멈춤 신호를 보냅니다. 그러면 코디네이터는 모든 라인이 아닌 예외 항목들만 검토하게 됩니다.

가장 높은 가치는 실수로 인해 실제 돈이 손해를 보는 곳, 예를 들어 중복 결제, 거부된 청구서(claim), 또는 세관에 억류되는 선적 건과 같은 곳에서 발생합니다. 시작하기 위해 상세한 계획이 필요하지 않습니다. 팀을 좌절시키고 그 빈도가 어느 정도인지 대략적으로 파악할 수 있는 프로세스만으로도 충분합니다.

AI가 정확하게 처리하도록 어떻게 보장하나요?

10개의 엄선된 문서로 작동하는 데모는 구축하기 쉽습니다. 하지만 회사의 장부와 관련된 업무를 재무팀이 신뢰하는 시스템은 매우 다른 작업이며, 저희 빌드 과정의 모든 단계는 특정 위험을 제거하는 것을 목표로 합니다.

이는 종이 위에서 시작됩니다. 발견(Discovery) 단계는 어떤 빌드가 시작되기 전에 승인받는 서면 범위(written scope)로 끝나며, 이 문서는 이후 모든 것의 기준점(yardstick)이 됩니다.

그다음에는 실제 업무에 대해 테스트합니다. 일반적으로 첫 2주 동안 문서를 수집하는 계획을 세웁니다. 모델을 선택하기 전에 고객님의 실제 문서 100개에서 300개를 테스트 세트로 수집합니다. 구축 과정 내내 이 테스트 세트를 기준으로 시스템을 측정하며, 작업물을 승인하기 전에 측정된 정확도 수치를 확인하실 수 있습니다. 따라서 정확도는 약속이 아니라 확인할 수 있는 숫자입니다.

테스트 세트는 출시 후에도 계속 사용됩니다. 프롬프트, 모델 또는 데이터가 변경될 때마다 재실행합니다. 이렇게 하면 업데이트가 시스템을 조용히 악화시키는 것을 막을 수 있습니다. 일반 AI 모델이 고객님의 문서에서 충분히 정확하지 않은 경우, 저희는 자체 자료로 파인튜닝(fine-tune)하고 동일한 사례를 기준으로 다시 측정합니다.

AI가 잘못된 정보를 꾸며내는 것을 어떻게 방지할까요?

자동화 시스템이 할 수 있는 최악의 일은 그럴듯해 보이지만 실제로는 틀린 내용을 기록하는 것입니다. 예를 들어 존재하지 않는 공급업체나 잘못된 라인에서 완전히 읽어낸 데이터 같은 경우입니다. 매일 수백 건의 기록을 검토하는 사람이 이런 오류를 잡아내기 어렵기 때문에, 저희 시스템은 저장되기 전에 이를 거부하도록 구축되었습니다.

모든 값은 세 가지 확인 절차를 통과해야 합니다. 첫째, AI는 정해진 양식에만 값을 채울 수 있으며, 고객님의 기록에 없는 공급업체, 품목 코드 또는 고객을 반환하는 경우 임의로 만들어내지 않고 거부합니다. 존재하지 않는 공급업체의 송장으로 데모를 통해 직접 테스트할 수 있습니다. 둘째, AI가 작성하는 모든 값은 해당 값이 나온 문서, 페이지 및 영역을 가리키므로 누구나 한 번의 클릭으로 확인할 수 있습니다.

셋째, 동일한 사실이 여러 문서에 나타나고 서로 불일치하는 경우, 기록은 사람에게 전달됩니다. 송장, 포장 명세서(packing list), 구매 주문서(purchase order)의 총액은 무언가 진행되기 전에 일치해야 합니다.

시스템이 확신하지 못하면 멈춥니다. 입력값이 시스템이 구축된 범위를 벗어나거나, 신뢰도가 고객님과 합의한 수준보다 낮은 경우, 추측하는 대신 사람에게 사례를 전달합니다. 사람의 승인이 필요한 결정 사항은 서면으로 합의되며, 시스템은 누가 무엇을 언제 승인했는지 기록합니다.

데이터 보안 및 시스템 운영은 어떻게 유지하나요?

AI 자동화는 귀사의 원장(ledger), 공급업체, 그리고 종종 고객의 개인 데이터를 다루기 때문에, 우리는 이를 돈과 기록을 처리하는 다른 모든 시스템처럼 취급합니다. 보안 요구 사항은 구축이 시작되기 전에 명세서에 작성되며, 우리는 웹 보안 위험에 대한 업계에서 가장 잘 알려진 지침인 OWASP를 기준으로 구축합니다.

데이터는 저장 시(at rest)와 전송 중(in transit) 모두 암호화되며, 접근 권한은 역할 기반(role based)이므로 각 사용자는 자신의 역할에 필요한 정보만 볼 수 있습니다. 시스템은 누가 무엇을 언제 했는지에 대한 전체 감사 로그(audit log)를 유지합니다. 침투 테스트(Penetration testing)는 출시 전에 시스템의 위험도와 일치하는 깊이로 수행됩니다. 침투 테스트에서 보안 전문가는 공격자가 시도할 방식으로 시스템에 침입하려고 합니다.

귀사의 데이터는 법률이나 정책상 필요한 위치에 머무를 수 있습니다. 개인 데이터는 아키텍처 단계부터 UAE 개인 데이터 보호법(UAE Personal Data Protection Law)을 준수하여 처리되며, 데이터가 국가나 자체 네트워크를 벗어날 수 없는 경우, 우리는 시스템을 UAE 또는 귀사의 서버에서 호스팅합니다.

또한 우리는 무언가가 실패하는 날을 대비합니다. 우리는 실패 후 시스템이 얼마나 빨리 복구되어야 하는지, 그리고 어느 정도의 최근 데이터를 손실할 여유가 있는지에 대해 사전에 합의합니다. 백업은 별도의 위치에 보관되며, 출시 전에 전체 복원(full restore) 테스트를 수행합니다. 시스템이 의존하는 AI 서비스가 사용 불가능할 경우에도 작업 대기열(work queues)은 안전하게 작동하며, 서비스가 복구될 때까지 팀은 수동으로 작업을 계속할 수 있습니다.

인계 시에는 소스 코드, 문서화 자료, 테스트 케이스 및 모든 자격 증명(credential)을 받게 됩니다. 잠금 효과(lock-in)는 없으므로 원한다면 나중에 다른 팀을 투입할 수 있습니다.

일부 AI 프로젝트가 실패하는 이유는 무엇이며, 어떻게 이를 방지하나요?

모든 AI 프로젝트가 성공하는 것은 아닙니다. Gartner에 따르면 에이전트형 AI(agentic AI) 프로젝트의 40% 이상이 비용 증가, 불분명한 비즈니스 가치, 취약한 위험 통제 등을 이유로 취소될 것으로 예측합니다. 또한 일반적인 챗봇을 AI 에이전트로 재분류하는 '에이전트 세탁(agent washing)'에 대해 경고하며, 에이전트형 AI를 판매하는 공급업체 중 실제 실체가 있는 곳은 약 130곳에 불과할 것으로 추정합니다.

이러한 이유들 각각에는 명확한 답이 있습니다. 프로젝트를 기술에서 시작하는 것이 아니라, 타이핑 재작업 시간이나 거절률처럼 측정 가능한 비용이 발생하는 프로세스에서 시작하면 불분명했던 가치는 사라집니다. 다음 섹션에서 설명하듯이, 범위를 문서화하고 구축 전에 가격을 책정하면 증가하는 비용을 통제할 수 있습니다.

위에서 설명한 테스트, 안전장치 및 보안 작업은 취약한 위험 통제를 위한 것입니다. 자체 테스트 세트, 정확도 수치, 그리고 오류가 발생하는 경우에 어떤 일이 일어나는지 보여줄 수 없는 공급업체는 데모를 믿으라고 요구하는 것과 같습니다.

비용은 얼마나 들까요?

가격은 작업에 따라 달라지며, 저희는 귀하에게 적용되는 부분을 알려드립니다. 견적을 높이는 요소는 구체적입니다: 이미 운영 중인 시스템과의 통합, 레거시 시스템 및 스프레드시트에서 추출되어야 하는 데이터 양, 시스템이 충족해야 하는 규정 준수 및 감사 요구 사항, 현장 또는 현장 팀이 휴대폰과 오프라인 상태에서 필요로 하는지 여부, 그리고 수동 프로세스를 보조하는 것이 아니라 대체하는 맞춤형 AI 작업의 정도입니다.

빌드 비용을 알아내기 위해 지불해야 하는 별도의 발견(discovery) 비용은 없습니다. 범위가 작성되고 승인되면 고정된 금액을 받게 되며, 지급은 마일스톤에 따라 단계적으로 이루어지므로, 귀하가 수락한 작업에 대해서만 비용을 지불하게 됩니다.

얼마나 걸리나요?

저희는 일반적으로 AI 에이전트 프로젝트를 시작(kickoff)한 후 8주에서 12주 동안 계획합니다. 첫 몇 주는 문서를 수집하고 테스트 세트를 구축하는 데 사용되며, 그 이후부터는 상태 보고서를 읽는 대신 자체 문서로 실행되는 소프트웨어와 함께 작업하게 됩니다.

테스트 세트가 귀하의 자체 문서로 구축되기 때문에, 팀은 실제 업무를 처리하는 시스템을 출시(go-live) 훨씬 전에 확인하게 되며, 도달한 정확도 수치는 이를 수락할지 결정할 때 제시됩니다. 전체 순서는 저희 '작업 방식(how we work)' 페이지에서 확인할 수 있습니다.

핵심 요약

• AI 기반 자동화는 사람이 문서를 읽는 방식대로 문서를 읽은 다음, 사용자의 규칙을 활용하여 그에 따라 행동하고 특이한 경우는 사람에게 전달합니다.
• 결과를 발표한 기업들은 문서 작업량이 많은 업무에서 속도와 비용 측면에서 큰 이득을 얻었습니다.
• 가장 좋은 시작점은 실수할 경우 실제 금전적 손실이 발생하는 대량의 문서 처리 작업입니다.
• 신뢰할 수 있는 AI 자동화는 사용자의 자체 문서를 통해 테스트되며, 출처를 추적할 수 없는 값은 거부하고 안전하게 실패합니다.
• 보안, 백업 및 검증된 복구 절차는 출시 후가 아니라 첫 주부터 계획에 포함되어야 합니다.

자료