AI 활용에 관한 논의를 하다 보면, "그것이 자동화와 무엇이 다른가", "AI에게 맡긴다는 것은 어디까지를 의미하는가"라는 점이 모호한 채로 이야기가 진행되어 인식이 어긋나는 경우가 자주 발생합니다.

본 기사에서는 자동화와 AI의 관계를 개념적으로 정리한 후, 개발 프로세스를 예로 들어 「협의의 자동화 / AI / 인간」의 3자가 어디를 담당하는지를 AS-IS / TO-BE로 시각화해 보겠습니다. 팀 내에서 공통 언어를 만들기 위한 초안(draft)으로 사용할 수 있는 형태를 지향했습니다.

먼저 출발점으로서 자동화를 넓게 정의합니다.

광의의 자동화 = 인간의 작업을 기계로 대체하는 것

이 정의에 따르면, AI는 자동화와 대립하는 개념이 아니라, 광의의 자동화의 일부입니다. 차이점은 대체하는 작업의 성질에 있습니다.

절차의 자동화(협의의 자동화): 규칙을 작성할 수 있는 작업의 대체. 결정론적(Deterministic)이며, 동일한 입력이라면 반드시 동일한 결과가 나온다. 예: cron, CI/CD, 구성 관리 도구, 설정 파일의 자동 생성

판단의 자동화(AI): 규칙을 다 작성할 수 없는 작업의 대체. 확률론적(Probabilistic)이며, 문맥에 따라 출력이 변한다. 예: 이상 탐지, text-to-SQL, 문서 요약

왜 구분하느냐 하면, 설계 사상이 완전히 다르기 때문입니다. 절차의 자동화는 "보증할 수 있는 자동화"이며, 확실성이 요구되는 처리에 사용할 수 있습니다. AI는 "보증할 수 없는 자동화"이며, 오류를 전제로 검증이나 리뷰를 포함할 필요가 있습니다.

여기서 한 가지 의문이 생깁니다. AI 에이전트에게 작업을 시키면, 그 과정에서 스크립트 실행이나 API 호출과 같은 "절차의 자동화"를 자연스럽게 수행하고 있는 순간이 있습니다. AI와 자동화는 병렬적인 분류가 아니었던 것일까요?

이는 두 가지를 배타적인 분류가 아니라 **교차하며 쌓이는 레이어(Layer)**로 파악하면 깔끔하게 정리할 수 있습니다.

AI 에이전트의 동작은 "판단 → 절차의 실행 → 결과의 관찰 → 다시 판단..."의 왕복입니다. AI 안에서 자동화가 보이는 것은, 판단층이 절차층을 호출하고 있는 순간을 보고 있기 때문입니다. 네트워크에 익숙한 분이라면, SDN의 컨트롤 플레인(Control Plane, 판단)과 데이터 플레인(Data Plane, 결정론적인 전송)의 관계를 떠올리면 비슷한 이미지가 될 것입니다.

이 레이어 구조에서 중요한 것이 보증에 대한 생각입니다.

개별 도구의 실행이 결정론적이라 하더라도, "어느 것을・언제・어떻게 호출할 것인가"의 판단이 확률적이라면,

복합체 전체는 "보증할 수 없는 자동화"로 취급한다

직렬 시스템의 신뢰성이 가장 약한 연결 고리(weakest link)에 의해 결정되는 것과 같은 이치입니다.

AI에는 "판단의 자동화"에 더해 또 하나의 중요한 능력이 있습니다. 판단을 절차로 고정화(Compile)할 수 있다는 점입니다.

AI에게 스크립트나 IaC 코드를 작성하게 한 직후에는 확률적인 결과물이지만, 리뷰와 테스트를 거치면 "보증할 수 있는 자동화"로 승격되어, 이후에는 결정론적인 자산으로서 재사용할 수 있습니다. 확률적인 세계에서 결정론적인 세계로 결과물을 옮길 수 있다──이것이 실무에서 가장 가치 높은 사용법이라고 생각합니다.

"같은 정보량이라면 판단의 편차는 인간이 더 크다. 판단도 AI에게 맡기는 것이 합리적이지 않겠는가"라는 질문은 자연스럽게 나옵니다. 이 방향성에는 합리적인 핵심이 있지만, 프로세스 재설계에 적용하기 전에 3가지만 정밀화해 둘 가치가 있습니다.

오류의 구조가 다르다── 인간의 오류는 독립적으로 발생하기 때문에 편차가 서로 상쇄되지만, AI의 오류는 상관관계(Correlation)를 가지며 전체 시스템이 동일한 방향으로 틀릴 수 있다(Common Mode Failure). 중복화(Redundancy)를 해도 같은 버그를 밟으면 의미가 없다는, 중복 설계와 같은 발상으로 파악해야 합니다.
인간의 역할은 사라지는 것이 아니라 재정의된다── "매번 판단하는 사람"에서 "판단 기준을 명문화하는 사람・불가역적인 결정에 책임을 지는 사람"으로. 무엇을 좋게 볼 것인가(수락 기준・우선순위)는 가치 판단이며, 또한 조직에서는 판단의 책임을 지는 주체가 필요합니다.
위임의 깊이는 검증 비용에 의해 결정된다── 출력을 기계적으로 검증할 수 있는 영역은 AI가 다 해낼 수 있습니다. 실패가 불가역적이라 사후 검증밖에 할 수 없는 영역은, 인간의 판단이 뛰어나서가 아니라 책임과 불가역성 때문에 인간 게이트(Human Gate)가 남습니다.

이상의 정리를 개발 프로세스 6단계(요구사항 정의~운영·유지보수)에 적용해 보겠습니다. 각 공정을 「협의의 자동화 / AI / 인간」의 3자가 어떻게 분담하고 있는지, 혹은 어떻게 분담해 나갈 것인지에 대한 비율입니다.

수치는 일반적인 도달 수준을 상정한 초안입니다. 조직의 실태에 맞춰 조정해 주십시오.

TO-BE에서는 자동화 그 자체도 AI가 생산합니다. 다만 '자동화를 만드는 것'을 분해하면, 주체가 다른 4가지 활동이 있습니다.

특기할 점은 ③입니다. 표준화의 합의 형성(Consensus building)은 '판단의 옳음'의 문제가 아니라 '납득과 권한'의 문제입니다. AI가 아무리 올바른 표준안을 내놓아도, 팀 간의 합의 그 자체는 대체할 수 없습니다. AI가 할 수 있는 것은 현상 차이의 가시화와 표준안의 드래프트(Draft) 작성까지입니다. '판단은 AI에게'라는 원칙을 끝까지 밀어붙여도, 위임하지 못하고 남는 것은 판단이 아니라 합의라는 점이 개인적으로 흥미로운 발견이었습니다.

AI → 자동화의 고정화 루프를 돌리기: AI의 결과물을 리뷰를 거쳐 자동화 자산으로 승격시키며 계속 이어가, 자동화의 커버리지 확대가 인력에 의해 제약받지 않는 체제를 구축한다 -
판단 기준과 프로세스의 명문화가 전제 투자: 기준이 암묵지(Tacit knowledge)로 남아 있고 절차가 팀마다 제각각이라면 AI에 위임할 수 없다. 표준화의 합의 형성(인간의 일)이 첫 번째 병목(Bottleneck)이 된다 -
인간 게이트는 '책임과 불가역성'으로 압축: 인간의 판단이 뛰어나기 때문이 아니라, 책임의 소재와 되돌릴 수 없다는 점을 기준으로 게이트의 배치를 결정한다

• AI는 광의의 자동화에 포함된다. 차이점은 대체하는 대상이 '절차'인가 '판단'인가이다.
• 판단과 절차는 배타적인 분류가 아니라, 교차하며 쌓이는 레이어(Layer)이다. 복합체의 보증은 가장 취약한 층에 의해 제약된다.
• AI는 판단할 뿐만 아니라, 판단을 절차로 고정화하여 '보증 가능한 자동화'로 승격시킬 수 있다.
• 인간의 역할은 '매번 판단하는 사람'에서 '기준을 설정하고, 불가역적인 결정에 책임을 지는 사람'으로 변화한다.
• AI에 위임하더라도 마지막까지 남는 것은 판단이 아니라 합의 형성이다.

이 정리가 AI 활용에 관한 논의에서 인식을 맞추기 위한 초안(Draft)이 되기를 바랍니다.