사람들은 AI를 마치 하나의 거대하고 신비로우며, 반쯤 자의식을 가진 덩어리인 것처럼 이야기합니다. 그들은 거버넌스 (governance), 안전성 (safety), 환각 (hallucinations), AGI, 규제 (regulation), 편향 (bias), 주권 (sovereignty)에 대해 마치 이 모든 것들이 동일한 범주에 속하는 것처럼 한 호흡에 동시에 논쟁합니다.

하지만 그렇지 않습니다.

그리고 이러한 혼란이 가장 위험하게 나타나는 곳은 바로 운영형 AI (Operational AI) 입니다. 사람들이 거의 이름을 붙이지 않으면서도 끊임없이 설명하고 있는 시스템 유형입니다.

운영형 AI는 실제 세상의 결과 (real world consequences) 가 발생하는 지점입니다.

운영형 AI란 무엇인가

운영형 AI는 세상 속에서 행동하는 (acts in the world) 시스템 유형입니다.

이것은 모델 (model)이 아닙니다. 패턴 엔진 (pattern engine)도 아닙니다. 생성기 (generator)도 아닙니다.

운영형 AI는 다음과 같습니다:

• 파이프라인 (pipelines)
• 워크플로 (workflows)
• 자동화 (automations)
• 의사결정 표면 (decision surfaces)
• 에스컬레이션 경로 (escalation paths)
• 프로덕션 시스템 (production systems)
• 통합된 에이전트 (integrated agents)
• 다중 컴포넌트 아키텍처 (multi component architectures)

이것은 실행 계층 (execution layer) 입니다.

운영형 AI는:

• 행동을 취하고
• 상태를 변경하며
• 프로세스를 트리거하고
• 워크플로를 에스컬레이션하며
• 인프라 (infrastructure)와 상호작용하고
• 실제 사람에게 영향을 미치며
• 실제 시스템에 영향을 미치고
• 실제적인 결과를 만들어냅니다.

운영형 AI는 "지능적"인 것이 아닙니다. 그것은 도구화 (instrumented) 된 것입니다.

그것은 "생각"하는 것이 아니라, 운영 (operating) 하는 것입니다.

운영형 AI가 아닌 것

운영형 AI는 다음과 같은 것이 아닙니다:

• 모델 (model)
• 생성기 (generator)
• 통계적 패턴 엔진 (statistical pattern engine)
• 텍스트 합성기 (text synthesiser)
• 환각 기계 (hallucination machine)
• 챗봇 (chatbot)
• 예측 도구 (prediction tool)

이것들은 기능형 AI (Functional AI) 입니다.

운영형 AI는 또한 다음과 같은 것도 아닙니다:

• 자율적인 (autonomous)
• 주권적인 (sovereign)
• 자기 주도적인 (self directed)
• 자기 관리적인 (self governing)
• 자유롭게 실행되는 (free running)

이것들은 에이전트형 AI (Agentic AI) 입니다.

운영형 AI는 마음 계층 (mind layer) 이 아니라 시스템 계층 (system layer) 입니다.

사람들이 다음과 같이 말할 때:

• "AI가 결정을 내렸다"
• "AI가 케이스를 에스컬레이션했다"
• "AI가 대출을 승인했다"
• "AI가 청구를 거절했다"
• "AI가 워크플로를 트리거했다"

그들은 기능형 AI가 아니라 운영형 AI (Operational AI) 를 설명하고 있는 것입니다.

도메인 계층 (범위, 아키텍처가 아님)

운영형 AI가 특정 산업 내에 배치될 때 "도메인 운영형 AI (Domain Operational AI)"가 됩니다:

• 헬스케어 (healthcare)
• 금융 (finance)
• 항공 (aviation)
• 물류 (logistics)
• 보험 (insurance)
• 제조 (manufacturing)
• 정부 (government)
• 리테일 (retail)

하지만 이것이 시스템의 유형을 바꾸지는 않습니다.

그것은 여전히 운영형 AI (Operational AI)이며, 단지 도메인이라는 의상을 입고 있을 뿐입니다.

도메인 맥락 (Domain context)은 다음 사항들에 영향을 미칩니다:

• 리스크 (risk)
• 규제 (regulation)
• 에스컬레이션 경로 (escalation paths)
• 안전 요구사항 (safety requirements)
• 감사 가능성 (auditability)
• 결과 (consequences)

하지만 그것이 근본적인 아키텍처 (architecture)를 바꾸지는 않습니다.

그것은 운영 시스템을 에이전트 (agent)로 바꾸지 않습니다.

인간 권위 계층이 결합되는 방식

운영형 AI는 기능형 AI (Functional AI)와는 매우 다르게 인간 권위 계층 (human authority layers)과 상호작용합니다.

규제 대상 AI (Regulated AI) (법적 생태계)

강한 결합.

규제 기관은 다음 사항들에 관심을 가집니다:

• 행동 (actions)
• 결과 (consequences)
• 책임 (accountability)
• 감사 추적 (audit trails)
• 안전 (safety)
• 준수 (compliance)
• 리스크 표면 (risk surfaces)
• 에스컬레이션 로직 (escalation logic)

운영형 AI는 행동하므로, 법적 노출 (legal exposure)이 높습니다.

책임 있는 AI (Responsible AI) (윤리적 생태계)

강한 결합.

윤리 팀은 다음을 우려합니다:
의사결정의 공정성 (fairness in decisions)
결과의 편향성 (bias in outcomes)
에스컬레이션의 투명성 (transparency in escalations)
워크플로우의 포용성 (inclusivity in workflows)
• 행동의 설명 가능성 (explainability of actions)
이것이 책임 있는 AI (Responsible AI)가 이론이 아닌 실체가 되는 지점입니다.

인간적 정당성 (Human Legitimacy) (정치적 생태계)

최대치의 결합.

운영형 AI는 다음 사항들에 영향을 미칩니다:

• 시민 (citizens)
• 고객 (customers)
• 환자 (patients)
• 직원 (employees)
• 대중의 신뢰 (public trust)
• 정치적 정당성 (political legitimacy)

이것이 정부가 실제로 관심을 갖는 시스템 유형입니다. 왜냐하면 이 시스템은 단순히 텍스트를 생성하는 것이 아니라, 무언가를 수행하기 때문입니다.

운영형 AI를 경계해야 할 집단

운영형 AI에 대해 우려해야 할 사람들은 다음과 같습니다:

• 규제 기관 (regulators)
• 컴플라이언스 담당자 (compliance officers)
• 안전 엔지니어 (safety engineers)
• 리스크 관리자 (risk managers)
• 운영 리더 (operations leaders)
• 거버넌스 아키텍트 (governance architects)
• 공공 부문 기술자 (public sector technologists)
• 인프라 소유자 (infrastructure owners)

그들의 역할: 시스템의 **행동 (actions)**이 안전하고, 합법적이며, 감사 가능하고, 정당함을 보장하는 것입니다.

문제점: 이 그룹들 대부분은 여전히 "AI"를 운영 시스템이 아닌, 마치 하나의 모델인 것처럼 이야기하고 있습니다.

혼란 (The noise): 사람들은 기능형 AI (Functional AI)와 운영형 AI (Operational AI)를 하나로 뭉뚱그려 생각하며, 다음과 같은 요소들에 대해 혼란을 야기합니다:
• 리스크 (risk)
• 거버넌스 (governance)
• 책임 (accountability)
• 에스컬레이션 (escalation)
• 안전 (safety)
• 규제 (regulation)
운영형 AI는 실질적인 리스크가 존재하는 곳입니다. 모델 안이 아니라 말입니다.

벤더의 유인책 (Vendor Incentives)

벤더들은 다음과 같이 운영형 AI를 홍보하며 혼란을 가중시킵니다:

• “AI 자동화 (AI automation)”
• “AI 오케스트레이션 (AI orchestration)”
• “AI 코파일럿 (AI copilots)”
• “AI 에이전트 (AI agents)”
• “AI 워크플로우 (AI workflows)”
• “AI 의사결정 (AI decisioning)”

하지만 이들은 다음 사이의 차이점을 거의 설명하지 않습니다:

• 모델 (Functional AI)
• 에이전트 (Agentic AI)
• 운영 시스템 (Operational AI)

그 결과 사용자들은 다음과 같이 생각하게 됩니다:

• 자동화 = 지능
• 워크플로우 = 자율성
• 에스컬레이션 = 의사결정
• 행동 = 이해
  이것이 바로 범주 붕괴 (category collapse)입니다.

노이즈 레이어 (The Noise Layer)

운영형 AI는 현실 세계의 대부분의 공포가 존재하는 곳입니다.

노이즈에는 다음과 같은 것들이 포함됩니다:

• “AI가 내 청구를 거절했다”
• “AI가 잘못된 케이스를 승인했다”
• “AI가 잘못된 방식으로 에스컬레이션했다”
• “AI가 잘못된 결정을 내렸다”
• “AI가 워크플로우를 망가뜨렸다”
• “AI가 해를 끼쳤다”

이 모든 것은 잘못된 분류입니다.

운영형 AI는 마음(mind)이 아닙니다. 주권적 존재(sovereign)도 아닙니다. 위협도 아닙니다. 에이전트도 아닙니다.

그것은 **시스템 (system)**입니다.

공포는 운영형 AI를 마치 다른 무엇인가인 것처럼 취급하는 데서 비롯됩니다.

명확한 결론 (The Clean Takeaway)

운영형 AI = 실행 엔진 (action engine).

만약 당신이 이를 모델처럼 취급한다면, 당신은 다음과 같은 상황에 직면할 것입니다:

• 잘못된 거버넌스
• 잘못된 규제
• 잘못된 설계
• 잘못된 에스컬레이션
• 리스크에 대한 오해
• 범주의 붕괴
• 결과에 대한 혼란 - Claire의 감각을 해침

운영형 AI는 가장 중대한 결과를 초래하는 시스템 유형이자, 가장 오해받는 시스템 유형입니다.