이 지점이 바로 실제 혼란 — 그리고 실제 거버넌스(Governance) 문제 — 가 실제로 존재하는 곳입니다. 사람들은 “AI가 결정한다”, “AI가 행동한다”, “AI가 거부한다”, “AI가 상황을 확대한다”, “AI가 규칙을 어긴다”, “AI에게 거버넌스가 필요하다”라고 말합니다… 이 중 그 어떤 것도 기능적 AI (Functional AI)에 속하지 않습니다. 그것들은 바로 여기에 속합니다.

에이전틱 AI (Agentic AI)는 모두가 논쟁하지만, 거의 아무도 정확하게 정의하지 못하는 카테고리입니다.

에이전틱 AI (Agentic AI)란 무엇인가

에이전틱 AI (Agentic AI)는 행동을 생성하는 기계입니다.

다음과 같은 작업을 수행할 수 있는 모든 시스템을 의미합니다:

• 행동 수행 (take actions)
• 도구 호출 (call tools)
• 상태 변경 (change states)
• 워크플로 실행 (execute workflows)
• 프로세스 트리거 (trigger processes)
• 세상에 영향 미침 (affect the world)

에이전틱 AI (Agentic AI)에는 다음이 포함됩니다:

• 도구 호출 LLM (tool calling LLMs)
• 워크플로 에이전트 (workflow agents)
• 자율 루프 (autonomous loops)
• 멀티 에이전트 시스템 (multi agent systems)
• 계획 + 실행 시스템 (planning + execution systems)
• 실제로 무언가를 수행하는 “AI 어시스턴트 (AI assistants)”

기술적으로 에이전틱 AI (Agentic AI)는 모델이 아닙니다. 그것은 모델을 중심으로 구축된 시스템입니다.

이것은 다음과 같은 일을 할 수 있는 최초의 AI 카테고리입니다:

• 시작 (initiate)
• 확대 (escalate)
• 옵션 간의 선택 (choose between options)
• 외부 시스템에 영향 미침 (affect external systems)
• 결과 초래 (cause consequences)

이것이 바로 거버넌스 (governance)가 기능적 AI (Functional AI)가 아닌 여기에 속해야 하는 이유입니다.

에이전틱 AI (Agentic AI)가 아닌 것

에이전틱 AI (Agentic AI)는 마법이 아닙니다. 마음이 아닙니다. 주권자가 아닙니다. 인간의 의미에서의 의사 결정권자도 아닙니다.

에이전틱 AI (Agentic AI)는 다음과 같지 않습니다:

• 자아 인식 (self aware)
• 자기 주도적 (self directed)
• 인간의 방식으로 목표를 추구함 (goal seeking in a human way)
• 정당성을 해석할 수 있음 (capable of interpreting legitimacy)
• 제약 조건을 이해할 수 있음 (capable of understanding constraints)
• 도덕적 추론이 가능함 (capable of moral reasoning)
• 자신이 무엇을 하고 있는지 “알 수 있음” (capable of “knowing” what it is doing)

사람들은 에이전시 (agency)를 시뮬레이션하는 시스템에 에이전시 (agency)를 투영합니다.

에이전틱 AI (Agentic AI)는 “원하지” 않습니다. “의도하지” 않습니다. “규칙을 이해하지” 않습니다. “권위를 존중하지” 않습니다.

그것은 에이전시 (agency)처럼 보이는 래퍼 (wrapper) 내부에서 패턴을 실행할 뿐입니다.

도메인 계층 (영역, 아키텍처가 아님)

에이전틱 AI (Agentic AI)가 특정 분야 내에 배치될 때 “도메인 에이전트 (Domain Agents)”가 됩니다:

• 의료 트리아지 에이전트 (medical triage agents)
• 법률 초안 작성 에이전트 (legal drafting agents)
• 금융 의사 결정 에이전트 (financial decision agents)
• 항공 워크플로 에이전트 (aviation workflow agents)
• 산업 자동화 에이전트 (industrial automation agents)

하지만 이것이 시스템의 유형을 바꾸지는 않습니다.

그것은 여전히 에이전틱 AI (Agentic AI)입니다. 단지 특정 도메인(domain) 내부에서 작동할 뿐입니다.

도메인 맥락 (Domain context)은 다음 요소들에 영향을 미칩니다:

• 위험 (risk)
• 결과 (consequences)
• 에스컬레이션 경로 (escalation paths)
• 권한 계층 (authority layers)
• 거버넌스 요구사항 (governance requirements)

하지만 이것이 에이전트에게 진정한 이해나 진정한 의도를 부여하지는 않습니다.

인간 권한 계층 (Human Authority Layers)이 결합되는 방식

여기서부터 상황이 심각해집니다.

에이전틱 AI (Agentic AI)는 세 가지 인간 권한 계층 모두에 맞닿아 있는 첫 번째 시스템 유형입니다.

규제 대상 AI (Regulated AI, 법적 생태계)

강한 결합. 규제 기관은 다음 사항에 관심을 가집니다:

• 행위 (actions)
• 결과 (consequences)
• 감사 가능성 (auditability)
• 책임성 (accountability)
• 위험 분류 (risk classification)
• 실행 시의 컴플라이언스 (compliance in execution)

에이전틱 AI (Agentic AI)는 '행위'를 할 수 있기 때문에, 법적 노출 (legal exposure)은 실재합니다.

책임감 있는 AI (Responsible AI, 윤리적 생태계)

중간 정도의 결합. 윤리 전문가들은 다음을 우려합니다:

• 의사결정의 공정성 (fairness in decisions)
• 행위의 편향성 (bias in actions)
• 워크플로우의 투명성 (transparency in workflows)
• 선택의 설명 가능성 (explainability of choices)
• 하지만 윤리만으로는 행위를 통제할 수 없습니다.

인간의 정당성 (Human Legitimacy, 정치적 생태계)

최대치의 결합. 이것은 모두가 잊어버리는 계층입니다.

에이전틱 AI (Agentic AI)는 다음과 같은 질문을 던집니다:

• 누가 에이전트를 승인하는가?
• 누가 그 행위를 허가하는가?
• 누가 제약 조건을 설정하는가?
• 누구에게 에스컬레이션(escalation) 하는가?
• 그 행동에 대한 책임은 누구에게 있는가?

이것은 **윤리 (ethics)**가 아니라 **거버넌스 (governance)**입니다.

이것은 **투명성 (transparency)**이 아니라 **권한 (authority)**입니다.

이것은 **공정성 (fairness)**이 아니라 **정당성 (legitimacy)**입니다.

거버넌스는 이곳에 속합니다 — **기능적 AI (Functional AI)**가 아니라 말입니다.

에이전틱 AI (Agentic AI)를 우려하는 집단들

여기서 사회학적 변화가 일어납니다.

에이전틱 AI (Agentic AI)를 걱정하는 사람들은 다음과 같습니다:

• 거버넌스 전문가 (governance experts)
• 리스크 관리자 (risk officers)
• 컴플라이언스 팀 (compliance teams)
• 규제 기관 (regulators)
• 안전 엔지니어 (safety engineers)
• 운영 리더 (operations leaders)
• 엔터프라이즈 아키텍트 (enterprise architects)
• 정치 이론가 (political theorists)
• 보안 전문가 (security professionals)

그들의 공포: “에이전트가 해서는 안 될 행동을 할 것이다.”

그들의 행동: 그들은 거버넌스를 이해하지 못하는 시스템에 거버넌스를 강요하려고 시도합니다.

그들이 만들어내는 소음 (noise contribution): 그들은 에이전트 래퍼 (agent wrappers)를 마치 실제 마음(minds)이 있는 것처럼 취급합니다.

벤더 인센티브 (Vendor Incentives)

이 지점에서 벤더(vendor)의 혼란은 위험해집니다.

벤더들은 다음과 같은 것들을 홍보합니다:

• 에이전트 오케스트레이션 (agent orchestration)
• 워크플로 자동화 (workflow automation)
• 에이전트 거버넌스 (agent governance)
• 승인 시스템 (approval systems)
• 안전 가드레일 (safety rails)
• “엔터프라이즈 에이전트 플랫폼 (enterprise agent platforms)”

하지만 그들은 종종 이것들을 다음과 같이 설명합니다:

• “AI 거버넌스 (AI governance)”
• “AI 안전 (AI safety)”
• “AI 신뢰 (AI trust)”
• “AI 컴플라이언스 (AI compliance)”
• “AI 생산성 (AI productivity)”

사용자들은 다음의 차이점을 알지 못합니다:

• 모델 (model)
• 에이전트 (agent)
• 액션 (action)
• 워크플로 (workflow)
• 제약 사항 (constraint)
• 결정 경계 (decision boundary)

그래서 벤더들은 이 모든 것을 하나로 뭉뚱그려 버립니다.

문제점: 이러한 도구들 대부분은 에이전트가 제약 사항을 해석하고 권한 부여 (authorization)를 이해할 수 있다고 가정하지만, 실제로는 그렇지 못합니다.

노이즈 레이어 (The Noise Layer)

에이전틱 AI (Agentic AI)는 대중적 공포가 존재하는 지점입니다.

노이즈에는 다음과 같은 것들이 포함됩니다:

• “AI가 결정했다”
• “AI가 거부했다”
• “AI가 규칙을 어겼다”
• “AI가 잘못된 방식으로 에스컬레이션(escalated)했다”
• “AI가 위험하게 행동했다”
• “AI에 거버넌스가 필요하다”
• “AI에 권한이 필요하다”

이 모든 것은 **카테고리 붕괴 (category collapse)**입니다.

사람들은 에이전트 래퍼 (agent wrappers)를 마치 자율적인 마음(autonomous minds)인 것처럼 취급합니다.

에이전틱 AI는 **주권자 (sovereign)**가 아닙니다.
그것은 **의사 결정자 (decision maker)**가 아닙니다.
그것은 **도덕적 행위자 (moral actor)**가 아닙니다.
그것은 **정치적 실체 (political entity)**가 아닙니다.

그것은 액션 루프 (action loop) 내부에서 패턴을 실행하는 (executes patterns) 시스템입니다.

명확한 결론 (The Clean Takeaway)

에이전틱 AI = 액션 시스템 (action system).

만약 당신이 이를 마음처럼 취급한다면, 당신은 다음과 같은 상황에 직면할 것입니다:

• 잘못된 거버넌스
• 잘못된 규제
• 잘못된 설계
• 잘못된 것에 대한 공포
• 실제 위험의 무시
• 카테고리 붕괴 - Claire의 감각을 해침

에이전틱 AI는 행동할 수 있는 최초의 시스템 유형이며, 올바르게 거버넌스를 수행해야 하는 가장 중요한 시스템입니다.