생성형 AI를 넘어: 에이전틱 AI (Agentic AI)의 부상과 사용자 중심 디자인

에이전틱 AI (Agentic AI)는 고객 경험과 운영 효율성을 변화시킬 준비가 되어 있으며, 이는 리더십의 새로운 전략적 접근을 필요로 합니다. 인공지능 (AI)의 이러한 진화는 시스템이 단순한 추천을 넘어, 과업을 **계획 (plan)**하고, **실행 (execute)**하며, **지속 (persist)**할 수 있는 권한을 부여합니다. UX 팀, 제품 관리자 (Product Managers), 그리고 경영진에게 있어 이러한 변화를 이해하는 것은 혁신의 기회를 포착하고, 워크플로 (workflows)를 간소화하며, 기술이 인간을 지원하는 방식을 재정의하는 데 매우 중요합니다.

**에이전틱 AI (Agentic AI)**를 컴퓨터에서 수행되는 규칙 기반 과업에 집중하는 기술인 로봇 프로세스 자동화 (RPA, Robotic Process Automation)와 혼동하기 쉽습니다. 그 차이는 경직성 대 추론 (reasoning)에 있습니다. RPA는 'X가 발생하면 Y를 하라'와 같이 엄격한 스크립트를 따르는 데 탁월합니다. 이는 인간의 손을 모방합니다. 반면 에이전틱 AI (Agentic AI)는 인간의 추론을 모방합니다. 이는 선형적인 스크립트를 따르는 것이 아니라, 스스로 스크립트를 **생성 (creates)**합니다.

채용 워크플로 (workflow)를 예로 들어보겠습니다. RPA 봇은 이력서를 스캔하여 데이터베이스에 업로드할 수 있습니다. 이는 반복적인 과업을 완벽하게 수행합니다. 에이전틱 (Agentic) 시스템은 이력서를 살펴보고, 후보자가 특정 자격증을 보유하고 있음을 인지하며, 이를 새로운 고객 요구 사항과 교차 참조한 뒤, 해당 일치 사항을 강조하는 개인화된 연락 이메일 초안을 작성하기로 결정합니다. RPA는 미리 정의된 계획을 실행하지만, 에이전틱 AI (Agentic AI)는 목표를 기반으로 계획을 수립합니다. 이러한 자율성이 에이전트 (agents)를 우리가 지난 10년 동안 사용해 온 예측 도구 (predictive tools)와 구분 짓습니다.

또 다른 예는 회의 충돌을 관리하는 것입니다. 캘린더에 통합된 예측 모델 (predictive model)은 귀하의 회의 일정과 동료들의 일정을 분석할 수 있습니다. 그런 다음 두 개의 중요한 회의가 같은 시간에 잡혀 있거나, 주요 참석자가 휴가 중일 때 회의가 잡히는 것과 같은 잠재적인 충돌을 제안할 수 있습니다. 이는 귀하에게 정보를 제공하고 잠재적인 문제를 표시해주지만, 조치를 취하는 책임은 귀하에게 있습니다.

동일한 시나리오에서 에이전틱 AI (Agentic AI)는 단순히 피해야 할 충돌을 제안하는 수준을 넘어설 것입니다. 주요 참석자와의 충돌을 식별하면, 에이전트는 다음과 같이 행동할 수 있습니다:

• 모든 필수 참석자의 가용성 (Availability) 확인.
• 모두에게 적합한 대체 시간대 식별.
• 모든 참석자에게 제안된 새로운 회의 초대장 발송.
• 만약 충돌이 외부 참석자와의 관계라면, 에이전트는 일정 재조정의 필요성을 설명하고 대체 시간을 제안하는 이메일 초안을 작성하여 발송할 수 있음.
• 일정이 확정되면 귀하의 캘린더와 동료들의 캘린더를 새로운 회의 세부 정보로 업데이트.

이 에이전틱 AI는 목표(회의 충돌 해결)를 이해하고, 단계(가용성 확인, 대안 찾기, 초대장 발송)를 계획하며, 해당 단계들을 실행하고, 충돌이 해결될 때까지 지속합니다. 이 모든 과정은 사용자의 직접적인 개입을 최소화한 상태로 이루어집니다. 이는 '에이전틱 (agentic)'의 차이점을 보여줍니다. 즉, 시스템이 사용자에게 단순히 정보를 제공하는 것에 그치지 않고 사용자를 위해 **선제적인 조치 (proactive steps)**를 취한다는 점입니다.

에이전틱 AI 시스템은 목표를 이해하고, 이를 달성하기 위한 일련의 단계를 계획하며, 해당 단계들을 실행하고, 상황이 잘못될 경우 적응하기까지 합니다. 이를 **선제적인 디지털 비서 (proactive digital assistant)**라고 생각하면 됩니다. 기반 기술은 대개 이해와 추론을 위한 대규모 언어 모델 (LLMs)과 복잡한 작업을 관리 가능한 행동으로 분해하는 계획 알고리즘 (planning algorithms)을 결합합니다. 이러한 에이전트들은 목표를 완수하기 위해 다양한 도구, API, 심지어 다른 AI 모델들과 상호작용할 수 있으며, 결정적으로 지속적인 상태 (persistent state)를 유지할 수 있습니다. 즉, 이전의 행동을 기억하고 시간이 지남에 따라 목표를 향해 계속 작업을 수행할 수 있다는 의미입니다. 이는 보통 단일 요청을 완료한 후 초기화되는 일반적인 생성형 AI (generative AI)와 근본적으로 다른 점입니다.

에이전틱 행동의 단순 분류 (A Simple Taxonomy of Agentic Behaviors)

에이전트의 행동을 네 가지 뚜렷한 자율성 모드로 분류할 수 있습니다. 이러한 모드들은 흔히 단계적인 발전 과정처럼 보일 수 있지만, 실제로는 독립적인 운영 모드로 기능합니다. 사용자는 일정 관리(scheduling)를 위해 에이전트가 자율적으로 행동하도록 신뢰할 수도 있지만, 금융 거래의 경우에는 에이전트를 "제안 모드 (suggestion mode)"로 유지할 수도 있습니다.

우리는 자율 주행 자동차의 산업 표준(SAE 레벨)을 디지털 사용자 경험 (UX) 맥락에 맞게 조정하여 이러한 단계들을 도출했습니다.

관찰 및 제안 (Observe-and-Suggest)

에이전트는 모니터로서 기능합니다. 데이터 스트림을 분석하고 이상 징후나 기회를 포착하지만, 어떠한 조치도 취하지 않습니다.

차별점

다음 단계와 달리, 에이전트는 복잡한 계획을 생성하지 않습니다. 단순히 문제를 지적할 뿐입니다.

예시

DevOps 에이전트가 서버 CPU 급증을 감지하고 당직 엔지니어에게 알림을 보냅니다. 에이전트는 이를 어떻게 해결해야 하는지 모르거나 시도하지 않지만, 무언가 잘못되었다는 사실은 알고 있습니다.

디자인 및 감독에 대한 시사점

이 단계에서 디자인과 감독은 명확하고 방해되지 않는 알림, 그리고 사용자가 제안에 따라 행동할 수 있도록 잘 정의된 프로세스를 우선시해야 합니다. 핵심은 제어권을 가져오지 않으면서 적시적이고 관련성 있는 정보로 사용자의 역량을 강화하는 것입니다. UX 실무자는 제안을 명확하고 이해하기 쉽게 만드는 데 집중해야 하며, 제품 관리자(PM)는 시스템이 사용자를 압도하지 않으면서 가치를 제공할 수 있도록 보장해야 합니다.

계획 및 제안 (Plan-and-Propose)

에이전트는 목표를 식별하고 이를 달성하기 위한 다단계 전략을 생성합니다. 그리고 인간의 검토를 위해 전체 계획을 제시합니다.

차별점

에이전트는 전략가로서 행동합니다. 직접 실행하지 않으며, 전체 접근 방식에 대한 승인을 기다립니다.

예시

동일한 DevOps 에이전트가 CPU 급증을 감지하고 로그를 분석한 뒤, 다음과 같은 복구 계획을 제안합니다:

• 인스턴스 2개 추가 생성
• 로드 밸런서(load balancer) 재시작
• 오래된 로그 아카이브 처리

이후 인간이 논리를 검토하고 "계획 승인 (Approve Plan)"을 클릭합니다.

디자인 및 감독에 대한 시사점

계획을 세우고 제안하는 에이전트의 경우, 디자인은 제안된 계획을 쉽게 이해할 수 있도록 보장해야 하며, 사용자가 이를 수정하거나 거부할 수 있는 직관적인 방법을 제공해야 합니다. 제안의 품질과 에이전트의 계획 논리 (Planning Logic)를 모니터링하는 감독 (Oversight)이 매우 중요합니다. UX 실무자는 제안된 계획에 대한 명확한 시각화 (Visualization)를 설계해야 하며, 제품 관리자 (Product Manager)는 명확한 검토 및 승인 워크플로우 (Workflow)를 구축해야 합니다.

확인 후 실행 (Act-with-Confirmation)

에이전트가 모든 준비 작업을 완료하고 최종 작업을 스테이지 상태 (Staged State)로 둡니다. 이는 마치 문을 열어둔 채로 사용자의 끄덕임(승인)을 기다리는 것과 같습니다.

차별점

작업이 이미 완료되어 준비된 상태라는 점에서 “계획 및 제안 (Plan-and-Propose)” 방식과 다릅니다. 이는 마찰 (Friction)을 줄여줍니다. 사용자는 전략이 아닌 결과물을 확인합니다.

예시

채용 에이전트가 5개의 면접 초대장을 초안으로 작성하고, 캘린더에서 빈 시간을 찾아 캘린더 이벤트를 생성합니다. 그 후 “모두 전송 (Send All)” 버튼을 제시합니다. 사용자는 외부 동작을 트리거하기 위한 최종 권한을 부여합니다.

디자인 및 감독에 대한 시사점

에이전트가 확인 후 실행할 때, 디자인은 의도된 동작에 대한 투명하고 간결한 요약을 제공하여 잠재적인 결과(Consequences)를 명확히 설명해야 합니다. 감독 과정에서는 확인 프로세스가 견고한지, 그리고 사용자가 동작을 맹목적으로 승인하도록 요구받고 있지는 않은지 검증해야 합니다. UX 실무자는 명확하고 필요한 모든 정보를 제공하는 확인 프롬프트 (Confirmation Prompt)를 설계해야 하며, 제품 관리자는 모든 확인된 동작에 대해 견고한 감사 추적 (Audit Trail)을 우선적으로 구축해야 합니다.

자율 실행 (Act-Autonomously)

에이전트가 정의된 경계 내에서 독립적으로 작업을 수행합니다.

차별점

사용자는 동작 그 자체가 아니라 동작의 이력 (History)을 검토합니다.

예시

채용 에이전트가 일정 충돌을 발견하면, 면접을 예비 시간대로 옮기고, 후보자에게 업데이트를 전달하며, 채용 담당자에게 알림을 보냅니다. 인간은 오직 “면접 일정이 화요일로 변경되었습니다”라는 알림만 확인합니다.

디자인 및 감독에 대한 시사점

자율 에이전트 (Autonomous agents)의 경우, 디자인은 명확하게 사전 승인된 경계 (Boundaries)를 설정하고 강력한 모니터링 도구를 제공해야 합니다. 감독 (Oversight)을 위해서는 이러한 경계 내에서 에이전트의 성능을 지속적으로 평가해야 하며, 사용자의 통제권과 신뢰를 유지하기 위해 강력한 로깅 (Logging), 명확한 오버라이드 (Override) 메커니즘, 그리고 사용자가 정의한 킬 스위치 (Kill switches)가 필수적입니다. UX 실무자는 자율 에이전트의 행동을 모니터링하기 위한 효과적인 대시보드 (Dashboards)를 설계하는 데 집중해야 하며, 제품 관리자 (Product managers)는 명확한 거버넌스 (Governance)와 윤리적 가이드라인이 마련되어 있는지 확인해야 합니다.

이러한 모드들이 실제로 어떻게 작동하는지 확인하기 위해 HR 기술 분야의 실제 적용 사례를 살펴보겠습니다. 채용 관련 물류 및 행정 업무를 처리하도록 설계된 “면접 조율 에이전트 (Interview Coordination Agent)”를 가정해 봅시다.

제안 모드 (In Suggest Mode)

에이전트가 면접관의 일정이 중복되었음을 감지합니다. 에이전트는 채용 담당자의 대시보드에 충돌 사항을 강조하여 표시합니다: “경고: Sarah의 오후 2시 면접 일정이 중복되었습니다.”

계획 모드 (In Plan Mode)

에이전트가 Sarah의 일정과 후보자의 가능 시간을 분석합니다. 에이전트는 다음과 같은 해결책을 제시합니다: “면접을 목요일 오전 10시로 변경하는 것을 권장합니다. 이를 위해서는 Sarah의 매니저와의 1:1 미팅 일정을 옮겨야 합니다.”
채용 담당자는 이 논리를 검토합니다.

확인 모드 (In Confirmation Mode)

에이전트가 후보자와 매니저에게 보낼 이메일 초안을 작성합니다. 또한 캘린더 초대장을 생성합니다. 채용 담당자에게는 다음과 같은 요약 내용이 표시됩니다: “목요일로 일정 재조정 준비 완료. 업데이트를 전송할까요?”
채용 담당자가 *“확인 (Confirm)”*을 클릭합니다.

자율 모드 (In Autonomous Mode)

에이전트가 충돌 문제를 즉시 처리합니다. 에이전트는 다음과 같이 미리 설정된 규칙을 준수합니다: “항상 내부 1:1 미팅보다 후보자 면접을 우선시한다.”
에이전트는 미팅 일정을 변경하고 알림을 보냅니다. 채용 담당자에게는 다음과 같은 로그 항목이 표시됩니다: “후보자 B의 일정 충돌 해결됨.”

연구 입문: 무엇을 어떻게 연구할 것인가

효과적인 에이전틱 AI (Agentic AI)를 개발하는 것은 전통적인 소프트웨어나 심지어 생성형 AI (Generative AI)와 비교했을 때도 차별화된 연구 접근 방식을 요구합니다. AI 에이전트 (AI agents)의 자율적인 특성, 의사결정 능력, 그리고 선제적 행동 가능성은 사용자의 기대치를 이해하고, 복잡한 에이전트 행동을 매핑하며, 잠재적 실패를 예측하기 위한 전문적인 방법론을 필요로 합니다. 다음의 연구 입문서는 에이전틱 AI의 이러한 독특한 측면들을 측정하고 평가하기 위한 핵심 방법들을 개괄합니다.

멘탈 모델 인터뷰 (Mental-Model Interviews)

이 인터뷰는 AI 에이전트가 어떻게 행동해야 하는지에 대한 사용자의 사전 개념을 밝혀냅니다. 단순히 사용자가 무엇을 원하는지 묻는 대신, 에이전트의 능력과 한계에 대한 사용자의 내부 모델을 이해하는 데 초점을 맞춥니다. 참가자들에게 “에이전트 (agent)”라는 단어를 사용하는 것은 피해야 합니다. 이 단어는 공상 과학 (sci-fi)적인 선입견을 불러일으키거나, 지원 또는 서비스를 제공하는 인간 에이전트 (human agent)와 너무 쉽게 혼동될 수 있기 때문입니다. 대신, 논의의 틀을 “어시스턴트 (assistants)” 또는 “시스템 (the system)”을 중심으로 구성해야 합니다.

우리는 사용자가 유용한 자동화와 침해적인 통제 사이에서 어디에 선을 긋는지 밝혀내야 합니다.

방법: 다양한 가상 시나리오에서 사용자가 에이전트와 기대하는 상호작용을 설명하거나, 그리거나, 이야기하도록 요청합니다.

핵심 질문 (다양한 산업 분야를 반영):

• 원하는 자동화의 경계를 이해하고 과도한 자동화에 대한 잠재적 불안감을 파악하기 위해 다음과 같이 질문합니다:

  • 만약 항공편이 취소된다면, 시스템이 자동으로 무엇을 해주기를 원하십니까? 만약 시스템이 귀하의 명시적인 지시 없이 그렇게 행동한다면 어떤 점이 걱정되시겠습니까?

• 에이전트의 내부 프로세스와 필요한 통신에 대한 사용자의 이해를 탐색하기 위해 다음과 같이 질문합니다:

  • 디지털 어시스턴트가 귀하의 스마트 홈을 관리하고 있다고 상상해 보십시오. 택배가 배송된다면, 어시스턴트가 어떤 단계를 거칠 것이라고 상상하며, 어떤 정보를 받게 될 것이라고 기대하십니까?

• 다단계 프로세스 내에서의 통제(control) 및 동의(consent)에 관한 기대치를 파악하려면 다음과 같이 질문하십시오:

• 디지털 어시스턴트에게 회의 일정을 잡으라고 요청한다면, 어시스턴트가 어떤 단계를 거칠 것이라고 상상하십니까? 어느 시점에서 어시스턴트가 당신에게 의견을 묻거나 선택권을 주기를 원하십니까?

• 원하는 자동화의 경계와 과도한 자동화(over-automation)에 대한 잠재적 불안감을 이해하려면 다음과 같이 질문하십시오:

이 방법의 이점: 암묵적인 가정(implicit assumptions)을 드러내고, 에이전트의 계획된 행동이 사용자의 기대와 어긋날 수 있는 영역을 강조하며, 적절한 통제(controls) 및 피드백 메커니즘(feedback mechanisms)을 설계하는 데 정보를 제공합니다.

에이전트 여정 지도 작성 (Agent Journey Mapping):

전통적인 사용자 여정 지도 작성(user journey mapping)과 유사하게, 에이전트 여정 지도 작성은 사용자의 상호작용과 더불어 AI 에이전트 자체의 예상되는 행동 및 의사결정 지점(decision points)에 구체적으로 초점을 맞춥니다. 이는 잠재적인 함정(pitfalls)을 선제적으로 식별하는 데 도움이 됩니다.