세상에 AI 에이전트란 존재하지 않으며, 우리의 정의가 이를 증명한다

먼저, 어떤 사람들은 이것이 단순한 클릭베이트 (clickbait)에 불과하다고 즉시 생각할 수도 있다는 점을 말씀드리고 싶습니다. 그래서 저는 이 글이 무엇을 다루는지와 이 글을 쓰는 목적을 먼저 확립하고자 합니다.

1. "에이전트 (agent)"라는 단어의 어원을 분석하여 오늘날의 에이전트 시장과 일치하는지 확인합니다.
2. 다양한 유형의 정의를 식별하고, 비교를 위해 이를 분류합니다.
3. 단어 사용의 유사성 대 유행어 (buzzwords) 측면에서 해당 정의들을 비교합니다.
4. AI 에이전트에 대한 열망적이고 미래 지향적인 정의를 제안합니다.

현재의 AI 에이전트 시장

올해 어느 무역 현장을 가더라도 똑같은 단어를 수천 번 듣게 될 것입니다. 에이전트 (Agent). 우리는 에이전트적 플랫폼 (agentic platforms), 에이전트적 워크플로우 (agentic workflows), 그리고 에이전트적 기업 (agentic enterprises)을 가지고 있습니다. 이 단어는 하나의 카테고리, 가치 평가, 그리고 약속이 되었습니다. 그리고 이 모든 것 아래에는 업계가 차라리 건너뛰고 싶어 하는 어색한 사실이 자리 잡고 있습니다. 바로 우리는 에이전트가 무엇인지에 대해 합의한 적이 없다는 사실입니다. 열 군데의 회사에 정의를 물어본다면, 각각 자신들이 판매하고 있는 것에 맞춰 형성된 열 가지의 답변을 듣게 될 것입니다.

이것이 문제의 기본 토대입니다. 에이전트는 표준화된 개념이라기보다 마케팅 도구이자 하이프 (hype) 수단으로 포지셔닝되고 있습니다. 매크로 (macro)가 에이전트가 되었습니다. 챗봇 (chatbot)이 에이전트가 되었습니다. 자동화된 작업을 수행하는 코드 조각이 이제는 에이전트입니다. 모든 주요 벤더 (vendor)들은 에이전트의 마법을 풀어냈고, 모두가 자신의 홈페이지에서 이를 보도록 유도하고 있습니다. 그리고 그것은 1년도 더 된 일입니다.

에이전트가 무엇이든 포함하도록 확장될 때, 우리는 비교할 대상이 아무것도 없게 됩니다. 우리는 에이전트 워싱 (agent washing)을 겪고 있습니다. 우리는 하이프 (hype)를 겪고 있습니다. 우리는 당신의 업무를 더 쉽게 만들어 줄 수 있는 코드 엔티티 (code entities)를 가지고 있다는 주장을 정당화하기 위해 인류 역사상 가장 큰 마케팅 캠페인을 벌이고 있습니다. 우리는 항상 그런 기회들을 가져왔지만, 이제는 그 기회들에 이름과 정체성을 부여하고 직원으로 채용할 수 있게 되었습니다.

제 토스터의 이름은 이제 암호학적으로 서명된 ID를 가진 Toastimus Prime입니다.

"에이전트"의 기원

이 단어가 어디서 시작되었는지 되짚어보는 것이 도움이 됩니다. 에이전트 (Agent)는 '행동하다', '몰아가다', '움직이게 하다'라는 뜻의 라틴어 agere에서 유래했습니다. 하지만 이 단어는 단순히 행동하는 사람만을 의미하지 않았습니다. 이 단어가 성숙해진 법률 및 상거래 분야에서, 에이전트는 타인을 대신하여 행동하는 사람을 의미합니다.

본인 (Principal)이 목표를 설정합니다.

에이전트는 부여된 권한 하에 이를 수행합니다.

그리고 에이전트가 행동할 때, 그 책임은 명령 체인을 따라 본인에게로 거슬러 올라갑니다.

정의하자면 다음과 같습니다:

에이전트 (Agent) /ˈāj(ə)nt/ (명사)

에이전트는 특정 효과를 내기 위해 타인을 대신하여 행동할 권한이 있거나 행동할 능력이 있는 개인, 엔티티 (Entity), 또는 물질을 말합니다.

비즈니스, 법률, 의학 분야에서 우리는 이를 다음과 같은 영역으로 확장합니다:

• 부동산 에이전트 (Real Estate Agent): 고객이 부동산을 사고, 팔거나, 임대하는 것을 돕습니다.
• 여행 에이전트 (Travel Agent): 고객을 위해 교통편과 숙박을 마련합니다.
• 매니지먼트/스포츠 에이전트 (Talent/Sports Agent): 배우, 운동선수, 또는 예술가를 대리하여 고용과 계약을 확보합니다.
• 비밀 요원 (Secret Agent): 정보 기관을 위해 일하는 언더커버 스파이입니다.
• 화학/생물학적 작용제 (Chemical/Biological Agent): 특정 물리적 또는 화학적 변화를 일으키는 물질 또는 유기체 (예: 세정제).

이 단어는 결코 능력의 척도가 아니었습니다. 그것은 관계를 설명하는 것이었으며, 그 관계 내부의 책임 체인을 설명하는 것이었습니다.

하지만 AI 분야 내에서, 업계는 그 책임의 소재를 바꾸기 시작했습니다.

• AI/소프트웨어 에이전트 (AI/Software Agent): 자율적으로 행동하거나 특정 작업(데이터 수집 등)을 자동화하도록 설계된 컴퓨터 프로그램.

설령 이것이 타인을 대신하여 행동하는 것이라고 주장하고 싶더라도, 에이전트가 과업을 향해 어떻게 "행동"하는지와 관련하여 이 정의 안에는 핵심적인 모순이 존재합니다. 이에 대해서는 아래에서 더 자세히 다루겠습니다.

현재의 "AI 에이전트" 정의

시스템 에이전트에 대한 가장 오래된 정의는 학술적인 버전입니다.

Michael Wooldridge와 Nicholas Jennings (1995)는 지능형 에이전트 (Intelligent Agent)를 "설계 목표를 달성하기 위해 유연하고 자율적인 행동을 할 수 있는, 특정 환경에 위치한 컴퓨터 시스템"으로 정의합니다.

Russell과 Norvig는 합리적 에이전트 (Rational Agent)를 "센서 (Sensors)를 통해 환경을 인지하고, 액추에이터 (Actuators)를 통해 해당 환경에 작용하는 것으로 간주될 수 있는 모든 것"으로 정의했습니다.

불행히도, 그들의 기준에 따르면 스마트 온도 조절기 (Smart thermostat) 또한 에이전트로 간주됩니다.

최근의 정의들은 LLM (Large Language Models)의 인기 덕분에 생성된, 보다 공학적이고 마케팅적인 버전들입니다.

IBM은 AI 에이전트 (AI Agent)를 다음과 같이 정의합니다:

• AI 에이전트는 사용 가능한 도구들을 활용하여 워크플로우 (Workflows)를 설계함으로써 자율적으로 작업을 수행하는 시스템입니다.

Anthropic은 AI 에이전트를 다음과 같이 정의합니다:

• 복잡한 과업을 완수하기 위해 자신의 프로세스와 도구 사용을 자율적으로 지시하는 지능형 시스템입니다.

LangChain은 AI 에이전트를 다음과 같이 정의합니다:

• 애플리케이션의 제어 흐름 (Control flow)을 결정하기 위해 LLM을 사용하는 시스템입니다.

Google은 AI 에이전트를 다음과 같이 정의합니다:

• 목표를 자율적으로 이해하고, 다단계 행동을 계획하며, 사용자를 대신하여 작업을 실행할 수 있는 지능형 소프트웨어 시스템입니다.

이러한 정의들이 가진 거대한 문제점

이러한 정의들 전반에 걸쳐 반복되며 핵심적인 문제를 지적하는 단어가 하나 있습니다.

그 단어는 바로 자율적 (Autonomous)입니다.

우리는 에이전트가 자율적인 시스템이라고 끊임없이 듣습니다. 저는 이 단어 하나가 다른 어떤 것보다도 에이전트에 대한 우리의 정의를 더 많이 오염시키고 있다고 주장하고 싶습니다.

여기에는 두 가지 문제가 있으며, 이들은 서로 결합되어 문제를 악화시킵니다. 첫 번째는 단순하고 경험적인 것입니다. 오늘날 프로덕션 (Production) 환경에서 구동되는 그 어떤 시스템도 자율적이지 않습니다.

자율성이란 스스로 목적을 창출하고, 스스로 목표를 설정하며, 스스로를 통제하는 시스템을 의미합니다. 오늘날 출시되는 모든 시스템은 인간이 부여한 목표에 따라 작동합니다. 따라서 만약 우리가 에이전트가 반드시 자율적이어야 한다고 고집한다면, 우리는 오늘날 그 무엇도 충족할 수 없는 정의를 작성한 것이며, 우리 자신의 언어로 에이전트는 존재하지 않는다는 것을 증명한 셈이 됩니다.

만약 에이전트가 자율적이어야 하는데, 자율적인 시스템이 존재하지 않는다면, 우리에게 에이전트란 존재하지 않는 것입니다.

두 번째 문제는 더 깊은 곳에 있으며, 단어와 정의 그 자체 안에 존재합니다. 자율성 (Autonomy)은 '자기'를 뜻하는 그리스어 'autos'와 '법'을 뜻하는 'nomos'에서 유래했습니다. 자율적이라는 것은 스스로에게 법이 된다는 것을 의미합니다.

대조적으로, 에이전트 (Agent)는 타인의 법 아래에서 행동합니다. 우리의 이전 정의가 이를 확립했습니다. 에이전트는 본인 (Principal)의 권한 아래에서 본인의 목표를 추구합니다.

그 상태를 나타내는 그리스어 단어도 있습니다. 바로 '타율성 (heteronomy)'으로, '타인'을 뜻하는 'heteros'에서 유래했습니다. 에이전트는 정의상 타율적입니다. 타인의 목적을 수행하는 것이 업무의 전부이기 때문입니다. 이는

만약 우리가 에이전트(agent)를 제대로 정의하고, 로마 시대 이후 이 단어가 약속해 온 바로 그 존재를 구축하고자 한다면, 우리는 그것이 어떤 형태를 띠어야 할지 이미 알고 있습니다. 마케팅적 수사를 걷어내면, 요구 사항들은 깔끔하게 떨어져 나옵니다. 진정한 정의에는 오늘날의 버전들이 완전히 생략하고 있는 조항들이 포함됩니다.

Chris Hood의 AI 에이전트 정의

• AI 에이전트란 본인(principal)을 대신하여 목표를 추구할 수 있는 위임된 권한(delegated authority)을 보유하고, 해당 권한 아래에서 다른 에이전트 및 시스템과 상호작용하고 거래하며, 그 행동이 본인에게 귀속되는 지속적이고 식별 가능한 소프트웨어 엔티티(entity)이다.

이 정의를 자세히 살펴보십시오. 모든 조항은 하나의 끈(tether)입니다. 정체성(Identity)은 시스템을 이름에 묶습니다. 위임(Delegation)은 시스템을 부여자에게 묶습니다. 책임성(Accountability)은 시스템을 본인에게 묶습니다. 그리고 사라진 단어 하나를 주목하십시오. 바로 자율성(Autonomy)입니다. 정당한 에이전트는 얼마나 자유롭게 움직이느냐가 아니라, 무엇이 그것을 붙잡고 있느냐에 의해 정의됩니다. 시장이 계속해서 팔고 있는 꿈, 즉 모든 제약으로부터 마침내 자유로워진 시스템은 모든 조항을 한꺼번에 위반하게 될 것입니다. 이는 일반적인 홍보 문구들을 완전히 뒤집어 놓습니다. 우리는 영광스럽게 자유로운 시스템보다는 정교하게 통제되는(governed) 에이전트를 원해야 합니다. 솔직하게 말하자면, 자율성은 실패 상태입니다. 타인을 위해 충실히 행동하는 타율성(Heteronomy)이 정의의 전부입니다.

여기서 우리는 웃음이 나거나, 혹은 움찔하게 될 부분이 있습니다. 이 중 새로운 것은 아무것도 없습니다. 정체성, 위임된 권한, 책임성, 그리고 제한된 재량권(bounded discretion). 그것이 바로 본인-에이전트 관계(principal-agent relationship)이며, 법률가들은 수 세기 동안 이를 이해해 왔습니다. 우리는 에이전트의 정의를 발명할 필요가 전혀 없었습니다. 우리가 그 단어를 빌려온 날 이미 그 단어 안에 봉인되어 있던 정의를 기억해 낼 필요가 있었을 뿐입니다.

이것은 그 어떤 것보다도 과대광고(hype)를 보여주는 가장 명확한 신호입니다.

나의 정의는 지향점(aspirational)이며, 나는 그 점을 인정합니다. 시장에 나온 것 중 이 정의를 충족하는 것은 거의 없습니다. 하지만 그것이 바로 가치 있는 정의가 가져야 할 지점입니다. 정의는 우리가 구축하려는 것을 설명해야 하며, 너무 성급하게 에이전트라는 이름을 붙이고 싶어 하는 모든 유혹에 맞서 경계선을 지켜내야 합니다.