AI에 관한 대화는 보통 잘못된 질문에서 시작됩니다: "모델이 얼마나 지능적인가?" 더 유용한 질문은 다음과 같습니다: "시스템이 실제로 어떤 지능 계층(layers of intelligence)을 보유하고 있는가?"

인간의 지능은 단일한 능력이 아닙니다. 그것은 서로 연결된 인지 기능들의 스택(stack)입니다. 이 스택을 인공지능에 매핑하면, 우리가 AGI (인공 일반 지능, artificial general intelligence)로 가는 경로 중 어디에 있는지, 그리고 에이전트형 AI (agentic AI)가 실제로 무엇을 변화시키는지 이해하기 위한 훨씬 더 명확한 프레임워크를 얻을 수 있습니다.

인지 스택 (The Cognitive Stack)

인간의 지능은 다음과 같이 구별되고 상호 의존적인 기능들로 나뉩니다:

1. 지각 (Perception) — 보고, 듣고, 느끼고, 패턴을 인식하는 것
2. 기억 (Memory) — 작업 기억, 단기 기억, 장기 기억, 일화적 기억(episodic memory) 및 의미론적 기억(semantic memory)
3. 학습 (Learning) — 경험, 피드백, 새로운 정보로부터 적응하는 것
4. 추론 (Reasoning) — 추론(inference), 비교, 연역(deduction), 귀납(induction), 문제 해결
5. 계획 (Planning) — 목표를 행동으로 세분화하고 다음에 일어날 일을 결정하는 것
6. 창의성 (Creativity) — 새로운 아이디어, 개념, 솔루션을 생성하는 것
7. 직관 (Intuition) — 의식적인 추론 이전에 패턴을 인식하는 것
8. 전략 (Strategy) — 가능한 미래와 결과를 모델링하는 것
9. 메타인지 (Metacognition) — 자신의 사고, 불확실성, 실수를 평가하는 것
10. 자아 / 정체성 (Self / identity) — 연속성, 선호도, 경험, 지속적인 목표
11. 의식 (Consciousness) — 주관적 경험과 인식

이 모든 것 위에는 한 가지 계층이 더 있습니다: 목표, 동기, 그리고 가치입니다.

이는 현대 AI를 평가하는 데 유용한 관점입니다. 오늘날의 대규모 언어 모델(large language models)은 이미 지각, 언어, 패턴 인식, 지식 합성, 추론, 코딩 및 생성 측면에서 놀라울 정도로 유능합니다. 하지만 그 능력의 대부분은 단일한 상호작용 — 즉, 프롬프트 입력과 응답 출력 — 내에 머물러 있습니다. 지금까지 크게 결여되었던 부분은 답변 이후의 모든 과정입니다: 답변에 따라 행동하고, 이를 검증하며, 다음에 일어나는 일에 적응하는 것 말입니다.

그것이 바로 에이전트형 AI (agentic AI)가 메우기 위해 구축된 간극입니다.

에이전트형 AI는 출력(Output)이 아닌 아키텍처를 변화시킨다

단순히 답변을 생성하는 대신, AI 에이전트는 목표를 이해하고, 컨텍스트(context)를 구축하며, 정보를 검색하고, 도구(tools)를 사용하며, 일련의 행동을 계획하고, 이를 실행하며, 결과를 관찰하고, 성과를 평가하고, 접근 방식을 수정하며, 목표가 달성될 때까지 이 과정을 지속할 수 있습니다.

이는 프롬프트-응답(prompt-response) 방식의 AI와는 근본적으로 다른 패러다임입니다. 또한 더 흥미로운 엔지니어링 작업이 일어나는 지점이기도 합니다. 즉, 모델을 더 크게 만드는 것이 아니라, 모델을 중심으로 지능 시스템(intelligence systems)을 구축하는 것입니다.

이러한 프레임워크에서 모델은 추론 엔진(reasoning engine)이 됩니다. 그 외의 모든 것은 모델을 중심으로 설계됩니다:

• 컨텍스트 엔지니어링 (Context engineering) — 상황 인식 (situational awareness)
• 검색 증강 생성 (Retrieval-augmented generation, RAG) — 외부 지식 및 검색
• 메모리 시스템 (Memory systems) — 지속적인 장기 기억
• 도구 사용 (Tool use) — 디지털 세계와의 상호작용
• 에이전트 루프 (Agent loops) — 인지, 행동, 피드백, 수정
• 계획 시스템 (Planning systems) — 분해 및 실행
• 그래프 엔지니어링 (Graph engineering) — 관계, 엔티티(entities), 그리고 세계 모델(world models)
• 성찰 (Reflection) — 평가 및 메타인지 (metacognition)
• 멀티 에이전트 시스템 (Multi-agent systems) — 전문화되고 협업하는 지능
• 목표 시스템 (Goal systems) — 목표 및 의사결정 기준
• 지속형 에이전트 (Persistent agents) — 연속성 및 정체성

여기서 도출되는 차이점은 다음과 같습니다: AI는 답변합니다. 에이전트형 AI는 행동합니다. 점점 더 정교해지는 에이전트형 시스템은 자신의 행동으로부터 학습하고, 시간에 따라 컨텍스트를 유지하며, 다른 에이전트와 협업하고, 외부 도구를 사용하며, 단일 교환이 아닌 장기간에 걸쳐 목표를 추구할 수 있습니다.

AGI가 실제로 위치하는 곳

인공 일반 지능 (Artificial General Intelligence, AGI)을 단순히 벤치마크 점수로 정의하기보다는, 일반 학습, 추론, 메모리, 계획, 적응, 세계 모델, 창의성, 메타인지, 자율적 행동, 그리고 목표 지향적 행동과 같이 함께 작동하는 여러 지능 계층의 _융합 (convergence)_으로 생각하는 것이 더 유용합니다.

그러한 정의에 따르면, AGI는 반드시 하나의 획기적인 모델을 의미하는 것은 아닙니다. 그보다는 지속적이고 적응적인 시스템으로 많은 인지 능력(cognitive capabilities)을 통합함으로써 나타날 가능성이 더 높습니다. 이것이 바로 단순한 모델 규모(model scale)가 아니라 지능 아키텍처(intelligence architecture)를 주목해야 하는 이유입니다.

인공 초지능 (ASI)은 그보다 더 나아간 임계점을 나타냅니다. 즉, 대부분의 중요한 인지 영역에서 인간의 능력을 실질적으로 초월하는 지능을 의미합니다.

한 가지 명확히 구분해야 할 점이 있습니다. AGI가 의식 (consciousness)과 동일한 것은 아니며, ASI 또한 마찬가지입니다. 어떤 시스템은 주관적 경험 (subjective experience)이 전혀 없이도 거의 모든 인지적 과업에서 인간을 능가하며 놀라울 정도로 유능해질 수 있습니다. 능력 (capability)과 의식은 별개의 문제이며, 이 둘을 혼동하는 것은 두 개념 모두를 모호하게 만듭니다.

"어떻게 하면 AI를 더 똑똑하게 만들 수 있을까?"보다 더 나은 질문

더 생산적인 프레임워크는 다음과 같습니다: 무엇이 실제로 지능을 구성하는가? AI는 이미 어떤 구성 요소를 보유하고 있는가? 어떤 부분이 여전히 취약한가? 그리고 누락된 조각들을 어떻게 설계(engineer)할 것인가?

이는 모든 AI 시스템을 평가하기 위한 실질적인 프레임워크를 제공합니다:

인간의 능력 → 인지 기능 → AI 대응 요소 → 현재 능력 → 한계 → 엔지니어링 메커니즘 → AGI 요구 사항

현재의 어떤 모델이나 에이전트(agent)를 이 체인에 통과시켜 보면, 그 격차가 명확해집니다. 이는 막연한 한계가 아니라, 다음과 같은 구체적으로 누락된 구성 요소로서 나타납니다: 지속적 메모리 (persistent memory), 신뢰할 수 있는 다단계 계획 (multi-step planning), 진정한 메타인지적 자기 수정 (metacognitive self-correction), 시간이 지나도 유지되는 일관된 정체성 (coherent identity).

발전 과정

그 궤적은 "더 나은 챗봇"이나 "더 큰 모델"이 아닙니다. 그것은 단일 모델이 아닌 시스템으로서 구축된, 인지하고, 기억하고, 추론하고, 계획하고, 행동하고, 평가하고, 적응할 수 있는 점점 더 정교해지는 지능 아키텍처입니다.

이는 다음과 같은 발전 단계를 가리킵니다: AI → 에이전트형 AI (agentic AI) → AGI → ASI.

진정한 엔지니어링 질문은 어떻게 하면 더 지능적인 출력을 생성할 것인가가 아닙니다. 어떻게 하면 지능을 단순히 생성하는 것을 넘어, 그것을 실행 가능한 상태로 운영(operationalize)하는 시스템을 구축할 것인가입니다.