원문 논문: Jia Huang, Joey Tianyi Zhou (ASTAR), "A Two-Dimensional Framework for AI Agent Design Patterns: Cognitive Function × Execution Topology" (arXiv:2605.13850, 2026년 3월)*

이 블로그를 쓰게 된 계기는, 이전에 작성한 「Anthropic의 6가지 에이전트 설계 패턴은 2026년인 지금도 통용되는가?」라는 기사 속에서, 2026년의 arXiv 에이전트 설계 패턴에 관한 서베이(Survey) 논문이 Anthropic의 2024년 12월 기사인 「Building Effective Agents」를 「에이전트 패턴 문헌 중에서 가장 많이 인용되는 택소노미 (Taxonomy)」라고 표현하고 있음을 확인했기 때문이다. 그 「서베이 논문」이 바로 본고에서 다룰 이 이축 프레임워크의 논문이며, Anthropic의 기존 택소노미를 대체하는 것이 아니라 인지 기능(Cognitive Function)과 실행 토폴로지(Execution Topology)라는 두 축을 따라 쌓아 올리는 형태로 확장하고 있다는 점에 흥미를 느껴 내용을 정리해 보기로 했다.

왜 이 논문이 필요했는가

LLM을 사용한 AI 에이전트 설계를 논할 때, 업계에는 이미 여러 가이드가 존재한다. Anthropic의 「Building Effective Agents」는 6가지 실행 패턴(프롬프트 체이닝 (Prompt Chaining), 라우팅 (Routing), 병렬화 (Parallelization) 등)을, Google의 Agent Development Kit은 8가지 워크플로우 패턴을, LangChain은 4가지 협업 패턴을, Andrew Ng는 4가지 인지 능력(성찰, 도구 사용, 계획, 다중 에이전트 협업)을 각각 제시하고 있다.

문제는 이것들이 모두 단일 축에서만 에이전트를 바라보고 있다는 점이다. 업계 계열의 가이드는 「데이터가 어떻게 흐르는가 (실행 토폴로지 (Execution Topology))」에 주목하고, 인지 과학 계열의 서베이는 「에이전트가 무엇을 하는가 (인지 기능 (Cognitive Function))」에 주목한다. 하지만 어느 한쪽만으로는 구조적으로 완전히 다른 시스템을 구별할 수 없다.

논문에서 드는 좋은 예가 「Orchestrator-Workers」라는 토폴로지다. 동일한 배선도가 적어도 3가지의 완전히 다른 패턴에 사용되고 있다.

Plan-and-Execute (Action): 플래너가 태스크를 분해하여 실행 담당자에게 배분함 -
Hierarchical Delegation (Collaboration): 매니저가 전문화된 하위 에이전트로부터 지견을 모음 -
Observability Harness (Governance): 중앙의 감시역이 로그 수집·트레이스(Trace)·알람을 총괄함

이들은 실패 모드도, 스케일링 특성도, 테스트 전략도 완전히 다르지만, 토폴로지만 보고 있어서는 구분할 수 없다. 반대로, 동일한 인지 기능(예를 들어 「추론」)도 Chain-of-Thought, 복잡도 기반의 라우팅, 병렬 탐색, 반복적 가설 검증 등 여러 토폴로지로 구현될 수 있다.

이축 프레임워크의 내용

논문이 제안하는 것은 이 두 축을 곱한 분류 시스템이다.

축 1: Cognitive Function (인지 기능) = 「무엇을」

7개의 카테고리로 구성된다.

C1~C7은 「지각 → 검색 → 추론 → 실행 → 평가 → 협업 → (그 전체를 통한) 통제」라는 인지 처리 파이프라인을 형성한다. 다만 엄격하게 일방향은 아니며, 에이전트는 이 루프를 여러 번 회전한다.

축 2: Execution Topology (실행 토폴로지) = 「어떻게」

6가지 구조적 아키타입 (Archetype).

7×6 매트릭스와 27개의 명명 패턴

이 두 축의 직적(Direct Product)은 42개 셀의 매트릭스가 된다. 논문은 이 중 27개 셀에 구체적인 이름이 붙은 패턴을 부여했다 (그중 13개는 이 논문 고유의 명명). 비어 있는 15개 셀은 「구조적으로 중복됨」 또는 「아직 실례가 관측되지 않음」 중 하나로 간주된다.

대표적인 패턴의 예:

• Context Triage(C1×T2): 정보원(Information source)을 우선순위(P0~P3)에 따라 분류하고, 트리아지(Triage) 방식으로 로드(Load) 필요 여부를 할당한다. Claude Code의 5계층 CLAUDE.md(Enterprise→User→Project→Rules→Local)가 이 실운용 사례이다.
• RAG Pipeline(C2×T1): 검색(Retrieve)→재순위화(Rerank)→생성(Generate)의 순차적 체인(Chain).
• Complexity-Based Routing(C3×T2): 쿼리의 난이도에 따라 추론의 깊이(System 1~장시간 숙고)를 할당한다. 카너먼(Kahneman)의 이중 과정 이론(Dual Process Theory)에 대응한다. RouteLLM은 동일한 종류의 기법으로 85%의 비용 절감을 입증했다.
• Plan-and-Execute(C4×T4): 플래너(Planner)가 태스크를 DAG(Directed Acyclic Graph)로 분해하고, 실행기(Executor)가 실행한다. 분산 시스템의 Saga 패턴의 에이전트 버전이다.
• Generator-Critic(C5×T5): 생성→비평→수정을 반복한다. LLM은 외부 피드백 없이는 자기 수정(Self-correction)을 할 수 없다는 지견(Huang et al., ICLR 2024)에 기반하며, 자기 비평(Self-criticism), 교차 모델 비평(Cross-model criticism), 도구 접지 비평(Tool-grounding criticism)의 3종이 있다.
• Fan-Out/Gather(C6×T3): 코디네이터(Coordinator)가 n개의 워커(Worker)에게 병렬로 서브 태스크를 할당하고 결과를 집약한다.
• Approval Gate(C7×T2): 거부 규칙→허가 규칙→인간 게이트(Human gate)의 3단계로 에이전트의 행동을 심사한다.
• Blast Radius Control(C7×T6): 프로세스 샌드박스(Sandbox)→파일 시스템 격리→네트워크 제한→API 속도 제한(Rate limit)→예산 상한이라는 중첩된 봉쇄 계층을 통해 피해 범위를 한정한다.

두 축이 독립적이라는 것의 검증

논문은 Section 4 「Orthogonality Demonstration」에서 두 축이 진정으로 직교(Orthogonal)하고 있음을 두 방향에서 보여준다.

동일한 토폴로지, 다른 인지 기능: Loop(T5)는 실패 패턴의 기록(C2·Failure Journal), 가설 검증(C3·Iterative Hypothesis Testing), ReAct 루프(C4), 생성-비평 사이클(C5·Generator-Critic) 등 완전히 다른 목적에 사용된다. 제어 구조(while(!done))는 공통적이지만, 담당하는 인지 기능은 완전히 별개이다.

동일한 인지 기능, 다른 토폴로지: Reasoning(C3)은 Chain-of-Thought(T1), Complexity-Based Routing(T2), Parallel Exploration(T3), Iterative Hypothesis Testing(T5)이라는 4가지 토폴로지로 구현할 수 있다. 토폴로지의 선택이 레이턴시(Latency)·비용·망라성을 좌우한다.

이 두 방향의 사례를 통해, "인지 기능을 알아도 토폴로지는 결정되지 않으며, 그 역도 마찬가지이다"라는 결론이 도출된다.

4가지 실영역에서의 검증과 「5가지 법칙」

논문은 이 프레임워크를 금융 대출 심사·M&A 법무 실사(Due Diligence)·통신망 운용 모니터링·응급 트리아지(Triage)라는 4가지 실영역에 적용하여 기술력을 검증한다. 시간 예산이 4시간에서 60초까지 크게 다른 이 4개 영역으로부터, 동일한 패턴 카탈로그가 상황마다 완전히 다른 아키텍처를 만들어낸다는 것을 보여준 뒤, 5가지 경험칙을 도출해낸다.

• 시간적 제약이 아키텍처의 복잡성을 결정한다: 수일(days)이라면 Hierarchy+Orchestrate (10개 이상의 패턴), 수 시간(hours)이라면 Orchestrate (78개), 수 분(minutes)이라면 Route+Loop (57개), 수 초(seconds)라면 Chain만 사용 (3~5개).
• 행동 권한이 거버넌스 (Governance) 패턴을 결정한다: 조언만 하는 시스템에는 Approval Gate, 저위험 자동 실행에는 Blast Radius Control, 고위험 및 비가역적 행동에는 Guardrail Sandwich가 필요하다.
• 실패 비용의 비대칭성이 성찰 (Reflection) 설계를 바꾼다: 대출 심사처럼 비용이 대칭적이라면 Generator-Critic은 정밀도에 중점을 둔다. 의료 트리아지 (Triage)처럼 비대칭적(놓치는 것이 치명적임)이라면, 비평가 (Critic)는 의도적으로 안전한 쪽으로 편향(Bias)을 갖는다.
• 양(Quantity)이 협업의 필요성을 결정한다: 단발성 처리에는 협업 패턴이 불필요하다. 중간 규모에는 Fan-Out/Gather, 대규모에는 Hierarchical Delegation+Fan-Out/Gather, 연속적인 스트림에는 Route+자동 스케일링 (Auto-scaling)이 필요하다.
• 동일한 패턴이라도 파라미터에 따라 동작이 변한다: Generator-Critic은 4개 영역 모두에 등장하지만, 5분간의 규제 검토, 30초간의 건전성 체크, 안전 편향을 가진 의료 판단 등 완전히 다른 동작을 보인다. 패턴은 '구조적 템플릿 (Structural Template)'이지 '행동의 처방전 (Behavioral Prescription)'이 아니다.

이 연구의 위치와 한계

논문은 스스로를 소프트웨어 공학사에서의 3세대 디자인 패턴 운동으로 위치시키고 있다. 객체 지향 패턴 (GoF, 1994년), 엔터프라이즈/분산 시스템 패턴 (Fowler, Hohpe & Woolf, 2000년대)에 이어, 확률적이고 도구 활용형이며 멀티 에이전트 (Multi-agent) 시스템을 위한 패턴군이라는 위치다.

저자들은 한계도 솔직하게 인정하고 있다. 42개 셀 중 27개 셀(64%)만 채워져 있어 분포가 균일하지 않다는 점, 패턴의 입도 (Granularity)를 정하는 방식에 자의성이 있다는 점, 그리고 개별 패턴은 기술의 진화와 함께 노후화될 수 있다는 점이다 (단, 좌표계 자체는 안정적이라고 밝히고 있다). 특히 C5(Reflection)는 6개 셀 중 3개 셀만 채워져 있어, 이 분야가 아직 미성숙함을 시사한다.

이 논문에서 배울 수 있는 5가지

분류법 그 자체를 넘어, 실무에 적용할 수 있는 시사점이 5가지 있다.

1. 분류 축은 하나만으로는 부족하다

복잡한 사물을 정리할 때는 '축이 직교(Orthogonal)하고 있는가'를 의식해야 한다는 것은 에이전트 설계에 국한되지 않는 일반적인 교훈이기도 하다. 단일 분류 축에 만족하지 않고, 독립된 여러 관점을 결합함으로써 비로소 모호함이 없는 (unambiguous) 분류를 할 수 있다.

2. 환경 제약으로부터 아키텍처를 역산할 수 있다

'5가지 법칙' 중에서도 특히 실무적으로 유용한 지적은 다음과 같다.

시간 예산이 짧은 프로토타입을 빠르게 만드는 첫 번째 단계는 각 패턴을 최적화하는 것이 아니라, 패턴 자체를 덜어내는 것이다.

복잡한 아키텍처를 빠르게 만들고 싶을 때, 먼저 의심해야 할 것은 개별 컴포넌트 (Component)의 튜닝이 아니라 애초의 구성 요소 수라는 발상은 에이전트 설계뿐만 아니라 엔지니어링 전반에 통용된다.

3. 패턴은 구조적 템플릿이지 행동의 처방전이 아니다

논문은 다음과 같이 표현하고 있다.

A pattern is a structural template, not a behavioral prescription.

'이 패턴을 적용하면 정답이다'가 아니라, '패턴은 출발점이며 도메인 지식에 기반한 튜닝이 필수적이다'라는 건전한 유보를 두고 있다. 패턴 카탈로그를 보유하는 것과 그것을 올바르게 다루는 것 사이에는 아직 큰 격차가 존재한다.

4. 빈 칸은 '미성숙함'의 신호이다

42칸 중 27칸(64%)만 채워져 있으며, 특히 C5(Reflection)는 6칸 중 3칸만 채워져 있다. 이는 뒤집어 말하면, 비어 있는 칸이 향후의 연구 및 구현 기회라는 뜻이기도 하다. 분류 프레임워크의 가치는 '채워진 부분을 설명하는 것'뿐만 아니라 '채워지지 않은 곳에 무엇이 있어야 하는지를 묻는 것'에도 있다.

5. 이것은 '제3세대' 디자인 패턴이다

결정론적 (Deterministic) 방식에서 확률적 (Probabilistic) 실행으로, 컴파일 시점의 도구 선택에서 실행 시점의 도구 선택으로, 단일 프로세스에서 멀티 에이전트 협업 (Multi-agent coordination)으로의 전제 조건 변화에 대응한 것이라는 역사적 위치 설정은, 지금의 에이전트 붐을 일시적인 유행이 아니라 소프트웨어 공학의 필연적인 진화 단계 중 하나로 재해석할 수 있는 관점을 제공한다.

요약

이 논문의 핵심은 "에이전트가 무엇을 하는가 (인지 기능)"와 "어떻게 실행되는가 (실행 토폴로지)"라는 두 개의 독립적인 축을 도입함으로써, 지금까지 모호했던 에이전트 설계 패턴의 분류를 일의적 (unambiguous)으로 만들었다는 점에 있다. 단일 축 프레임워크에서는 구별할 수 없었던 "같은 배선도라도 내부가 다른 경우", "같은 기능이라도 구현이 다른 경우"를 좌표계로서 명확하게 구분할 수 있게 된다.

그리고 한마디로 요약하자면, 이 논문이 전달하고자 하는 것은 "에이전트 설계는 개인의 직관이나 개별적인 베스트 프랙티스 (Best practices)의 모음이 아니라, 환경 제약으로부터 체계적으로 도출될 수 있다"는 주장이다. 이축 프레임워크 그 자체보다도, "설계는 원리적으로 도출 가능하다"라는 이러한 태도야말로 실무자에게 가장 큰 배움이 될지도 모른다.

Discussion