AI 에이전트(AI agents)가 점점 더 유능해짐에 따라, 이들이 접근할 수 있는 도구(tools)의 수로 에이전트를 측정하려는 경향이 커지고 있습니다.

웹 브라우징이 가능한가?

코드를 실행할 수 있는가?

데이터베이스(databases)를 쿼리할 수 있는가?

API를 호출할 수 있는가?

가정은 간단합니다. 더 많은 도구가 더 유능한 에이전트를 의미한다는 것입니다.

하지만 에이전틱 시스템(agentic systems)은 그런 방식으로 작동하지 않습니다.

도구(Tools)와 역량(capabilities)은 근본적으로 다른 개념입니다. 효과적인 AI 에이전트를 설계할 때 이 차이를 이해하는 것은 필수적입니다.

도구(Tool)란 무엇인가?

도구는 에이전트가 외부 세계와 상호작용할 수 있게 해주는 인터페이스(interface)입니다.

예시는 다음과 같습니다:

• 웹 검색 (Web search)
• 파일 시스템 (File systems)
• 데이터베이스 (Databases)
• REST API
• 코드 실행 환경 (Code execution environments)
• 이메일 및 메시징 플랫폼 (Email and messaging platforms)

도구는 의사결정을 내리지 않습니다. 단순히 호출되었을 때 동작을 수행할 뿐입니다.

도구를 에이전트의 도달 범위의 확장으로 생각하십시오. 도구는 에이전트가 환경을 관찰하거나 영향을 미칠 수 있게 해주지만, 그러한 동작을 '어떻게' 또는 '언제' 사용해야 하는지는 결정하지 않습니다.

역량(Capability)이란 무엇인가?

역량은 에이전트가 문제를 해결할 수 있게 해주는 것입니다.

도구와 달리, 역량은 인지적(cognitive)입니다.

예시는 다음과 같습니다:

• 일련의 행동 계획하기 (Planning a sequence of actions)
• 복잡한 목표 분해하기 (Breaking down complex goals)
• 작업에 적합한 도구 선택하기 (Choosing the right tool for a task)
• 중간 결과에 대한 추론 (Reasoning over intermediate results)
• 실패에 대한 성찰 및 전략 조정 (Reflecting on failures and adjusting strategy)
• 작업이 완료되었음을 인지하기 (Knowing when a task is complete)

이러한 역량은 에이전트가 무엇에 접근할 수 있는지만이 아니라, 에이전트가 어떻게 생각하는지를 결정합니다.

도구가 역량을 만들어내지는 않는다

다음과 같은 것들에 모두 접근할 수 있는 두 AI 에이전트를 가정해 봅시다:

• 브라우저 (browser)
• 데이터베이스 (database)
• Python 실행 환경 (Python execution environment)

한 에이전트는 즉시 데이터베이스를 쿼리하고, 스크립트를 작성하며, 잘못된 답변을 내놓습니다.

다른 에이전트는 먼저 필요한 정보를 식별하고, 어떤 소스가 가장 신뢰할 수 있는지 결정하며, 결과를 검증한 다음, 그제서야 응답을 생성합니다.

차이점은 도구가 아닙니다.

그 도구들이 어떻게 사용되는지에 대한 추론(reasoning)입니다.

두 에이전트에게 동일한 도구 상자를 준다고 해서 그들이 똑같이 유능해지는 것은 아닙니다.

역량(Capability)이 도구 사용을 결정합니다

이 관계를 생각하는 유용한 방법은 다음과 같습니다:

역량(Capabilities)이 결정하고, 도구(Tools)가 실행합니다.

계획(Planning)은 다음에 _무엇(what)_이 일어나야 하는지를 결정합니다.

추론(Reasoning)은 왜(why) 그런지를 결정합니다.

도구 선택(Tool selection)은 어떻게(how) 할지를 결정합니다.

실행(Execution)은 단순히 마지막 단계일 뿐입니다.

강력한 추론(Reasoning) 능력이 없다면, 추가적인 도구들은 종종 불필요한 행동, 더 높은 비용, 그리고 더 많은 오류 가능성으로 이어집니다.

더 많은 도구가 상황을 악화시킬 수 있습니다

에이전트에게 사용 가능한 모든 통합(integration) 기능을 갖춰주고 싶은 유혹이 생길 수 있습니다.

하지만 실제로 이는 종종 복잡성을 증가시킵니다.

도구가 많아질수록 에이전트는 다음과 같은 상황에 놓입니다:

• 더 많은 가능한 실행 경로(execution paths)
• 더 많은 결정 사항
• 잘못된 도구를 선택할 더 많은 기회
• 복구해야 할 더 많은 실패 시나리오

역량을 개선하지 않고 도구만 추가하는 것은, 숙련도를 높이지 않은 채 도구 상자만 확장하는 것과 같습니다.

더 나은 에이전트 설계하기

에이전트를 설계할 때는 두 가지 별개의 차원으로 생각하는 것이 유용합니다.

역량(Capabilities)은 다음과 같은 질문에 답합니다:

• 에이전트가 계획(plan)할 수 있는가?
• 추론(reason)할 수 있는가?
• 적응(adapt)할 수 있는가?
• 실패로부터 복구(recover)할 수 있는가?

도구(Tools)는 다음과 같은 질문에 답합니다:

• 어떤 시스템에 접근할 수 있는가?
• 어떤 행동(actions)을 수행할 수 있는가?
• 어떤 정보를 검색(retrieve)할 수 있는가?

이 두 가지 개념을 분리하면 더 나은 시스템 설계로 이어집니다.

다음과 같이 묻는 대신:

"에이전트에게 어떤 다른 도구를 더 주어야 할까?"

이렇게 질문하기 시작하십시오:

"에이전트에게 부족한 역량(capability)은 무엇인가?"

종종 정답은 또 다른 API가 아닙니다.

더 나은 추론(reasoning), 더 나은 계획(planning), 또는 더 나은 의사결정(decision-making)입니다.

마치며

도구는 에이전트의 도달 범위를 확장합니다.

역량은 그 도달 범위가 얼마나 효과적으로 사용되는지를 결정합니다.

뛰어난 추론 능력과 잘 설계된 소수의 도구 세트를 가진 에이전트는, 수십 개의 통합 기능을 갖추고 있지만 의사결정 능력이 떨어지는 에이전트보다 종종 더 뛰어난 성능을 발휘합니다.

에이전틱 시스템(agentic systems)을 구축할 때, 도구 상자의 크기로 역량을 측정하지 마십시오.

에이전트가 도구를 얼마나 지능적으로 사용하는지로 역량을 측정하십시오.