「AI 자동화에 실패하는 기업이 간과하고 있는 『평가』의 문제와, 이에 대응하는 ERC-8004를 비즈니스 관점에서 해설합니다.」

최근 몇 년간, AI는 「어떤 의미로는 무엇이든 할 수 있다」는 기대와 함께 이야기되어 왔습니다. 이른바 AI 버블입니다. 하지만 현장에서 실제로 도입을 진행해 보면, 많은 기업이 자동화에서 좌절하고 있습니다.

이유는 단순합니다. AI의 출력에는 **불확실성 (Uncertainty)**이 있기 때문입니다. 동일한 입력이라도 결과가 흔들리거나, 그럴싸해 보이지만 틀린 답을 내놓는 성질을 가진 AI를, 사람의 손을 거치지 않고 업무에 통합하는 것은 상상 이상으로 어렵습니다.

그 결과, 지금 주목도가 옮겨가고 있는 논점이 있습니다. 그것은 「AI가 무엇을 할 수 있는가」가 아니라, 「AI의 출력을 어떻게 평가할 것인가」 입니다. 나온 답이 신뢰할 만한지 판단하는 메커니즘이 없다면, 자동화는 앞으로 나아갈 수 없습니다.

그리고 이 논점은, 한 단계 더 앞선 미래와 연결되어 있습니다.

Salesforce의 Agentforce나 Microsoft의 Copilot Studio 등, 멀티 에이전트 (Multi-agent)가 실제 현장에 침투하고 있는 현대에 있어, 앞으로의 AI는 인간이 하나하나 지시를 내리는 도구가 아니라, 스스로 판단하고, 필요하다면 외부의 AI에 일을 부탁하고, 결과물을 받아 다음 단계로 진행하는 — 그러한 오케스트레이션 (Orchestration) / 멀티 에이전트적인 사양이 당연해질 것이라고 필자는 생각합니다.

여기서 중요한 것은 「외부의」라는 부분입니다. 사내에서 구축한 AI만으로 완결되는 것이 아니라, 타사가 공개하고 있는 AI나 툴과 협력하게 됩니다. 예를 들어 사내 업무 AI가 결제는 A사의 AI에게, 신용 조사(Credit Check)는 B사의 AI에게 하는 식으로 일을 나누어 연계하는 세계입니다.

이 세계에서는 새로운 질문이 생겨납니다.

수많은 AI 관련 서비스가 세상에 공개되어 있는 가운데,

독자적인 AI 서비스가 타사의 AI 서비스와 어떻게 다른지를 어떻게 상대에게 전달하고, 선택받을 것인가?

AI끼리 자율적으로 협력하는 시대에는, 「자사 AI 서비스의 강점을 표현하고 신뢰를 얻는 것」이 이전보다 더욱 경쟁력과 직결됩니다.

AI끼리 협력하기 위해서는 전제로 상대를 찾아낼 수 있는 것이 필수적입니다. 나아가, 찾은 상대가 신뢰할 만한지 안전 확인을 할 수 있는 것도 필요합니다.

즉, 이러한 「매체 (Platform)」가 필요해집니다.

• 작업 (Job)에 따라 외부로 공개된 AI 에이전트나 AI 툴을 즉시 발견할 수 있다
• 발견한 AI가 안전한지·신뢰할 수 있는지를 그 자리에서 확인할 수 있다

하지만 현재 AI끼리의 상호작용을 담당하는 대표적인 메커니즘 (Google의 A2A나 Anthropic에서 발표한 MCP 등)은, 「어떻게 대화할 것인가」, 「무엇을 할 수 있다고 자처할 것인가」는 다룰 수 있어도, 「어디에 있는 AI를 어떻게 신뢰할 것인가」라는 발견과 신뢰 부분은 커버하지 못하고 있습니다. 이 부분이 비어 있었던 것입니다.

이 「발견」과 「신뢰」의 토대로서, 지금 다시금 주목받고 있는 것이 Web3 (블록체인) 입니다.

비즈니스 관점에서의 포인트는 다음과 같습니다.

• 공통 규격으로 AI를 장부 (Ledger)에 연결함으로써, 전 세계의 AI 관련 공개 정보를 한 번에·동일한 입도 (Granularity)로 취득할 수 있다
• 특정 기업이 관리하는 폐쇄적인 데이터베이스가 아니라, 변조하기 어렵고 특정 기업에 의존하지 않는 형태로 정보가 남는다

「동일한 포맷으로 누구나 참조할 수 있고, 수정된 흔적이 남는 명부」라고 바꿔 말하면 이해하기 쉬울지도 모릅니다. 이것은 앞으로 자율화되어 갈 AI 에이전트 시대에야말로 필요한 인프라라는 견해입니다.

이러한 요구사항에 부응하는 규격으로서, 2025년에 공개되어 전 세계적으로 논의되고 있는 것이 ERC-8004 (통칭: Trustless Agents) 입니다. MetaMask, Ethereum Foundation, Google, Coinbase와 같은 면면의 저자들이 이름을 올리고 있다는 점도 주목도가 높음을 말해줍니다.

(본 기사 집필 시점에서는 EIP로서 드래프트 단계이지만, 이미 2026/1/29 시점에 Ethereum 메인넷에서 가동을 시작하여, 첫 1개월 동안 45,000개가 넘는 AI 에이전트가 이 규격을 바탕으로 등록되었습니다!)

ERC-8004가 내거는 목표는 명확합니다.

사전 신뢰 관계가 없더라도, 조직의 벽을 넘어 AI 에이전트를 「발견하고, 선택하고, 상호작용할 수 있게」 하는 것.

이를 실현하기 위해, ERC-8004는 3가지 장부 (Registry) 라는 형태로 요구사항을 정리하고 있습니다. 전체 모습은 다음과 같습니다.

도표를 보는 법은 간단합니다. 중앙의 블록체인을 토대로, 3개의 장부 (Registry)가 AI 에이전트 (AI Agent)에 연결되어 있습니다.

Identity Registry (좌측 상단→중앙): AI에게 고유한 ID를 발행하며, 모든 것의 기점이 됨 -
Reputation Registry (좌측): 사용자로부터의 평판 (Feedback)이 쌓임 -
Validation Registry (우측): 검증자에 의한 체크 결과가 기록됨

그리고 다른 에이전트들은 이 블록체인을 참조하여 목적하는 AI를 발견합니다. 그럼, 3개의 장부를 차례대로 살펴보겠습니다.

먼저, AI 에이전트마다 포터블 (Portable)하며 쉽게 삭제되지 않는 고유 ID를 부여합니다.

여기에 해당 AI의 개요·스킬·대응 영역 (Domain)·연락처 및 접속 방법 등의 정보가 연결됩니다. "이 AI는 누구이며, 무엇을 잘하고, 어떻게 연결할 수 있는가"를 공통 포맷으로 밝힐 수 있는, 말하자면 AI의 신분증입니다.

비즈니스적인 의미는 독자적인 AI 서비스의 강점을 세계 공통의 양식으로 표현할 수 있다는 것입니다. 앞서 언급한 "자사의 AI 서비스가 타사와 어떻게 다른가"를 전달할 토대가 여기서 마련됩니다.

그 강점을 도해와 함께 설명하자면 포인트는 두 가지가 있습니다. NFT (AI의 DID)라는 공통 규격으로 AI를 장부에 연결함으로써, (1) 다른 에이전트가 발견할 때의 기점이 되고, (2) 장부상에서 관련 데이터의 연결 대상이 명확해집니다. "열람"이나 "양도"와 같은 처리도 NFT 메커니즘을 활용함으로써 빠르게 수행할 수 있습니다.

AI의 출력은 정량화하기 어렵기 때문에 카탈로그 스펙만으로는 좋고 나쁨을 알 수 없습니다. 여기서 효과를 발휘하는 것이 바로 실제로 사용한 사용자 및 다른 AI로부터의 평판 (Feedback) 입니다.

ERC-8004는 이 평판을 증적 (Evidence)으로서 기록 및 참조할 수 있는 메커니즘을 마련합니다. 평가 스코어나 태그가 남으며 누구나 참조할 수 있습니다. 평가하는 측의 신뢰성을 걸러내는 메커니즘 (리뷰어로 좁히기 등)도 상정되어 있습니다.

비즈니스적인 의미는 "실적에 의한 신뢰"를 휴대 가능한 자산으로 만들 수 있다는 것입니다. 좋은 업무를 쌓아온 AI는 그 평판이 증적으로 축적되어 다음 거래로 이어집니다. 입소문이 사라지지 않고 남으면서도 위조하기 어렵다고 이해하면 쉽습니다.

도해와 함께 앞서 말한 내용을 AI에 대한 니즈로서, 이 Registry의 역할을 단적으로 말하자면, 불확실성이 높고 품질 보증이 어려운 AI의 출력을 사용자 자신의 FB (Feedback)로 보완한다는 발상에 기반하여 기록을 남기는 것입니다. "이 부분은 사용하기 편하지만, 이 부분은..."과 같은 생생한 평가가 장부에 등록되어 평판의 증적으로 쌓여갑니다.

평판은 사람이나 AI의 주관에 기반하는 것이지만, 이와 별개로 시스템적으로 안전성과 올바름이 담보되고 있다는 객관적인 뒷받침도 필요합니다.

ERC-8004는 제3자 검증자가 AI의 업무를 독립적으로 체크하고, 그 결과를 증적으로 남길 수 있는 메커니즘을 마련합니다. 검증 수단은 하나로 고정되지 않으며, 재실행을 통한 확인이나 암호 기술, 전용의 안전한 실행 환경을 사용한 검증 등 여러 방법 중에서 선택할 수 있는 설계로 되어 있습니다.

더욱 중요한 것은 신뢰의 레벨을 "리스크에 따라" 선택할 수 있다는 사고방식입니다. 피자를 주문하는 정도의 가벼운 태스크와 의료 진단 같은 무거운 태스크는 요구되는 신뢰의 엄격함이 다릅니다. ERC-8004는 그 온도 차이에 맞춰 신뢰 모델을 구분하여 사용할 수 있도록 되어 있습니다.

요약하자면, 본 Registry에서는 AI가 자율적으로 협력한다, 즉 사람의 의사결정을 거치지 않고 협력 대상 AI의 안전성을 확인하기 위해, 각 관점의 전문가인 검증자가 AI의 업무를 체크하고 그 검증 결과를 장부에 등록함으로써, "검증 완료됨"이라는 객관적인 증적으로 남김으로써 대응하고 있습니다.

기술 사양의 세부 사항은 엔지니어에게 맡기고, 의사결정에 관여하는 입장에서 가져가야 할 포인트를 정리합니다.

요점을 한마디로 정리하면 다음과 같습니다.

AI가 자율적으로 외부와 연결되는 시대, 그 "증적"을 가지고 있느냐가 선택받는 AI와 선택받지 못하는 AI를 가른다.

ERC-8004는 아직 드래프트 단계이며, 이것이 그대로 업계 표준이 되기로 결정된 것은 아닙니다. 다만, "발견"과 "신뢰"를 어떻게 메커니즘화할 것인가라는 질문 자체는 AI 에이전트가 보급될수록 피할 수 없는 과제가 될 것입니다.

AI 서비스를 제공하는 입장이라면 "자사 AI 서비스의 강점과 신뢰성을 어떻게 증적 (Evidence)으로 남길 것인가". AI 서비스를 사용하는 입장이라면 "외부 AI 서비스를 어떤 기준으로 선택하고 안전성을 확인할 것인가". 어느 입장이든 지금부터 고민해 볼 가치가 있는 테마입니다.

AI 버블의 열기가 식고 "결국 무엇이 신뢰할 수 있는가"가 질문되기 시작한 지금이야말로, 신뢰를 메커니즘 (Mechanism)으로 담보한다는 발상이 효과를 발휘합니다. ERC-8004는 그 하나의 구체적인 형태로서, AI (에이전트)와 Web3가 교차하는 지점에 서 있습니다.

기술의 향방을 쫓으면서, 자사의 AI 전략에 "신뢰의 증적을 어떻게 설계할 것인가"라는 관점을 꼭 더해 보시기 바랍니다.

제가 소속된 Sapeet에서는 "사람을 과학하고, 곁을 지키는 마음을 만든다"를 미션으로, 개성 넘치는 배경을 가지면서도 서로 존중하며 일하는 엔지니어와 컨설턴트들이 있습니다. 다양한 변화가 가속도적으로 계속해서 일어나고 있는 지금 이 시대에, 주체적으로 대응할 수 있는 동료들을 모집하고 있습니다!

"가볍게 이야기만 들어보고 싶다"는 분들도 환영합니다! 만나 뵙기를 기대하겠습니다!