Human-to-Agent-to-Agent-to-Human

다음 컴퓨팅 시대는 단순히 인간이 소프트웨어를 사용하는 것만으로 정의되지 않을 것입니다. 또한 단순히 에이전트 (Agent)가 작업을 수행하는 것만으로도 정의되지 않을 것입니다. 그것은 인간, 에이전트, 조직, 시스템, 그리고 프로토콜이 책임, 의도, 위임, 검증 가능성, 그리고 인간의 책무성을 통해 어떻게 상호작용하느냐에 따라 정의될 것입니다.

이것이 바로 우리가 H2A2H라고 부르는 것입니다.

H2A2H는 단순한 약어 그 이상입니다. 이는 한 개인으로부터 시작하여, 그 사람의 의도를 대변하는 에이전트를 거치고, 다른 에이전트, 시스템 또는 조직을 통과하여, 최종적으로 결과, 결정, 서비스, 구매, 지원 요청, 분석, 검증 또는 결과(consequence)와 함께 다른 사람에게 돌아가는 실제 세계의 상호작용 흐름을 설명합니다.

핵심 아이디어는 간단합니다: 에이전트는 고립되어 존재하지 않습니다. 그들은 인간의 책임 체인 (chain of human responsibility) 내에 존재합니다.

인간이 의도를 시작합니다. 에이전트는 그 의도를 해석, 조직, 검증 또는 실행합니다. 다른 에이전트는 기업, 서비스, 도메인, 부서 또는 계산 권한 (computational authority)을 대변할 수 있습니다. 결국, 그 결과는 다른 인간에게 도달합니다: 고객, 관리자, 지원 담당자, 전문가, 환자, 시민, 교사, 학생, 변호사, 의사, 공무원 또는 사업가 등입니다.

모든 결과는 궁극적으로 인간에게 귀속되기 때문에, 이 아키텍처는 인간과 함께 끝납니다.

수십 년 동안 컴퓨팅은 사람과 인터페이스 (interface) 사이의 직접적인 관계를 중심으로 설계되어 왔습니다. 인간은 애플리케이션을 열고, 양식을 채우고, 버튼을 클릭하고, 메뉴를 탐색하며, 기계의 언어를 배웠습니다. 인터페이스가 경험의 중심이었습니다.

에이전트와 함께라면, 그 논리는 변화합니다.

인간은 더 이상 모든 세부 사항을 직접 운영할 필요가 없습니다. 대신, 그들은 의도를 선언합니다. 그들은 자신이 무엇을 원하는지, 어떤 제약 조건 하에서, 어떤 맥락에서, 어떤 권한을 가지고, 그리고 에이전트가 자신을 대신하여 어디까지 행동할 수 있는지를 지정합니다. 에이전트는 더 이상 단순한 도구가 아닙니다; 그것은 인간 의도의 운영적 표현 (operational representation)이 됩니다.

하지만 이는 새로운 과제를 만들어냅니다.

만약 에이전트가 한 개인을 대변한다면, 그것이 적절한 경계 내에서 행동하고 있음을 누가 보장할까요?

그 의도가 권한을 가진 인간으로부터 비롯되었음을 누가 증명할까요?

무엇을 자동화할 수 있는지, 무엇에 확인이 필요한지, 그리고 무엇을 절대 위임해서는 안 되는지를 누가 결정할까요?

H2A2H는 이러한 질문들에 답하기 위해 존재합니다.

H2A2H의 목적은 인간을 대체하는 것이 아닙니다. 그 목적은 저자성 (authorship), 책임성 (accountability), 동의 (consent), 또는 거버넌스 (governance)를 희생하지 않으면서 에이전트가 인간의 역량을 증폭시키는 아키텍처 (architecture)를 구축하는 것입니다.

H2A2H에서 에이전트는 결정의 소유자가 아닙니다. 에이전트는 위임된 의도의 전달자 (carrier)입니다.

H2A2H에서 기업은 더 이상 사용자하고만 소통하지 않습니다. 기업은 사람, 맥락 (context), 권한 (permissions), 그리고 운영적 경계 (operational boundaries)를 대변하는 에이전트와 소통합니다.

H2A2H에서 시스템은 단지 에이전트가 요청했다는 이유만으로 동작을 수락해서는 안 됩니다. 시스템은 누가 그 요청을 승인했는지, 얼마 동안, 어떤 범위 (scope) 내에서, 어떤 세션 (session) 내에서, 어떤 신원 (identity) 하에, 그리고 어떤 정책 (policy)에 따라 요청했는지를 이해해야 합니다.

H2A2H 내에서 신원 (identity)은 인증 (authentication) 그 이상입니다. 신원에는 검증 가능한 행동 (verifiable behavior), 맥락적 권한 부여 (contextual authorization), 존재 (presence), 암호학적 증명 (cryptographic proof), 그리고 감사 가능한 기록 (auditable trail)이 포함됩니다.

인간은 인증합니다.

인간은 위임합니다.

에이전트는 실행합니다.

시스템은 검증합니다.

또 다른 에이전트가 응답합니다.

인간은 결과를 수신하고, 승인하고, 거부하고, 수정하거나, 그 결과에 대한 책임을 집니다.

이것이 전통적인 자동화 (traditional automation)와 책임 있는 에이전트 아키텍처 (responsible agentic architecture) 사이의 근본적인 차이점입니다.

전통적인 자동화는 작업을 실행합니다.

H2A2H는 관계를 조직합니다.

인간과 에이전트 사이의 관계.

에이전트와 기업 사이의 관계.

기업과 에이전트 사이의 관계.

시스템과 도메인 (domains) 사이의 관계.

의도와 실행 사이의 관계.

자율성 (autonomy)과 경계 사이의 관계.

편의성과 책임 사이의 관계.

미래는 단순히 API를 호출하는 개인 비서들로만 구성되지 않을 것입니다.

모든 행동이 의도(intent), 정체성(identity), 범위(scope), 권한(permissions), 증명(proof), 상태(state), 메모리(memory), 추적 가능성(traceability), 그리고 인간의 개입 가능성을 수반하는 완전한 에이전트 체인(agentic chains)으로 구성될 것입니다.

이것은 커머스(commerce)를 변화시킵니다.

소비자는 더 이상 수십 개의 웹사이트를 돌아다닐 필요가 없을 것입니다. 그들은 자신의 목표를 에이전트에게 위임할 것입니다: 이 예산 내에서, 빠른 배송이 가능하고, 신뢰할 수 있는 평판을 가졌으며, 수용 가능한 보증 조건을 갖춘 최적의 제품을 찾아달라고 말이죠.

소비자의 에이전트는 비즈니스 에이전트와 협상하고, 제안을 비교하며, 대안을 평가한 뒤 권장 사항을 전달할 것입니다. 하지만 구매가 상당한 재정적 가치나 리스크를 수반하는 경우, 최종 승인은 인간에게 돌아옵니다.

이것은 고객 서비스(customer service)를 변화시킵니다.

사람들은 더 이상 모든 상호작용 과정에서 자신의 이력을 반복해서 설명할 필요가 없을 것입니다. 그들의 에이전트가 관련 컨텍스트(context)를 정리하고, 요청을 라우팅하며, 기업의 에이전트와 소통할 것입니다.

인간 상담원은 파편화된 대화 대신 간결하고 구조화된 컨텍스트를 전달받게 됩니다. 에이전트는 인간의 케어를 대체하는 것이 아니라, 마찰(friction), 반복, 그리고 불필요한 정보 손실을 제거합니다.

이것은 조직(organizations)을 변화시킵니다.

기업은 더 이상 내부 소프트웨어 시스템만으로 구성되지 않을 것입니다. 기업은 제품, 재고, 결제, 물류, 지원, 법무 운영, 컴플라이언스(compliance), 재무, 데이터, 그리고 고객 관계를 담당하는 도메인 특화 에이전트(domain-specific agents)를 운영할 것입니다.

이러한 에이전트들은 조직적 책임의 연장선상에 머뭅니다. 이들은 정책, 검증 규칙, 그리고 감사 로그(audit logs)에 의해 관리되는 정의된 한도 내에서 작동합니다.

이것은 정부(government)를 변화시킵니다.

시민들은 관료주의(bureaucracy)가 아닌 의도(intent)를 통해 공공 서비스에 접근할 것입니다. 그들의 에이전트가 서류를 정리하고, 자격 요건을 확인하며, 기관 에이전트와 소통할 것입니다.

하지만 공공의 결정, 승인, 거부, 혜택 및 법적 결과는 반드시 투명하고, 감사 가능하며, 책임 있는 인간 당국에 의해 검토 가능해야 합니다.

이것은 헬스케어(healthcare)를 변화시킵니다.

환자들은 진료 예약 전에 증상, 의료 기록, 검사 결과, 복용 약물 및 질문 사항을 정리하기 위해 개인용 에이전트 (personal agents)에 의존할 수 있습니다.

에이전트는 준비 과정과 진료의 연속성 (continuity of care)을 개선하지만, 진단, 처방, 그리고 임상적 판단 (clinical judgment)을 자율 시스템 (autonomous systems)에 맹목적으로 위임할 수는 없습니다. H2A2H는 보조 (assistance), 분류 (triage), 권고 (recommendation), 그리고 전문적인 의료 실무 (professional medical practice) 사이의 명확한 경계를 요구합니다.

이것은 교육을 변화시킵니다.

학생들은 학습 진도를 모니터링하고, 어려움을 식별하며, 학습 계획을 정리하는 에이전트를 가질 수 있습니다.

교사들은 자료 준비, 평가, 그리고 개인화된 피드백을 위해 에이전트에 의존할 수 있습니다.

하지만 교육은 근본적으로 해석, 멘토링, 그리고 지적 발달을 포함하는 인간적인 관계입니다. 에이전트는 교육자와 학습자를 증폭시켜야 하며, 결코 그들을 대체해서는 안 됩니다.

이것은 평판을 변화시킵니다.

에이전트가 개인, 조직, 그리고 역사를 요약하는 세상에서, 첫인상은 점점 더 기계에 의해 만들어질 수 있습니다.

H2A2H는 디지털 평판이 해석 (interpretation), 출처 (provenance), 맥락 (context), 업데이트, 그리고 책임 (responsibility)의 책임 있는 연쇄 (accountable chain)로 취급될 것을 요구합니다.

에이전트의 요약이 단지 확신에 차서 생성되었다는 이유만으로 중립적이라고 가정해서는 안 됩니다.

이것은 소프트웨어 자체를 변화시킵니다.

인터페이스 (Interfaces)가 유일한 진입점이 아니게 됩니다.

버튼 (Buttons)이 주요 상호작용 메커니즘이 아니게 됩니다.

양식 (Forms)이 사용자 의도 (user intent)의 주요 표현 수단이 아니게 됩니다.

소프트웨어는 에이전트가 계약 (contracts), 의도 (intents), 권한 (permissions), 정책 (policies), 그리고 확인 메커니즘 (confirmation mechanisms)을 통해 이해할 수 있는 역량을 노출해야 합니다.

미래의 소프트웨어는 인간에 의해서만 사용되지 않을 것입니다.

인간을 대신하여 행동하는 에이전트에 의해서도 사용될 것입니다.

따라서, 모든 시스템은 새로운 질문에 답해야 합니다.

누가 이 요청을 하고 있는가?

이 요청이 인증된 인간으로부터 시작되었는가?

에이전트에게 권한이 있는가?

그 권한이 여전히 유효한가?

어떤 재정적, 법적, 운영적, 또는 윤리적 경계가 적용되는가?

이 동작을 완전히 자동화할 수 있는가?

명시적인 인간의 확인이 필요한가?

이 동작을 위임해도 되는가?

해당 동작을 어떻게 증명할 수 있는가?

어떻게 감사(audit)하고, 되돌리거나(reverse), 이의를 제기(challenge)할 수 있는가?

이것들은 구현 세부 사항(implementation details)이 아니다.

이것들은 차세대 디지털 인프라의 토대이다.

H2A2H는 일곱 가지 근본 원칙을 제안한다.

첫째, 명시적 의도(explicit intent). 시스템은 단순히 전송되는 단어가 아니라, 무엇이 위임되고 있는지를 이해해야 한다.

둘째, 검증 가능한 신원(verifiable identity). 에이전트(Agent)는 권한 부여(authorization), 존재(presence), 또는 위임된 권한(delegated authority)을 입증할 수 있을 때만 사람을 대리할 수 있다.

셋째, 제한된 범위(limited scope). 어떤 에이전트도 기본적으로 무제한의 권한을 가져서는 안 된다. 모든 위임은 시간, 도메인(domain), 가치, 동작, 그리고 맥락(context)의 한계를 정의해야 한다.

넷째, 위험 기반 거버넌스(risk-based governance). 저위험 동작은 자동화될 수 있다. 민감한 동작은 확인이 필요하다. 중요한 동작은 감독이 필요하다. 금지된 동작은 차단되어야 한다.

다섯째, 감사 가능성(auditability). 모든 중요한 동작은 누가 위임했는지, 어떤 에이전트가 실행했는지, 어떤 시스템이 요청을 수락했는지, 어떤 결정이 내려졌는지, 그리고 최종적으로 어떤 인간이 결과를 받았는지를 보여주는 책임 있는 흔적(accountable trail)을 남겨야 한다.

여섯째, 가능한 경우 언제나 가역성(reversibility). 에이전트 시스템(Agentic systems)은 수정, 분쟁 해결, 롤백(rollback), 재처리(reprocessing), 그리고 감독 하의 자가 치유(supervised self-healing)를 지원해야 한다.

일곱째, 인간으로의 회귀(human return). 사람에게 영향을 미치는 모든 체인은 승인, 설명, 이의 제기 또는 책임을 위해 인간에게 돌아가는 명확한 경로를 보존해야 한다.

가장 큰 실수는 에이전트를 일반 사용자(ordinary users)로 취급하는 것이다.

에이전트는 일반 사용자가 아니다.

그들은 더 빠르고, 더 큰 규모로, 그리고 더 적은 마찰로 행동할 수 있는 운영 대리인(operational representatives)이다. 결과적으로, 적절하게 거버넌스(governance)되지 않는다면 그들은 실수 또한 더 빠르고, 더 큰 규모로, 그리고 더 큰 영향력을 가지고 전파할 수 있다.

또 다른 실수는 에이전트를 자율적인 직원(autonomous employees)으로 취급하는 것이다.

에이전트는 법적 인격(legal personhood)도, 도덕적 책임(moral responsibility)도 가지고 있지 않다.

그들은 그것을 생성, 승인, 구성 또는 배포하는 사람들의 책임 하에 작동한다.

이러한 이유로, H2A2H는 책임 있는 위임 (responsible delegation)의 아키텍처 (architecture)로 이해되어야 한다.

인간이 구매, 협상, 분석, 응답, 교육, 진단, 작동 또는 권고를 수행하기 위해 에이전트 (agent)에 의존할 때마다, 본질적인 질문은 단지 다음과 같은 것이 아니다:

"에이전트가 그것을 할 수 있는가?"

진정한 질문은 다음과 같다:

"에이전트가 그것을 해야 하는가?"

"에이전트가 그것을 할 권한이 있는가?"

"에이전트가 자신이 올바르게 행동했음을 증명할 수 있는가?"

"그리고 에이전트는 언제 통제권이 인간에게 돌아가야 하는지를 알고 있는가?"

그것이 진정한 개척지이다.

세상은 단순히 더 지능적인 에이전트를 필요로 하는 것이 아니다.

세상은 더 책임감 있고 (accountable), 더 검증 가능하며 (verifiable), 더 제약되어 있고 (constrained), 더 감사 가능하며 (auditable), 인간의 책임 속에 더 깊이 통합된 에이전트를 필요로 한다.

H2A2H는 그러한 미래에 대한 응답이다.

이는 인간이 모든 시스템과 직접 상호작용하는 것을 멈추고, 대신 다른 인간을 위한 결과를 생성하기 전에 다른 에이전트들과 협력하는 에이전트들에게 의도를 위임할 때 나타나는 아키텍처를 명명한 것이다.

이것은 편의성과 책임 사이의 가교이다.

이는 자율성 (autonomy)이 방임 (abandonment)으로 변하는 것을 방지한다.

이는 에이전트가 모든 의미 있는 행동의 기원, 경계, 또는 결과로부터 인간을 제거하지 않으면서도 존재할 수 있게 한다.

미래는 단순히 인간 대 컴퓨터 (Human-to-Computer)가 아닐 것이다.

또한 단순히 에이전트 대 에이전트 (Agent-to-Agent)도 아닐 것이다.

미래는 인간 대 에이전트 대 에이전트 대 인간 (Human-to-Agent-to-Agent-to-Human)이 될 것이다.

모든 의도는 누군가로부터 시작되기 때문이다.

모든 실행은 경계를 필요로 한다.

모든 결과는 누군가에게 도달한다.

그리고 모든 진정으로 책임 있는 아키텍처는 시작과 끝 모두에 여전히 인간이 있다는 사실을 기억해야만 한다.