에이전트의 결제가 인간의 목소리 사용 권한을 의미하지는 않습니다

AI 에이전트는 이제 전화를 걸고, 구매를 하고, 공급업체를 선택하고, 시스템 전반에 걸쳐 작업을 완료하는 능력을 갖추게 되고 있습니다.

이는 거래가 매우 빠르게 합법적으로 보이게 만들 수 있습니다. 지갑에서 결제가 이루어지고, API가 응답하며, 영수증이 존재하기 때문입니다.

하지만 깨끗한 거래 기록이 음성 상거래(voice commerce)에서 가장 중요한 질문에 답하지는 못합니다:

이 에이전트가 특정 방식으로 이 사람의 목소리를 사용할 구체적인 권한을 가지고 있었는가?

우리는 결제 자동화가 조용히 인간의 허가를 대신하는 수단(proxy)이 되도록 내버려 두어서는 안 됩니다.

에이전트는 음성 권한 없이도 권한을 가질 수 있습니다

조직은 에이전트에게 번역 구매, 미디어 서비스 조달 또는 라이선스 청구서 결제를 승인할 수 있습니다. 이는 의미 있는 권한입니다. 하지만 합성 퍼포먼스를 의뢰하거나, 라이선스를 새로운 영역으로 확장하거나, 대상 청중을 변경하거나, 인식 가능한 목소리로 새로운 메시지를 생성하도록 하는 '무제한 체크(blank check)'는 아닙니다.

음성 사용은 단순한 조달 세부 사항이 아닙니다. 이는 정체성, 평판, 생계, 그리고 사람이 자신의 퍼포먼스가 창출하는 가치에 대해 계속 주장할 수 있는 권리에 영향을 미칠 수 있습니다.

그렇기 때문에 승인에는 자체적인 기록이 필요합니다. 최소한 시스템은 다음을 평가할 수 있어야 합니다:

• 관련된 자산 또는 음성 모델;
• 승인된 사용 및 메시지 클래스;
• 에이전트의 주체(principal)와 식별된 구매자;
• 대상 청중, 채널, 영역, 그리고 기간;
• 보상 및 로열티 조건;
• 철회 또는 취소 상태.

제안된 사용이 해당 기록 범위를 벗어나는 경우, 생성이나 전달이 발생하기 전에 조치가 실패해야 합니다. 유효한 카드, 지갑 또는 청구서만으로는 충분하지 않습니다.

거래 증거는 결론이 아니라 시작입니다

이것은 저희가 상거래 관찰 가능성(commerce observability) 작업에서 탐구하고 있는 제품 경계입니다. 한 상호작용은 지갑, 거래 상대방, 서비스, 정산, 그리고 지원 증거를 통해 검사될 수 있습니다. 관계 그래프는 확인된 정산과 누락된 정산을 구별하며, 단순히 대시보드 총액에 의존하는 것이 아니라 행동의 경로를 검사 가능하게 만듭니다.

이것은 중요합니다. 왜냐하면 “지불이 완료되었다”라는 것은 좁은 사실일 뿐이기 때문입니다. 그것만으로는 에이전트가 올바른 대리인을 대표했는지, 허가된 서비스를 선택했는지, 또는 여전히 적용되는 조건 하에 행동했는지를 독립적으로 확립할 수 없기 때문입니다.

음성 시스템의 경우, 책임 소재 그래프(accountability graph)는 거래 사실을 권리 사실과 연결해야 합니다:

대리인 → 위임된 권한 → 음성 자산 → 범위가 지정된 부여 → 구매자 → 생성 또는 전달 → 사용 증거 → 로열티 → 정산 → 철회

각 링크는 별개의 주장을 담고 있습니다. 이것들을 광범위한 API 권한으로 통합하는 것은 플랫폼에게 자동화를 편리하게 만들지만, 음성이 관련된 사람에게는 위험합니다.

정책 방향은 책임 있는 에이전트로 이동하고 있다

영국 정보국(Information Commissioner’s Office)은 10월 8일 주요 AI 개발사들로부터 더 명확한 투명성, 사람들이 자신의 권리를 행사할 수 있는 더 강력한 메커니즘, 그리고 더 엄격한 안전장치 평가를 포함하는 변화를 확보했다고 밝혔습니다. 또한 에이전트형 AI(agentic-AI) 테스트 및 배포에 관한 활발한 문의 사항을 설명했으며, 여기에는 책임 소재, 투명성, 자동화된 의사 결정, 합법적인 데이터 사용 등이 포함됩니다.

이는 음성에만 국한된 규칙이 아닙니다. 이는 음성 빌더들에게 유용한 경고입니다: 에이전시(agency)가 누가 행동하는지, 어떤 권한으로, 그리고 사람들에게 어떤 영향을 미치는지 알아야 할 의무를 제거하지는 않습니다.

공통 원칙은 간단합니다: 모델이나 기록의 존재 자체가 모든 미래 사용을 승인한다는 의미는 아닙니다.

실행뿐만 아니라 거부할 수 있도록 구축하라

가장 강력한 에이전트 시스템은 모든 요청을 완료하는 시스템이 아닐 것입니다. 그들은 자신이 정당화할 수 없는 요청을 거절할 수 있는 시스템일 것입니다.

음성 라이선싱의 경우, 이는 에이전트가 구매, 생성, 전달 또는 재라이선스하기 전에 특정 권한을 평가하는 사전 검토(preflight decision)를 의미합니다. 이는 무엇이 승인되었는지에 대한 증거를 보존하고, 합의된 참여자에게 비용을 지불하며, 이전 유효 사용 기록을 지우지 않으면서 변경된 권한 상태를 준수한다는 것을 의미합니다.

Uspeaks는 바로 그러한 음성 경제(voice economy)를 구축하고 있습니다. 즉, 자동화가 인간의 정체성을 무제한적인 입력값으로 변환시키지 않으면서도 실제 기회를 창출할 수 있는 형태입니다.

에이전트 지급액은 돈이 이동했음을 증명할 수는 있지만, 그 에이전트가 다음에 무엇을 할지 결정하는 데 인간의 목소리가 사용 가능했다는 것을 증명할 수는 없습니다.

음성은 자산(asset)입니다. 따라서 에이전트 권한은 이를 자산처럼 취급할 수 있을 만큼 정확해야 합니다.

출처

• ICO: AI 에이전트에 대한 심층 조사 확대
• Napster: 음성 복제 및 음성 합성 — 허용되는 사용 및 제한 사항
• SAG-AFTRA: 인공지능 자료