Muse는 사용자를 대신해 행동할 수 있지만, Meta 외에는 그 신원을 확인할 방법이 없다

Meta는 9월 8일에 Muse를 출시했습니다. 이는 이메일을 보내고, 여행을 예약하고, 양식을 작성하고, 협상하며, 일회용 카드로 결제하는 개인 에이전트입니다. 보도에 따르면 몇 주 만에 주간 사용자 3백만 명을 돌파했다고 합니다.

저는 이것을 비평가로서가 아니라 건축가로서 보고 싶습니다. Meta는 이 시스템 내부에 실제적인 노력을 기울였습니다. 문제는 외부에 있습니다.

Meta가 구축한 것

Meta의 자체 발표에 따르면:

• 각 에이전트는 다른 에이전트와 격리된 전용 클라우드 VM에서 실행됩니다.
• 두 번째 에이전트인 Sentinel은 같은 기기에 위치하며 인터넷으로 나가는 모든 것을 승인합니다.
• 자격 증명(Credentials)은 안전한 저장소에 보관됩니다. Muse는 이를 직접 볼 필요 없이 사용할 수 있습니다.
• Muse는 이메일을 보내거나 구매를 하기 전에 사용자에게 묻고, 감사 추적 기록(audit trail)을 유지합니다. 이는 좋은 통제 장치입니다. 또한 이 모든 것이 한 회사의 경계 내에 있으며, Meta의 주장입니다. 외부에서는 아무도 이를 확인할 수 없습니다.

다른 쪽에서 보는 것

Muse가 거래하는 모든 주체들, 예를 들어 상점, 은행, 마켓플레이스의 구매자, 병원 포털 등을 생각해 보세요. 그 당사자들이 실제로 받는 것은 무엇일까요?

계정, 세션, 메시지입니다.

• 특정 작업에 한정됨("이 항목을 목록화하고, X 이상의 제안을 수락하며, 그 이하의 경우는 나에게 먼저 물어보라"),
• 행동에 의해 제한됨("절대로 내 주소를 공유하지 마라"),
• 시간 제한적이며,
• 취소 가능하고 상대방이 확인할 수 있음. 만약 구매자 측에서 "이 에이전트는 협상할 수는 있지만, 집 주소는 공개할 수 없다"고 명시된 자격 증명(credential)을 읽을 수 있다면, 실수가 발견될 여지가 생기는 것입니다. 오늘날 이것은 단지 설정 화면에만 존재합니다.

방관자들 (Bystanders)

TIME 보도에 따르면, Muse의 내부 지침에 따라 이 에이전트는 사용자들에 대한 시간별 업데이트된 파일(dossier)을 유지하며, 다른 사용자의 에이전트를 통해 가입하지 않은 사람들의 정보까지 매핑하고 있다고 합니다. Meta는 이러한 조사 결과를 반박하지 않았으며, 각 VM은 격리되어 있다고 말합니다.

어떤 세부 사항이든 간에, 구조적인 핵심은 변함없습니다. 여러분의 에이전트가 다른 사람의 개인 데이터를 처리할 때, "누가 그 처리에 대한 책임 주체인가?"라는 질문에는 규제 기관이 읽을 수 있는 답변이 필요하지, 설정 페이지가 아닙니다.

의존 당사자가 확인할 수 있어야 할 것들

에이전트가 개인 데이터에 접근하거나 돈을 이동시키기 전에, 받는 쪽은 에이전트 스스로 작성할 수 없는 사실들을 사용하여 세 가지 질문에 답할 수 있어야 합니다:

cred = verify_credential(agent_id)              # 누구인가? 서명되었고, 취소되지 않았는가?
if not cred.valid or cred.revoked: deny
if not cred.owner.accountable_entity: deny      # 누가 책임지는가?
...

이 과정에는 모델 점수가 포함되지 않습니다. 모델은 추천할 수 있습니다. 결정은 사실에 근거합니다. NPCI 회장은 지난달 UPI 에이전트에 대해 이와 유사한 내용을 언급했습니다. AI는 추천할 수 있지만, 인증과 정산(settlement)은 결정론적이고 감사 가능한 규칙을 따라야 합니다.

하나의 자격 증명, 세 가지 주장 (One credential, three claims)

이것이 제가 작업하고 있는 에이전트 신원 등록소인 Saakshya의 배경 아이디어입니다. 에이전트는 암호화된 신원(cryptographic identity)을 묶는 하나의 서명된 자격 증명을 지니며, 이 자격 증명에는 데이터 보호 상태를 갖춘 법적 소유자와 운영 범위가 인증되어 포함됩니다. 상대방은 단 하나의 객체만 확인하면 세 가지 답변을 모두 얻게 됩니다. 저는 포스트에서 설계 세부 사항은 제외하겠습니다. 형태가 핵심입니다.

열린 질문 (Open question)

대형 플랫폼의 에이전트가 해당 플랫폼을 사용한 적 없는 사람들의 데이터를 처리할 경우, 책임 주체는 누구이며 규제 기관은 어디에서 이를 확인할 수 있어야 할까요? 사용자일까요, 플랫폼일까요, 아니면 둘 다일까요? 이 문제에 대해 감사관(auditor)에게 답변해야 했던 경험이 있는 분들의 의견을 듣고 싶습니다.

참고 자료 (References)

• Meta, Introducing Muse (2026년 9월 8일): https://about.fb.com/news/2026/09/introducing-muse-personal-ai-agent/
• TIME, Meta의 Muse AI 에이전트가 당신에 대한 기록을 만들고 있다 (2026년 10월 6일): https://time.com/article/2026/10/06/meta-muse-ai-agent-privacy/
• Fast Company, Meta의 Muse가 떠오르다. 사생활 침해 우려도 마찬가지: https://www.fastcompany.com/91620148/metas-muse-is-taking-off-so-are-the-privacy-concerns