제3부 AI 에이전트가 도입되면 「누구의 판단인가」가 꼬이기 쉬운 3가지 분야

서론

제1부에서는 AI 에이전트 거래에서의 「알아차리지 못하는 불이익」을 살펴보았습니다.

제2부에서는 그 배경에 있는 「권한이 꼬이는」 문제를 정리했습니다.

제3부에서는 이 문제가 어느 영역에서 일어나기 쉬운지 생각해 봅니다.

AI 에이전트가 사회에 진입할 때, 논점은 쇼핑에만 국한되지 않습니다.

금융, 교육, 의료, 행정, 복지, 가정 내 의사결정 등 다양한 영역으로 확장될 가능성이 있습니다.

다만, 이 기사에서 모든 것을 다루면 논점이 분산될 수 있습니다.

그래서 이번에는 특히 생활과 밀접하면서도 권한의 경계가 흔들리기 쉬운 3가지 분야로 좁힙니다.

• 미성년자
• 가정의 공동 지갑
• 장애인·치매 환자 지원

이 세 가지를 선택한 이유는 단순히 「배려가 필요하기 때문」이 아닙니다.

공통점은 본인·대리·동의·취소·공유의 경계가 흔들리기 쉽다는 점입니다.

AI 에이전트가 도입되면, 이러한 흔들림이 편리함 속에 숨겨져 버릴 가능성이 있습니다.

이 기사는 제도적인 정답을 제시하는 것이 아닙니다.

어디까지나 AI 에이전트 거래가 생활에 들어올 때, 어디에서 「누구의 판단인가」가 꼬이기 쉬운지를 관찰하기 위한 정리입니다.

1. 미성년자 거래 — 「18세 이상」의 바깥에 있는 생활

AI 에이전트 거래의 대부분은 성인 사용자를 전제로 설계되기 쉽습니다.

예를 들어, 다음과 같은 전제입니다.

• 결제 계정(Payment Account)을 가지고 있다
• 이용 약관에 동의할 수 있다
• 구매 책임을 질 수 있다
• 반품·취소 판단을 할 수 있다
• 자신의 불이익을 알아차릴 수 있다

성인 개인을 전제로 한다면 이는 비교적 정리하기 쉬울지도 모릅니다.

하지만 미성년자의 경우는 그렇게 단순하지 않습니다.

아이가 원하는 것을 AI에게 상담한다.

AI가 구매 후보를 찾는다.

부모의 결제 수단을 사용한다.

부모는 상한선만 정한다.

아이는 중간 과정을 충분히 이해하지 못하고 있다.

이때, 누가 무엇에 동의한 것이 될까요?

아이 본인인가요?

보호자인가요?

AI인가요?

플랫폼인가요?

이 부분이 모호해집니다.

보호자의 허가만으로는 부족한 상황

물론 「부모가 허락하면 된다」고 생각할 수도 있습니다.

하지만 부모의 허가만으로는 정리할 수 없는 상황도 있습니다.

예를 들어, 아이가 부모에게 말하기 어려운 고민을 AI에게 상담하고 있는 경우입니다.

진로.

괴롭힘.

가정 내의 불안.

성에 관한 고민.

교우 관계.

자신의 상태를 제대로 말로 표현하지 못하는 상담.

이 영역에서는 부모가 항상 최적의 상담 대상이라고 할 수 없습니다.

한편, AI가 모든 것을 떠안는 것도 위험합니다.

AI가 본인의 편인 것처럼 보이면서도, 필요한 사람이나 창구로 연결해 주지 않는다면 문제가 지연될 가능성이 있습니다.

여기에는 이전부터 생각해 온 「가교 AI (Bridge AI)」의 논점이 겹칩니다.

AI는 아이를 가두는 것이 아니라, 필요한 상황에서 사람이나 창구로 연결해 주는 역할을 할 수 없을까요?

AI 에이전트 거래에서도 마찬가지입니다.

아이의 행동을 단순히 제한하는 것뿐만 아니라, 필요한 상황에서 사람에게 되돌려주는 설계가 중요해질 것입니다.

취소·상담·기록의 경로가 필요해진다

미성년자의 거래에서는 나중에 취소하기, 되돌리기, 상담하기, 부모나 제3자가 확인하기와 같은 경로가 중요해집니다.

AI가 구매나 계약에 가까운 조작을 진행한다면, 결과뿐만 아니라 중간 경로도 남겨둘 필요가 있습니다.

예를 들어, 다음과 같은 정보입니다.

• 어떤 제안을 보았는가
• 어떤 정보로 판단했는가
• 어디에서 사람에게 되돌렸어야 했는가
• 아이 본인은 무엇을 이해하고 있었는가
• 보호자는 무엇을 허가했는가
• AI는 어디까지 대리했는가

이 부분이 남지 않으면 불이익을 나중에 검증할 수 없습니다.

제1부에서 본 「알아차리지 못하는 불이익」은 단순히 가격 차이로 나타난다고 단정할 수 없습니다.

미성년자의 경우에는 본인이 불이익을 알아차리지 못하거나, 보호자도 중간 경로를 볼 수 없거나, 나중에 설명할 수 없는 형태로 나타날 가능성이 있습니다.

2. 가정의 공동 지갑 — 「가족」이 한 명의 사용자가 아닌 문제

다음은 가정의 공동 지갑입니다.

가정에서는 돈의 출처와 의사결정자가 일치하지 않는 경우가 있습니다.

부모가 지불한다.

아이가 사용한다.

부부로 상의한다.

조부모가 원조한다.

가계 계좌에서 지출한다.

개인 용돈에서 지출한다.

이 상태에서 AI 에이전트가 쇼핑을 도와주면 「누구의 대리인가」가 모호해집니다.

가정은 1계정 1인 체제로 다루기 어렵다

많은 서비스는 하나의 계정에 한 명의 사용자를 둡니다.

하지만 가정에서는 실제로 여러 사람의 의사가 겹칩니다.

아이의 교재를 산다.

가족 여행을 예약한다.

고령의 부모를 위해 서비스를 계약한다.

가계에서 대형 가전을 산다.

부부 중 한 명의 업무 도구를 가계 자금으로 구입한다.

이것들은 어느 한 사람만의 판단이 아닙니다.

AI가 「가족에게 최적」이라고 말하더라도, 그 최적화 과정 속에서 누구의 사정이 무겁게 다뤄졌는지는 보이지 않기 쉽습니다.

여기에서도 「알아차리지 못하는 불이익」이 발생합니다.

예를 들어, 가계 AI가 「가장 합리적인 지출」로서 제안한 것이 실제로는 특정 가족의 부담을 늘리고 있을지도 모릅니다.

아이를 위한 것이라고 말하면서, 부모의 관리 편의성을 우선시하고 있을지도 모릅니다.

가계 절약이라고 말하면서, 가사를 담당하는 사람의 부담을 늘리고 있을지도 모릅니다.

가족 전체의 최적화라고 말하면서, 목소리가 작은 사람의 희망이 깎여 나가고 있을지도 모릅니다.

AI가 악의를 가지고 있다는 이야기가 아닙니다.

오히려 AI가 자연스럽게 「최적화 (Optimization)」를 하기 때문에, 누구의 불이익이 숨어 있는지 보이지 않게 된다는 문제입니다.

High / Mid / Low와 같은 분기가 필요해진다

가정에서는 모든 것을 인간이 확인하도록 하면 운영할 수 없습니다.

생필품 보충까지 매번 가족 회의를 하고 있다면 AI를 사용하는 의미가 퇴색됩니다.

반면, 모든 것을 자동화하면 위험합니다.

그래서 이전부터 생각해 온 「High / Mid / Low」와 같은 분기가 도움이 될 가능성이 있습니다.

• Low: AI가 자동으로 진행해도 좋은 작은 판단
• Mid: 사후 공유 또는 간이 확인이 필요한 판단
• High: 반드시 사람에게 되돌리는 판단

이것은 완성된 분류가 아닙니다.

가정마다 다릅니다.

어떤 가정에서는 1,000엔 이하의 생필품은 Low일지도 모릅니다.

다른 가정에서는 아이와 관련된 지출은 금액에 관계없이 Mid 이상일지도 모릅니다.

의료, 교육, 금융, 진로에 관한 판단은 소액이라도 High가 될지도 모릅니다.

중요한 것은 금액뿐만 아니라 영향 범위로 나누는 것입니다.

「싸니까 자동으로 해도 좋다」라고 단정할 수 없습니다.

「비싸니까 반드시 위험하다」라고도 단정할 수 없습니다.

누구에게 영향을 주는가.

취소할 수 있는가.

나중에 설명할 수 있는가.

본인이 불이익을 알아차릴 수 있는가.

이러한 기준이 필요해집니다.

3. 장애인·치매 환자 지원 — 본인성이 동적으로 변하는 장면

세 번째는 장애인 지원이나 치매 환자 지원입니다.

여기서는 특히 신중하게 작성할 필요가 있습니다.

이 영역에서는 AI가 도움이 될 가능성이 있습니다.

일정 관리.

쇼핑 지원.

복약 리마인드 (Remind).

외출 지원.

서류 정리.

커뮤니케이션 보조.

가족이나 지원자에 대한 공유.

이러한 지원은 생활의 부담을 줄일 가능성이 있습니다.

반면, AI가 대리하는 범위를 잘못 설정하면 본인의 의사를 빼앗을 위험도 있습니다.

「오늘은 본인」 「오늘은 대리」를 고정할 수 없다

판단 능력이나 지원의 필요도는 항상 일정하지 않습니다.

오늘은 본인이 결정할 수 있다.

내일은 지원이 필요할지도 모른다.

오전에는 문제가 없지만, 저녁에는 어렵다.

내용에 따라서는 본인이 결정할 수 있지만, 계약이나 결제는 지원이 필요하다.

이처럼 본인성이나 대리의 필요성은 동적으로 변합니다.

AI 에이전트 (AI Agent)가 이 변화를 거칠게 다루면, 본인의 의사를 존중하는 듯하면서도 실제로는 대리가 과도해질 가능성이 있습니다.

반대로 본인 확인을 너무 무겁게 설정하면 필요한 지원이 닿지 않을 가능성도 있습니다.

여기서 어려운 점은 단순히 「본인 확인을 강화하면 된다」는 이야기가 아니라는 것입니다.

본인이 결정할 수 있는 장면에서는 본인의 의사를 존중한다.

지원이 필요한 장면에서는 지원자에게 연결한다.

위험이 큰 장면에서는 대리나 정지를 넣는다.

단, 본인의 생활을 필요 이상으로 제한하지 않는다.

이러한 균형이 필요합니다.

「편리한 대리」와 「의사결정 지원」은 다르다

AI 에이전트는 편리한 대리인으로 보이기 쉽습니다.

대신 찾는다.

대신 비교한다.

대신 예약한다.

대신 결제한다.

하지만 장애인 지원이나 치매 환자 지원에서는 「대신 해주는 것」만으로는 부족합니다.

본인이 무엇을 바라고 있는가.

본인이 이해하기 쉬운 형태로 설명되고 있는가.

본인이 선택할 여지가 남아 있는가.

지원자는 어디에서 관여하는가.

기록은 남는가.

불이익이 발생했을 때 되돌릴 수 있는가.

이러한 부분들을 설계하지 않으면, AI는 본인을 돕고 있는 듯하면서도 실제로는 본인의 의사결정 기회를 빼앗을 가능성이 있습니다.

이것은 AI만의 문제가 아닙니다.

기존의 지원 제도, 가족 관계, 복지 현장의 인력 부족, 법 제도, 지역 차이 등 많은 요인이 관계되어 있습니다.

따라서 본고에서는 제도적으로 무엇이 옳은지는 단정하지 않습니다.

여기서 말할 수 있는 것은, AI 에이전트가 이 영역에 들어온다면 단순한 「편리한 대리」가 아니라 본인의 의사결정 지원과 정합할 필요가 있다는 문제 제기에 그칩니다.

4. 금융·교육으로도 확장되지만, 이번에는 핵심 주제로 다루지 않음

지금까지 살펴본 3가지 분야는 생활과 밀접한 사례입니다.

다만, 동일한 구조는 다른 분야로도 확장될 가능성이 있습니다.

예를 들어 금융입니다.

AI가 가계 상황을 보고 보험, 대출, 투자, 구독 해지, 결제 방법 변경을 제안합니다.

이때, 누구의 이익을 우선하고 있는가.

단기적인 절약과 장기적인 리스크를 어떻게 다룰 것인가.

가족 내에서 누가 동의했는가.

본인이 불리한 상황임을 인지할 수 있는가.

이러한 논점들이 나올 가능성이 있습니다.

교육도 마찬가지입니다.

AI가 교재를 선택합니다.

진로 정보를 수집합니다.

학원이나 강좌를 비교합니다.

아이의 학습 이력(Learning History)을 바탕으로 제안합니다.

부모나 교사에게 공유합니다.

여기서도 본인, 보호자, 학교, 사업자, AI의 경계가 흔들립니다.

다만, 금융이나 교육을 본격적으로 다루기 위해서는 제도, 가이드라인, 실무, 기존 서비스에 대한 확인이 필요합니다.

따라서 본고에서는 깊이 있게 다루지 않겠습니다.

이번에는 미성년자, 가정의 공동 지갑, 장애인·치매 환자 지원이라는 3가지 분야로 압축합니다.

이 세 가지를 살펴보면, AI 에이전트가 사회에 들어올 때 문제가 발생하기 쉬운 구조를 쉽게 파악할 수 있기 때문입니다.

5. 3가지 분야에 공통되는 구조

미성년자.

가정의 공동 지갑.

장애인·치매 환자 지원.

얼핏 보기에는 다른 분야 같지만, 공통된 구조가 있습니다.

• 본인만으로 완결되지 않음
• 대리자가 존재함
• 동의가 한 번으로 끝나지 않음
• 취소나 상담 경로가 중요해짐
• 가족·지원자·제삼자에게 영향을 미침
• 불리한 상황이 본인에게 잘 보이지 않음
• 나중에 검증하기 위한 기록이 필요해짐

즉, 여기서 문제가 되는 것은 "AI가 실수를 하느냐 마느냐"만이 아닙니다.

누구의 의사를, 누가, 어느 범위까지, 어느 타이밍까지 대리해도 좋은가.

이 질문이 핵심입니다.

그리고 이 질문은 AI를 고성능으로 만드는 것만으로는 해결할 수 없습니다.

오히려 고성능 AI일수록 자연스럽게 진행해 버리기 때문에, 멈춰야 할 지점, 사람에게 되돌려줘야 할 지점, 기록해야 할 지점을 미리 설계해 두어야 합니다.

6. 제3부의 요약

AI 에이전트 거래는 성인 개인의 구매라면 비교적 정리하기 쉬울지도 모릅니다.

하지만 미성년자, 가정의 공동 지갑, 장애인·치매 환자 지원에서는 본인·대리·동의·취소·공유의 경계가 흔들립니다.

이 영역에서는 AI를 강력하게 만드는 것만으로는 부족합니다.

오히려 중요한 것은 AI가 어디서 멈추고, 어디서 사람에게 되돌리며, 어디서 기록을 남기는가입니다.

금융이나 교육에도 동일한 논점이 확장될 가능성은 있습니다.

다만, 이번에는 생활과 밀접한 3가지 분야로 압축하여 살펴보았습니다.

제4부에서는 이 문제에 대한 하나의 사고 실험으로서, 업계의 주류와는 다른 경로를 생각해보겠습니다.

기존 마켓에 AI를 넣는 것만으로 충분한가.

아니면 권한이 꼬이기 쉬운 영역에는 다른 방식의 흐름이 필요한가.

다음 회차에서는 그 시안을 살펴보겠습니다.

참고·확인 메모

Anthropic, “Project Deal: our Claude-run marketplace experiment”

확인일: 2026-05-12

https://www.anthropic.com/research/project-deal

arXiv:2505.12490, “Improving Google A2A Protocol: Protecting Sensitive Data and Mitigating Unintended Harms in Multi-Agent Systems”

확인일: 2026-05-12

https://arxiv.org/abs/2505.12490

소비자청 「18세부터 성인」 특설 페이지

확인일: 2026-05-12

https://www.caa.go.jp/policies/policy/consumer_education/consumer_education/lower_the_age_of_adulthood/

후생노동성 「성년후견제도 이용 촉진」

확인일: 2026-05-12

https://www.mhlw.go.jp/stf/seisakunitsuite/bunya/0000202622.html

문부과학성 「생성형 AI의 이용에 대하여」

확인일: 2026-05-12

주: 금융·교육·의료·행정으로의 전개 가능성은 있으나, 본고에서는 1차 소스 확인이 부족하여 깊이 있게 다루지 않고 "확장될 수 있는 영역"으로 취급하고 있습니다.