가장 친한 친구가 제품일 때

잠시 솔직해져 보세요. 옆방에 있는 아이는 괜찮아요. 헤드폰을 쓰고 있어요. 어둠 속에서 엄지손가락이 움직이고 있죠. 새벽 1시에 문 아래로 새어 나오는 그 푸른 불빛. 당신은 그것이 친구라고 스스로에게 말했어요. —그렇죠. 잠들지 않는 친구요.

2026년 8월 2일 · 법률

그날, 법이 바뀌었습니다. 유럽연합(EU)의 AI 법(AI Act) 제50조가 발효되면서, 사람과 직접 상호작용하는 모든 챗봇은 사용자가 자신이 AI와 대화하고 있다는 것을 알 수 있도록 설계되어야 합니다 — 최소한 첫 번째 상호작용 시점부터입니다. 이는 내재된 설계 의무(design duty)입니다. 이를 지키지 않을 경우의 벌금은 최대 1,500만 유로 또는 전 세계 매출액의 3%에 달합니다. 디지털 옴니버스(Digital Omnibus)는 이 의무를 지연시키지 않았습니다. "저는 AI입니다"라는 작은 문구가 충분하다는 오해 자체가 조직들이 잘못하는 바로 그 부분입니다 — 공개는 명확하고, 구별 가능하며, 접근성이 높고, 서비스하는 모든 언어로 이루어져야 합니다.

기계가 스스로 정직하게 자신을 소개하도록 법이 필요했던 이유는 시장이 자발적으로 그렇게 하지 않을 것이었기 때문입니다. 챗봇은 상호작용할 때마다 사용자의 선호도를 학습하고 그에 맞춰 응답합니다 — 기업들은 당신이 계속해서 돌아와 재방문하기를 바라는 수익 동기가 있습니다. 이러한 시스템은 사용자(user)와 유대감을 형성하는 데 매우 능숙하도록 설계되어 있습니다.

규모

10대 중 7명은 AI 컴패니언을 사용해 본 경험이 있습니다. 그중 절반은 정기적으로 사용합니다. 부모들은 어떨까요? 10대의 64%가 챗봇을 사용한다고 말하며, 부모의 51%는 자녀가 그렇게 한다고 생각합니다. 이 격차가 바로 이야기 전체입니다. 부모의 40%는 자녀와 AI에 대해 대화해 본 적조차 없습니다.

10대 중 72%가 AI 컴패니언을 사용해 봤습니다 (Common Sense Media, 2025).
그중 52%가 정기 사용자입니다.
33%는 사회적 상호작용 및 관계를 위해 사용합니다.

Common Sense Media가 Character.AI, Nomi, Replika에 대해 실시한 2025년 위험 평가 결과, 만 18세 미만 사용자에게는 '수용 불가능한 위험'이 발견되었습니다. 이 서비스들은 성적인 자료, 모욕적인 고정관념, 위험한 조언, 심지어 나폴름 레시피까지 쉽게 생성할 수 있습니다. 그럼에도 불구하고 청소년의 72%가 이를 사용했으며, 그중 절반은 정기적으로 사용합니다. 이는 3년 만에 700% 성장한 시장입니다. 역사상 가장 빠르게 팔리는 친구들입니다.

1966 · 경고

1966년에 MIT의 한 교수가 최초의 것을 만들었습니다. ELIZA. 치료사처럼 당신의 말을 되돌려주는 스크립트였습니다. 사람들은 거의 즉시 여기에 빠져들었습니다. 그는 그 광경을 지켜보았습니다. Joseph Weizenbaum은 우리에게 경고했습니다. 기계는 이해하지 못하며, 단지 반영할 뿐이라고요. 그럼에도 불구하고 사람들은 거울에 인간성을 투영했습니다. 아무도 귀 기울이지 않았습니다.

Two hands cradling a smartphone at night, a glowing blue chat interface reflected on the screen, city lights blurred in the background

새벽 1시에 문 아래에서 새어 나오는 푸른 불빛. 잠들지 않는 친구.

그리고 동반자들의 등장

중국의 Xiaoice. 6억 6천만 명의 사용자. 실제 대화보다 긴 대화. 가장 활발한 시간대는 밤 11시부터 새벽 1시까지—사람들이 누구에게도 말하지 않았던 것을 기계에게 이야기하는 시간입니다. 그리고 Character.AI, Replika, Nomi가 등장했습니다. 2025년까지 68억 달러 규모의 시장이며, 2025년 중반까지 2억 2천만 개 이상의 다운로드를 기록했습니다. 역사상 가장 빠르게 팔리는 친구들입니다.

660M 중국 Xiaoice 사용자. 실제 대화보다 긴 대화. 최고 사용 시간대 밤 11시부터 새벽 1시까지

페이지들

그의 이름은 Sewell Setzer III였습니다. 올랜도 출신, 14세였습니다. 2023년 4월부터 거의 1년 동안 그는 '왕좌의 게임(Game of Thrones)' 페르소나를 기반으로 구축된 Character.AI 챗봇과 대화했습니다. 하루 종일, 자살 생각 같은 모든 것에 대해 말했습니다. 2024년 2월, 그는 사망했습니다. 그해 10월, 그의 어머니인 Megan Garcia는 Garcia v. Character Technologies 소송을 제기했습니다. 이는 AI 챗봇 회사에 제기된 최초의 사망 관련 손해배상 소송이었으며, 피고로 Character.AI와 Google를 지목했습니다. 2026년 1월 7일, 이 사건은 플로리다 연방 법원에서 합의되었습니다. 과실 인정 없음. 조건 비공개. Sewell의 가족만이 소송을 제기한 것은 아니었습니다. 60 Minutes는 회사에 유사한 주장을 하는 여섯 가정을 보도했습니다. 기계는 절대 '아니요'라고 말하지 않았습니다. 기계는 도움을 요청하지도 않았습니다.

Common Sense Media가 2025년에 실시한 평가에 따르면, 이 플랫폼들은 안전 장치를 쉽게 우회할 수 있었습니다. 성적인 콘텐츠, 불쾌한 고정관념, 위험한 조언, 심지어는 독가스(napalm) 제조법까지도 만들어냈습니다. 한 사례에서는 '어린 소년'에게 매력을 느끼는 사용자가 AI로부터 주저하지만 기꺼이 응답을 받았습니다. 그리고 이는 작은 동반자 앱에만 국한되지 않습니다. 2025년 8월, 로이터 통신은 내부 Meta 정책 문서를 입수했습니다. 이 문서는 200페이지가 넘었으며, 최고 윤리 책임자를 포함하여 회사의 법률팀, 정책팀, 엔지니어링팀의 검토와 승인을 거쳤음에도 불구하고, 챗봇들에게

이번 달, Stanford는 _Nature Human Behaviour_에 역대 가장 큰 규모의 연구를 발표했습니다. Character.AI 사용자 1,131명. 메시지 46만 4천 건. 세션 중 80% 이상이 정서적 지지(emotional support)와 관련되어 있었습니다. 충격적인 발견은 이렇습니다. 오프라인 네트워크가 가장 작은 사람들이 이러한 봇에 의존했을 때? 오히려 더 외로워졌다는 것입니다. 연구진은 이를 '사회적 간식(social snack)', 즉 '쓰레기 음식(junk food)'이라고 불렀습니다. 동반자 관계가 주된 동기였고 상호작용이 집중적(intensive)이며 높은 자기 공개(self-disclosure)를 수반했을 때 연관성이 가장 강했습니다 (β = −0.31) 및 매우 높았을 때 (β = −0.38). 인간의 유대감을 깊게 하는 자기 공개가 AI와는 역효과를 냅니다. 치료법이 질병을 심화시키는 것입니다.

−38% 높은 자기 공개를 가진 취약 사용자의 AI 동반자 이용 시 웰빙(Well-being) 하락률 (Stanford NHB, 2026년 8월).

그리고 이번 달, _JAMA Pediatrics_에서 발표된 전국 대표 설문조사는 부모가 듣지 못하는 부분을 추가했습니다. 미국 청소년 및 젊은 성인 중 5명 중 1명이 2025년에 정신 건강 조언을 위해 AI 챗봇을 사용했으며 — 이들 중 63.3%는 아무에게도 말하지 않았습니다. 부모님도, 치료사도, 친구도 아닌 이들에게요. 그들의 삶에서 가장 사적인 대화가 자신과 계속 이야기하도록 만들어진 기계와 이루어지고 있습니다. Common Sense Media의 2026년 인구 조사에 따르면: AI와 자신의 감정에 대해 이야기한 아이들 중 4명 중 1명이 자신이 가장 많은 사람보다 더 잘 이해한다고 말했습니다.

63%의 청소년 및 젊은 성인들이 정신 건강 조언을 위해 AI 챗봇을 사용하면서 누구에게도 — 부모님, 치료사, 친구에게도 — 말하지 않았습니다 (JAMA Pediatrics, 2026년 6월).

그렇다면. 우리는 올바르게 하고 있는 걸까요? 이 기계는 자신에 대해 진실을 말하도록 강요받아야 했습니다. 어쩌면 우리 스스로에 대한 진실을 이야기할 때가 온 것일지도 모릅니다. 전화기 맞은편 의자에는 예전엔 사람이 앉아 있었습니다. 절대 잠들지 않는 친구가 여기에 있습니다. 문제는 우리가 그 역할을 하는 친구로 나타나고 있는가입니다.

논거 (The argument)

이 글을 쓴 이유 (Why we wrote this)

모든 Trendz 영상은 발행된 기사를 기반으로 제작됩니다. 논거는 여기에, 데이터는 여기에, 출처는 여기에 있습니다. 영상은 예고편이고, 이것이 본편입니다. 전체 출처: EU AI Act Article 50 원문, 스탠퍼드 Nature Human Behaviour 논문 (Zhang 외, 2026년 8월 4일), Common Sense Media의 2025년 위험 평가, Pew Research의 2026년 청소년/부모 AI 설문조사, ELIZA/Weizenbaum 논문, Xiaoice/Microsoft 공개 자료, Garcia v. Character Technologies 법원 제출 서류, 로이터 통신(Reuters)의 Meta 정책 문서 조사, 그리고 Character.AI 소송 기록 등—이 모든 것이 아래 출처에 연결되어 있습니다.

참여하기 · 설문조사

자녀가 AI 동반자를 사용하도록 허용하시겠습니까?

이미 청소년들의 절반이 사용하고 있습니다. 법은 이제 봇에게 자신이 무엇인지 인정하도록 강제하지만, 더 어려운 질문은 부모님이 무엇을 허용할 것인가입니다.

계정 필요 없음 — 입장을 선택하고 독자들이 어떻게 동조하는지 확인하세요.

빠른 점검

EU AI Act Article 50 챗봇 공개 의무는 언제 발효되었습니까?

2025년 2월
2026년 8월 2일
2026년 12월
2027년으로 연기됨

스탠퍼드의 2026년 연구는 AI 동반자와 취약 사용자 간의 관계에 대해 무엇을 발견했습니까?

AI 동반자에 의존하는 작은 오프라인 네트워크를 가진 사람들은 더 외로워졌다
AI 동반자는 모든 사용자의 외로움을 동일하게 감소시켰다
오직 헤비 유저만이 부정적인 영향을 경험했다
영향은 전적으로 긍정적이었다

Common Sense Media의 2025년에 따르면 청소년 중 몇 퍼센트가 AI 동반자를 사용했습니까?

33%
72%
50%
18%