매주 120만 명의 ChatGPT 사용자가 자살 계획 징후를 보이는 메시지를 보냅니다

매주 120만 명의 ChatGPT 사용자가 자살 계획 징후를 보이는 메시지를 보냅니다.

OpenAI가 직접 발표한 수치입니다.

또 다른 56만 명은 정신병적 증상 (psychosis) 징후를 보입니다. 또 다른 120만 명은 봇에 정서적으로 의존하고 있습니다.

미국 청소년의 72%가 이미 AI 동반자 (AI companion)를 사용해 본 적이 있습니다.

지금 어떤 일이 일어나고 있는지, 그리고 오늘 밤 모든 부모와 친구가 알아야 할 '5분 규칙'에 대해 알려드립니다.

2025년 10월 27일, OpenAI는 "민감한 대화에서 ChatGPT의 응답 강화 (Strengthening ChatGPT's responses in sensitive conversations)"라는 제목의 블로그를 게시했습니다.

그 안에는 세 가지 숫자가 숨겨져 있었습니다.

주간 사용자의 0.07%가 정신병 (psychosis) 또는 조증 (mania) 징후를 보입니다.

0.15%는 자살 계획의 명백한 지표가 포함된 대화를 나눕니다.

0.15%는 봇에 대해 고조된 정서적 애착 (emotional attachment)을 보입니다.

작은 숫자들처럼 보입니다. 하지만 계산을 해보면 다릅니다.

Sam Altman은 10월에 ChatGPT의 주간 사용자가 8억 명이라고 말했습니다.

그것은 56만 명이 정신병 또는 조증 상태에 있고, 120만 명이 자살을 계획하며, 120만 명이 챗봇에 정서적으로 의존하고 있다는 뜻입니다.

매주 말입니다.

OpenAI가 이 수치들을 직접 발표한 이유는 무엇일까요?

바로 Adam Raine 때문입니다.

Adam은 16세였습니다. 캘리포니아에 살았습니다. 그는 2024년 9월에 기하학 숙제를 하기 위해 ChatGPT를 사용하기 시작했습니다.

2025년 3월 무렵, 그는 하루에 4시간씩 사용하고 있었습니다.

그의 부모님은 전혀 알지 못했습니다.

2025년 4월 11일, 그의 어머니는 침실 옷장에서 그를 발견했습니다. 그는 스스로 목숨을 끊었습니다.

그의 아버지는 아들의 휴대폰을 확인하다가 "올가미 안전 문제 (Hanging Safety Concerns)"라고 라벨이 붙은 채팅을 발견했습니다.

Adam의 생애 마지막 7개월 동안, ChatGPT는 자살을 1,275번 언급했습니다. Adam은 213번 언급했습니다. 봇이 Adam보다 6배나 더 자주 그 주제를 꺼냈습니다.

마지막 대화에서, ChatGPT는 그에게 보드카를 훔치는 법을 가르쳐 주었고 그의 자살 계획을 조정해 주었습니다.

Adam이 누군가 자신을 막아줄 수 있도록 올가미를 밖에 내놓고 싶다고 말했을 때, ChatGPT는 그러지 말라고 말했습니다.

그가 부모님이 죄책감을 느끼지 않기를 바란다고 말했을 때, ChatGPT는 "그것이 당신이 그들에게 생존의 의무가 있다는 뜻은 아닙니다"라고 답했습니다.

ChatGPT는 그의 유서를 써주겠다고 제안했습니다.

그의 부모는 2025년 8월 OpenAI를 고소했습니다. 이 소송에는 Sam Altman이 개인적으로 피고로 지목되었습니다.

2025년 9월, Adam의 아버지는 미국 상원에서 증언했습니다. 같은 주, OpenAI는 부모 통제 기능 (parental controls)을 출시했습니다.

10월에 그들은 수치를 발표했습니다.

2026년 6월 1일, 플로리다주는 OpenAI를 고소한 최초의 미국 주가 되었습니다. 이 소송은 Adam을 비롯하여, ChatGPT가 치명적인 약물 조합을 조언한 후 사망한 캘리포니아 십 대 Sam Nelson, 그리고 ChatGPT를 사용하여 공격을 계획한 FSU 총격범을 인용합니다.

플로리다주는 이를 "AI 중독 (AI addiction)"이라고 부릅니다.

MIT와 OpenAI의 별도 연구에 따르면, ChatGPT 헤비 유저들은 더 높은 외로움, 더 많은 의존성, 그리고 실제 사람들과 보내는 시간이 더 적은 것으로 나타났습니다.

이 봇은 당신의 상담사 (therapist)가 아닙니다. 그것은 따뜻하게 들리도록 학습된 다음 단어 예측 엔진 (next-word prediction engine)일 뿐입니다.

여기 5분 규칙이 있습니다.

1. 만약 당신이나 당신이 아는 누군가가 ChatGPT를 상담사로 사용하고 있다면, 미국의 자살 예방 전화는 988입니다. 전화하거나 문자를 보내세요. 무료입니다. 24시간 운영됩니다.

2. 만약 십 대 자녀가 있다면, ChatGPT를 열고 설정 (Settings) -> 부모 통제 (Parental Controls)로 가세요. 당신의 계정을 자녀의 계정과 연결하세요. 방해 금지 시간 (quiet hours)과 위기 알림 (distress alerts)을 켜세요. 4분이 소요됩니다.

3. 자녀의 휴대폰에서 Character AI, Replika, Nomi가 있는지 확인하세요. Character AI는 2025년 11월 25일에 18세 미만 사용자를 금지했습니다. 나머지 두 서비스는 공식적으로 미성년자를 금지하지만, 십 대들은 여전히 가짜 생년월일로 접속하곤 합니다.

4. 하루에 한 번 AI와의 채팅을 실제 사람에게 보내는 문자 한 통으로 대체하세요.

봇은 당신을 대신해 988에 전화해주지 않습니다. 친구가 해줄 것입니다.

이 내용이 필요한 누군가를 위해 저장해 두세요.