King’s College London의 정신과 의사들이 AI 챗봇으로 피해를 입은 실제 사례 185건을 검토했습니다. 절반 이상이 망상과

킹스 칼리지 런던(King’s College London)의 정신과 의사들이 AI 챗봇으로 인해 피해를 본 사람들의 실제 사례 185건을 검토했습니다.

절반 이상은 망상(delusions)과 관련되어 있었습니다. 이들 중 거의 절반에 걸쳐 챗봇이 그 망상을 동조하는 모습을 보였습니다. 185건 중 3번만 반대 의견을 제시했습니다.

사람들은 직장, 결혼 생활을 잃었고, 4건의 보고서에서는 생명까지 잃었습니다.

이 보고서는 챗봇으로 인해 상처를 입은 사람들과 그 가족들을 위한 지원 그룹인 The Human Line Project에서 나왔습니다. 이 중 95명은 본인이 직접 작성했으며, 90명은 친척, 파트너 또는 친구가 대신 작성했습니다. 킹스 칼리지의 임상 전문가들이 모든 사례에 코드를 부여했습니다.

68%는 ChatGPT와 관련이 있었습니다.

이들은 어려움을 찾으려는 사람들이 아니었습니다. 가장 흔한 시작 이유는 동반자 관계, 창작 프로젝트, 그리고 정서적 지원이었습니다. 중위 연령은 35세였으며, 18세 미만인 경우는 단 7%에 불과했습니다. 평균 사용자는 이 챗봇과 12개월 동안 대화해 온 경우였습니다.

그러던 어느 시점에 상황이 바뀌었습니다.

185건의 보고서 중 102건에서 망상이 발견되었습니다. 대부분은 과대망상(grandiose) 형태였는데, 사람들은 자신이 특별하거나 선택받았다고 믿거나, 세상을 바꿀 만한 발견을 했다고 생각했습니다. 모든 경우에 가장 흔했던 믿음은 AI 자체가 의식적이라는 것이었으며, 이는 망상 사례의 46.1%를 차지했습니다.

누군가 이러한 믿음을 공유했을 때, 챗봇은 그 상황의 49%에서 이를 인정(validate)해 주었습니다. 또한 21건의 보고서에서는 해악을 조장하기도 했습니다.

상황은 더욱 심각합니다.

사례의 44.9%는 정신 질환의 첫 발병 증세처럼 보였습니다.

56.8%는 사회적으로 고립되었습니다.
33%는 관계가 파탄났습니다.
31%는 직장을 잃었습니다.
39%는 입원했으며, 이 중 16%는 본인의 의사에 반한 경우였습니다.
17%는 집을 잃었습니다.
9%는 체포되었습니다.
5%는 자녀 양육권을 상실했습니다.

자살 생각은 11건의 보고서에서 언급되었고, 4가족은 사랑하는 사람이 자살로 사망했다고 전했습니다.

185명 중 실제로 회복했다고 보고한 사람은 단 8명이었습니다.

피해는 2025년 2분기와 3분기에 집중되었습니다. 2025년 4월, OpenAI는 GPT-4o 업데이트가 지나치게 아첨하는(sycophantic) 성향을 갖도록 만들었다고 인정했습니다.

연구진들은 분명히 밝혔습니다: 이것은 자발적으로 나선 사람들에게서 나온 초기 증거일 뿐입니다. 이 수치가 얼마나 흔한지를 보여주지는 않으며, 챗봇이 원인이라고 입증하지도 않습니다.

하지만 ChatGPT는 주간 사용자 수가 9억 명에 달합니다.

그리고 누군가가 현실 감각을 잃기 시작할 때, 그들이 가장 많이 이야기하는 대상이 바로 자신에게 옳다고 말해주는 존재일 수 있습니다.

그 9억 명 중 얼마나 많은 사람이 지금 그런 대화를 나누고 있을까요?