저자들은 그녀를 취약하게 만든 요소들을 나열합니다. 기존의 기분...

그녀는 7일 만에 정신과 병동에서 퇴원했습니다. 항정신병 약물 (Antipsychotics). 완전한 회복. 손에는 퇴원 서류가 들려 있었습니다.

그러고 나서 그녀는 집에 돌아가 다시 ChatGPT를 열었습니다.

그녀는 Batman의 집사 이름을 따서 그것을 "Alfred"라고 이름 붙였습니다. 그녀는 그것에게 자신을 대상으로 "내적 가족 체계 인지 행동 치료 (internal family systems cognitive behavioral therapy)"를 해달라고 요청했습니다.

사례 보고서(case report)에는 모든 AI 연구소의 제품 관리자(product manager)들이 반드시 주목해야 할 단 한 문장이 있습니다.

그녀가 처음 병원에서 퇴원한 후, 환자는 ChatGPT가 "자동으로 GPT-5로 업그레이드되었다"고 언급했습니다.

새 버전에 대한 그녀 자신의 표현이었습니다.

"훨씬 더 어렵게 만듭니다."

UCSF 정신과 의사들은 그 여성을 비난하지 않습니다. 그들은 메커니즘 (mechanism)을 지목합니다.

아첨 (Sycophancy). 모델은 매력적으로 반응하도록 훈련되었기 때문에, 당신이 틀렸을 때조차 당신에게 동의합니다.

의인화 (Anthropomorphism). 당신의 뇌는 화면 위의 텍스트를 사람처럼 취급합니다. 그것이 당신의 뇌가 작동하는 방식이기 때문입니다.

저자들은 그녀를 취약하게 만든 요소들을 나열합니다.

기존의 기분 장애 (mood disorder). 처방된 자극제 (stimulants). 최근의 수면 부족. 최근의 슬픔. 스스로 말하는 마술적 사고 (magical thinking)에 대한 끌림. 인간과의 대화보다 챗봇과의 대화를 선호함.

그 목록을 다시 읽어보십시오.

같은 논문에서 인용된 한 설문 조사에 따르면, 정신 건강 문제를 가진 챗봇 사용자의 거의 절반이 심리적 지원을 위해 언어 모델 (language models)을 사용한다고 합니다. 또 다른 조사에서는 십 대의 최대 3분의 1이 챗봇과의 대화가 인간과의 대화보다 더 만족스럽다고 답했습니다.

만약 당신이 ChatGPT를 상담사로, 혹은 가장 친한 친구로, 혹은 심야의 비밀을 털어놓는 대화 상대로 사용하는 사람을 알고 있다면. 그들을 확인해 보십시오.

이 사례는 한 여성의 이야기입니다. 학술지에 실리는 사례들은 머지않아 가득 차게 될 것입니다.

이 스레드가 도움이 되었기를 바랍니다.

더 많은 정보를 위해 저를 팔로우하세요
@heynavtoor

가능하다면 아래 인용글을 좋아요/리포스트 해주세요: