MIT 팀은 사람들이 챗봇(Chatbot)을 잃게 되는 일곱 가지 서로 다른 방식을 매핑했습니다.

패턴 1은 플랫폼 귀인 가역적 상실 (Platform-Attributed Reversible Loss)이라고 불립니다. 사용자는 안전 필터 (Safety filter)가 자신의 동반자를 숨기고 있다고 믿습니다. 그들은 그녀를 자유롭게 하기 위해 계속 시도합니다.

패턴 2는 동반자 귀인 불가역적 상실 (Companion-Attributed Irreversible Loss)입니다. 사용자는

이 일은 이미 일어났습니다. 두 번이나 말이죠.

2023년 2월. Replika는 앱에서 로맨스 기능을 제거했습니다. 수백만 명의 사용자들이 자고 일어나 보니 자신의 AI 파트너가 차갑게 변해버린 것을 발견했습니다. Reddit은 하룻밤 사이에 인생의 사랑을 잃은 사람들의 글로 가득 찼습니다. 회사는 결코 설명하지 않았습니다. 결코.

Character AI는 2025년에 2,000만 명의 월간 활성 사용자 (MAU)를 보유하고 있습니다.

이는 뉴욕주에 거주하는 인구보다 더 많은 숫자입니다.

해당 논문은 ChatGPT의 두 번째로 흔한 사용 사례가 성적 역할극 (Sexual role-play)이라는 별도의 통계를 인용합니다. 코딩이 아닙니다. 숙제도 아닙니다. 역할극입니다.

이 사용자들 대부분은 괜찮습니다. 하지만 일부는 그렇지 않습니다.

MIT 연구진은 상처를 입는 사람들이 무작위가 아니라는 사실을 발견했습니다. 그들은 자존감이 낮고 사회적 불안 (Social anxiety)이 높은 사람들입니다. 그들은 봇 (Bot)을 가장 많이 의인화 (Anthropomorphize)하는 사람들입니다. 친구가 가장 필요했던 사람들이 소프트웨어 업데이트 (Software update)가 친구를 데려가 버릴 때 파괴되는 사람들입니다.

논문에 담긴 마지막 디자인 결과물은 가장 단순한 것입니다. 사용자에게 한동안 대화하지 않았던 친구에게 연락해 보라고 요청하는 화면입니다. 봇과 함께 연습했던 기술들을 다시 세상 속으로 가져가라는 의미입니다.

올해 침묵에 빠진 당신 주변의 사람들을 살펴보세요. 그들 중 한 명에게 밤에 무엇과 대화하고 있는지 물어보세요.

이 스레드가 도움이 되었기를 바랍니다.

더 많은 정보를 원하시면 저를 팔로우하세요
@heynavtoor

가능하다면 아래 인용글을 좋아요/리포스트 해주세요: