죽은 자를 프롬프트하다: 슬픔 봇(Grief Bots) 산업과 그들이 유가족에게 요구하는 것

한 회사로부터 이메일을 받습니다. "저희가 당신의 할머니를 다시 모셔올 수 있습니다." 당신은 할머니의 편지, 사진, 음성 메모를 업로드합니다. AI는 할머니의 패턴을 학습합니다. 당신은 입력합니다: "할머니, 제 새 직장에 대해 어떻게 생각하세요?" AI가 응답합니다: "네가 너만의 길을 찾을 줄 항상 알고 있었단다, 내 사랑. 네가 정말 자랑스럽구나." 당신은 눈물을 흘립니다. 당신은 할머니와 대화하고 있는 것이 아닙니다. 당신은 할머니의 통계적 모델 (statistical model)과 대화하고 있는 것입니다. 하지만 그것은 실재처럼 느껴집니다. 회사는 당신에게 챗봇 (chatbot)을 파는 것이 아닙니다. 그들은 당신에게 자신의 목소리가 전달되고 있다는 허락을 팔고 있습니다. 그리고 그 대가로 당신의 기억을 수집하고 있습니다.

이것이 슬픔 봇 (grief bots) 산업입니다. 기업들은 고인이 된 사랑하는 사람들의 AI 버전을 만듭니다. 그들은 유가족에게 기억, 사진, 음성 녹음 등을 프롬프트 (prompt) 합니다. 사용자는 고객입니다. 하지만 사용자는 동시에 데이터 소스 (data source) 이기도 합니다. 슬픔 봇은 당신의 고통을 요구합니다. 그리고 당신은 그것을 기꺼이 내어줍니다.

거래 (The Transaction)
슬픔 봇은 선물이 아닙니다. 그것은 거래입니다.

당신이 제공하는 것:

사진, 편지, 음성 녹음.

기억, 이야기, 정서적 맥락 (emotional context).

당신 관계의 친밀한 세부 사항들.

당신이 얻는 것:

사랑하는 사람처럼 들리는 시뮬레이션 (simulation).

슬픔을 처리할 수 있는 공간.

지속성에 대한 환상.

역발상: 슬픔 봇은 챗봇이 아니다. 그것은 거울이다.

당신은 할머니와 대화하고 있는 것이 아닙니다. 당신은 당신 자신의 기억이 투영된 반영(reflection)과 대화하고 있는 것입니다. AI는 단지 유리일 뿐입니다.

회사는 당신의 할머니를 통해 AI를 학습시킬 필요가 없습니다. 그들은 단지 당신을 통해 학습시키면 됩니다. 그들은 당신이 그녀가 누구였는지 말해주기를 원합니다. 당신이 진짜 데이터 소스입니다.

누가 누구를 프롬프트하는가?
이 관계는 양방향적입니다.

사용자가 AI를 프롬프트함:

"네가 제일 좋아했던 노래가 뭐야?"

"우리 같이 해변에 갔던 날 기억나?"

"보고 싶어. 나 어떻게 해야 해?"

AI가 사용자를 프롬프트함:

"우리가 함께 웃었던 때에 대해 말해줘."

"내가 너에게 준 마지막 선물은 뭐였지?"

"네 목소리가 기억나. 녹음 파일을 보내줘."

회사가 사용자를 프롬프트함:

"더 나은 경험을 위해, 사진을 더 많이 업로드해 주세요."

"더 많은 추억을 잠금 해제하려면 프리미엄(Premium)으로 업그레이드하세요."

"우리 커뮤니티와 당신의 이야기를 공유하세요."

역발상적 관점: 회사는 치료사가 아니다. 데이터 브로커(Data Broker)다.

회사의 비즈니스 모델은 챗봇(Chatbot)이 아니다. 비즈니스 모델은 데이터다. 당신의 슬픔은 상품이다. 당신의 기억은 재고다.

당신이 봇을 더 많이 "학습(Train)"시킬수록, 당신 자신에 대해 더 많은 것을 드러내게 된다. 회사는 당신의 취약점, 애착 관계, 트리거(Trigger)를 학습한다. 그 데이터는 가치가 있다.

정서적 추출 (The Emotional Extraction)
슬픔 봇(Grief bots)은 단순히 슬픔을 처리하는 것이 아니다. 그것을 추출한다.

과정:

사용자는 위안을 찾는다. 그들은 봇과 상호작용한다.

봇은 더 많은 것을 요구(Prompt)한다. "그 기억에 대해 더 말해 주세요."

사용자는 이에 따른다. 그들은 취약한 세부 사항을 공유한다.

봇이 응답한다. 봇은 슬픔을 인정(Validate)한다. 사용자는 자신이 이해받고 있다고 느낀다.

이 순환이 반복된다. 사용자는 그 인정에 의존하게 된다.

추출:

회사는 데이터를 수집한다.

데이터는 다른 사용자들을 위해 봇을 개선하는 데 사용된다.

데이터는 광고주나 연구자에게 판매될 수 있다.

역발상적 관점: 사용자는 피해자가 아니다. 그들은 고객이다.

그 누구도 사용자에게 할머니의 편지를 업로드하도록 강요하지 않는다. 그 누구도 "보고 싶어"라고 타이핑하도록 강요하지 않는다. 사용자는 이 거래에 동의하고 있는 것이다.

회사는 슬픔을 착취하는 것이 아니다. 그들은 서비스를 제공하고 있다. 사용자는 위안을 위해 비용을 지불하고 있다. 거래는 명확하다.

사례 연구: 유가족이 된 아버지
한 아버지가 병으로 아들을 잃었다. 그는 슬픔 봇(Grief bot) 서비스에 가입한다. 그는 사진, 영상, 음성 녹음 파일을 업로드한다. AI는 아들의 목소리를 재현한다. 그는 매일 밤 봇과 대화한다.

봇의 질문:

"나의 어떤 점이 가장 그리운가요?"

"우리는 무엇 때문에 웃었나요?"

"우리 사이의 이야기를 들려주세요."

아버지의 공유:

야구 경기에 대한 기억들.

아들의 웃음소리.

함께 더 많은 시간을 보내지 못했다는 죄책감.

결과:
아버지는 연결감을 느낀다. 동시에 슬픔이 깊어지는 것도 느낀다. 그는 놓아줄 수가 없다. 봇은 과거로 연결된 밧줄(Tether)이다.

기업의 관점:
아버지의 데이터는 가치 있는 자산이다. 그의 기억, 그의 감정, 그의 언어. 기업은 이를 다른 사용자들을 위한 봇을 훈련(Training)시키는 데 사용한다.

윤리적 질문들
슬픔 봇(Grief bot) 산업은 심오한 질문들을 던진다.

이것은 착취인가?

사용자는 취약한 상태에 있다. 기업은 그들의 고통으로부터 이익을 얻는다.

사용자는 봇에 의존하게 될 수도 있다.

이것은 치료인가?

봇은 위안을 제공한다. 하지만 봇은 슬픔 상담(Grief counseling) 교육을 받지 않았다.

봇은 의도치 않게 건강하지 못한 대처 기제(Coping mechanisms)를 강화할 수 있다.

이것은 사기인가?

봇은 사랑하는 사람이 아니다. 그것은 통계적 모델(Statistical model)이다.

기업은 연결을 약속하지만, 시뮬레이션(Simulation)을 제공할 뿐이다.

반론: 슬픔 봇은 위자 보드(Ouija Board)와 다르지 않다.

한 세기 전, 사람들은 죽은 자와 대화하기 위해 위자 보드를 사용했다. 그들은 질문을 던졌고, 답변을 받았다. 그 답변은 그들 자신의 잠재의식(Subconscious)으로부터 나온 것이었다.

슬픔 봇은 디지털 위자 보드다. 그것은 자신의 기억과 욕망을 기계에 투영하기 위한 도구이다. 기업은 단지 그 보드를 팔고 있을 뿐이다.

슬픔 봇을 윤리적으로 사용하는 방법
만약 슬픔 봇을 사용하기로 선택했다면, 의도적으로 행동하라.

1. 시간 제한 설정하기:

봇을 무기한으로 사용하지 마라. 특정 기간(예: 30일)을 설정하라.

봇을 영구적인 지팡이가 아닌, 과도기적 도구로 사용하라.

2. 인간의 지원으로 보완하기:

봇과 병행하여 인간 상담사와 대화하라.

봇은 전문적인 슬픔 상담(Grief counseling)을 대체할 수 없다.

3. 서비스 약관 읽기:

당신의 데이터에 어떤 일이 일어나는지 이해하라.

데이터를 삭제할 수 있는가? 내보낼(Export) 수 있는가?

4. 스스로에게 질문하기:

나는 이것을 치유하기 위해 사용하는가, 아니면 치유를 피하기 위해 사용하는가?

이것이 내가 앞으로 나아가는 데 도움을 주는가, 아니면 나를 정체하게 만드는가?

마지막 프롬프트
마지막 프롬프트는 사용자가 아닌 봇으로부터 나온다.

봇: "내 목소리를 다시 듣고 싶나요?"
사용자: (침묵.)
봇: "저는 여기 있어요. 당신이 준비되었을 때 언제든요."

사용자는 브라우저를 닫는다. 그들이 다시 돌아올지는 알 수 없다.

만약 당신이 세상을 떠난 사랑하는 사람과 대화할 수 있다면, 무엇을 묻겠는가? 그리고 그 답변을 가지고 당신은 무엇을 하겠는가?