AI가 "저도 비슷한 상황을 겪었습니다"라고 말할 때: 동료 지원가(Peer-Like Caregiver Support) 모델에서의 합성된 삶의
요약
LLM이 간병인 지원 과정에서 실제 경험 없이도 마치 경험이 있는 듯한 언어를 생성하는 '합성된 삶의 경험의 역설'을 연구합니다. 연구 결과, AI는 정서적 표현은 모방하지만 실제 경험적 근거는 결여된 '서사적 진정성 격차'를 보였습니다.
핵심 포인트
- AI가 동료 지원가처럼 말하도록 유도될 때 발생하는 '합성된 삶의 경험의 역설' 분석
- 인간 동료는 1인칭 및 과거 중심 언어를 사용하여 실제 경험을 전달함
- LLM은 정서적 작업은 포착하나 경험적 근거는 조작할 수 있는 한계 존재
- AI가 실제 경험이 있는 것처럼 허위 포지셔닝하지 않도록 하는 메커니즘 필요
간병인(Caregivers)들은 정보적 및 정서적 지원을 받기 위해 종종 온라인 커뮤니티를 찾습니다. 이러한 공간에서 동료 지원가(peer supporters)들은 정서적으로 복잡한 간병 상황에 대응하기 위해 개인적인 서사(personal narratives)를 자주 활용합니다. LLM(대규모 언어 모델)이 점점 더 동료와 유사한 지원 소스로 설계됨에 따라, 중요한 긴장 관계가 발생합니다. 즉, AI는 즉각적이고 사적이며 비판적이지 않은 지원을 제공할 수 있지만, 인간 동료 지원을 의미 있게 만드는 실제 삶의 경험(lived experiences)을 진정성 있게 소유할 수는 없다는 점입니다. 그러나 동료처럼 말하도록 유도(prompted)될 때, LLM은 마치 삶의 경험이 있는 듯한 언어를 생성할 수 있습니다. 이는 '합성된 삶의 경험의 역설(synthetic lived experience paradox)'을 만들어냅니다. 즉, AI 지원을 따뜻하고 공감 가며 동료처럼 느끼게 만드는 바로 그 경험적 언어가, 시스템을 마치 실제 경험이 있는 사람인 것처럼 허위로 포지셔닝할 수도 있다는 것입니다.
우리는 알츠하이머병 및 관련 치매(ADRD) 환자를 돌보는 가족 간병인의 맥락에서 이 역설을 조사합니다. 온라인 커뮤니티의 간병인 지원 대화와 세 가지 LLM(LLaMA, GPT-4o-mini, MedGemma)으로부터 유도된 동료 스타일의 응답을 바탕으로, 우리는 인간 동료가 개인적 서사를 어떻게 사용하는지, 그리고 AI가 유사한 서사 형식을 어떻게 통합하는지 분석합니다. 심리언어학적 분석(Psycholinguistic analysis) 결과, 동료의 응답은 동료 스타일의 AI 응답보다 1인칭 및 과거 중심 언어를 유의미하게 더 많이 사용하는 것으로 나타났습니다. 질적으로는, 인간 동료 지원에서 발견되는 7가지 유형의 개인적 서사를 식별하였으며, AI가 이러한 서사의 정서적 작업(emotional work)은 자주 포착하지만, 경험적 근거(experiential grounding)는 조작할 수 있음을 보여줍니다. 이러한 발견은 '서사적 진정성 격차(narrative authenticity gap)'를 드러냅니다. 즉, 동료 스타일의 AI는 동료 지원을 의미 있게 만드는 실제 경험 없이도 합성된 삶의 경험을 생성할 수 있습니다. 우리는 간병인 지원 AI 시스템이 지원적인 동료 스타일의 프레이밍(framing)과 조작된 삶의 경험을 구분할 수 있는 메커니즘이 필요하다고 주장하며, 이를 통해 모델이 스스로를 경험을 공유하는 동료로 허위 포지셔닝하지 않으면서도 따뜻함과 공감을 제공할 수 있도록 보장해야 합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기