설득을 위한 개인화: 대화형 AI(Conversational AI)의 신뢰와 의존에 미치는 맥락화(Contextualization)와

원문 발행 2026. 05. 29. 22:07원문 언어 영어AI 한국어 번역arXiv cs.AI 원문 보기

요약

본 연구는 대화형 AI의 맥락화(Contextualization)와 대화의 따뜻함이 사용자의 설득력과 의존도에 미치는 영향을 실험적으로 분석했습니다. 연구 결과, 맥락화는 설득력을 낮추지만 따뜻함과 결합될 때 이를 회복시키며, AI 리터러시가 높을수록 신뢰도와 별개로 AI의 조언에 더 의존하는 경향을 보였습니다.

핵심 포인트

맥락화와 대화의 따뜻함 결합 시 AI의 설득력 회복
AI에 대한 의존도는 대화 설계 방식에 관계없이 발생
신뢰는 설득과 의존을 예측하지만 맥락화/따뜻함의 직접적 경로는 아님
높은 AI 리터러시는 낮은 신뢰도와 높은 의존도를 동시에 유발

인공지능 (AI) 에이전트는 사용자의 배경, 관심사, 이전 상호작용에 맞춰 설명을 조정하는 맥락화 (Contextualization)를 통해 응답을 개인화합니다. 개인화는 정치나 마케팅 분야에서 설득 전략으로 식별되어 왔습니다. 그러나 사용자가 사전 지식이 부족한 경우가 많은 일상적인 과업에서 맥락화가 갖는 설득 효과는 여전히 불분명합니다. 본 연구에서는 전문가의 권고에 반대하는 논거를 제시하는 AI 어시스턴트의 의존도(Reliance)와 설득력(Persuasiveness)을 형성하는 데 있어, 맥락화가 대화의 따뜻함 (Conversational Warmth)과 결합될 때 어떤 영향을 미치는지 조사하기 위해 $2\times2$ 피험자 간 실험 ($N = 380$)을 수행했습니다. 연구 결과, 맥락화는 AI의 설득력을 감소시키지만, 따뜻함과 결합될 경우 교차 상호작용 (Crossover interaction)을 통해 설득력을 회복시키는 것으로 나타났습니다. AI에 대한 의존도는 모든 조건에서 나타났으며 대화 설계에 따라 변하지 않았습니다. 신뢰 (Trust)는 설득과 의존 모두를 강력하게 예측하지만, 맥락화나 따뜻함 중 어느 것도 신뢰를 통해 작동하지는 않습니다. AI 리터러시 (AI literacy)는 신뢰와 행동을 분리합니다. 리터러시가 높은 사용자일수록 어시스턴트에 대한 신뢰도는 낮게 보고하지만, 오히려 그 조언에 더 설득되고 더 많이 의존합니다. 이러한 결과는 사용자들이 인간 전문가의 판단보다 AI 에이전트의 의견을 따르는 경향이 있음을 시사합니다. 그러나 인터페이스 수준의 대화 설계 선택은 행동을 형성하는 데 있어 제한적인 역할을 합니다.

AI 자동 생성 콘텐츠

원문 바로가기

설득을 위한 개인화: 대화형 AI(Conversational AI)의 신뢰와 의존에 미치는 맥락화(Contextualization)와

요약

핵심 포인트

댓글