Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
소셜 챗봇의 오류 교정 전략이 사용자 신뢰에 미치는 영향을 연구한 실험 결과입니다. 외부 소스나 전문가를 통한 교정보다 챗봇 스스로 오류를 바로잡는 '자기 교정'이 신뢰성과 전문성 유지에 가장 효과적임을 밝혀냈습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기소셜 챗봇이 실수를 저지를 때(그리고 실제로 실수를 저지릅니다), 어떻게 회복하느냐에 따라 사용자가 다시 그들을 신뢰할지 여부가 결정됩니다. 소셜 챗봇은 일상생활에 점점 더 통합되고 있지만, 여전히 설득력 있지만 부정확한 정보를 생성할 가능성이 있습니다. 챗봇이 사용자와 구축하는 사회적 연결(Social connection)은 이러한 오류를 특히 중대한 문제로 만듭니다. 우리는 웹페이지 철회(webpage retraction), 동일한 소셜 챗봇에 의한 자기 교정(self-correction), 그리고 전문가 챗봇에 의한 교정이라는 세 가지 오류 교정 전략을 비교하는 피험자 간 실험(N=120)을 수행했습니다. 우리의 결과는 두 가지 핵심적인 발견을 보여줍니다. 첫째, 세 가지 전략 모두 오류를 동일하게 잘 교정했지만, 오직 자기 교정만이 챗봇의 신뢰성(credibility)을 손상시키지 않고 이를 수행했습니다. 참가자들은 외부 소스에 의해 오류가 교정된 챗봇보다 자기 교정을 수행하는 챗봇의 신뢰성(trustworthiness)과 인지된 전문성(perceived expertise)을 현저히 더 높게 평가했습니다. 둘째, 사회적 매력(social attraction)과 자기 공개(self-disclosure)를 통해 측정된 사용자와 챗봇 간의 사회적 연결 강도는 믿음의 변화(belief change) 크기를 유의미하게 예측했으나, 이는 오직 챗봇이 스스로를 교정했을 때만 나타났습니다. 교정을 외부 소스로 외주화(Outsourcing)하는 것은 이 연결 고리를 완전히 끊어버렸습니다. 이러한 발견은 소셜 챗봇이 교정을 외부에 맡기기보다 자신의 실수를 스스로 교정해야 하며, 사회적 연결에 투자하는 것은 단순한 디자인 기능이 아니라 교정의 효과를 증폭시키는 기능적 메커니즘임을 시사합니다. 우리는 자신의 오류를 효과적으로 해결하면서 장기적인 신뢰성을 유지하는 챗봇을 설계하기 위한 시사점을 논의합니다.