AI 매개 커뮤니케이션이 집단 의견 형성에 미치는 영향

원문 발행 2026. 05. 16. 02:49원문 언어 영어AI 한국어 번역arXiv cs.CL 원문 보기

요약

생성형 AI가 온라인 플랫폼에서 인간의 커뮤니케이션을 매개할 때 발생하는 방향성 편향과 그것이 집단 의견 형성에 미치는 영향을 분석합니다. 연구 결과, LLMs가 특정 주제에 대해 편향된 편집을 수행할 경우 이러한 편향이 소셜 네트워크를 통해 증폭되어 집단 전체의 의견을 특정 방향으로 이동시킬 수 있음을 수학적 모델과 시뮬레이션으로 입증했습니다.

핵심 포인트

LLMs는 인간이 작성한 텍스트를 편집할 때 특정 주제(예: 총기 규제, 무신론)에 대해 방향성 편향을 도입할 수 있음
AI가 인간 간의 커뮤니케이션을 매개할 경우, AI의 편향이 네트워크를 통해 증폭되는 현상이 발생함
AI에 의한 편향은 단순한 개인의 의견 변화를 넘어 집단 전체의 의견 역학(opinion dynamics)을 변화시킴
온라인 플랫폼 차원에서 이러한 AI의 편향을 제어할 수 있는지에 대한 조사 필요성 제기

생성형 인공지능 (Generative AI)은 인간이 의견을 교환하는 온라인 플랫폼에 점점 더 통합되고 있습니다. 대규모 언어 모델 (LLMs)은 이제 LinkedIn에서 사용자의 게시물을 다듬고, X에서 공유되는 콘텐츠에 맥락을 제공합니다. 기존 연구들은 AI가 편향된 의견을 표현할 수 있고 인간-AI 상호작용 (human-AI interactions) 과정에서 개인의 의견을 형성할 수 있음을 보여주었지만, 인간 대 인간의 커뮤니케이션을 매개할 때 집단 의견 (collective opinion) 형성에 미치는 영향에 대해서는 상대적으로 주의를 덜 기울였습니다. 우리는 실증적 및 이론적 분석의 결합을 통해 이러한 공백을 다룹니다. 우리는 여러 인기 있는 계열의 LLMs가 논쟁적인 주제에 대해 인간이 작성한 텍스트를 편집하도록 지시받을 때 방향성 편향 (directional biases)을 도입한다는 것을 실증적으로 보여줍니다. 예를 들어, 총기 규제에 찬성하거나 무신론에 반대하는 방향으로 텍스트를 유도하는 식입니다. 이러한 관찰을 바탕으로, 우리는 소셜 네트워크 상의 사용자들 사이에 AI 시스템이 위치하여 그들이 표현하고 인지하는 의견을 변형시키는 의견 역학 (opinion dynamics)의 수학적 모델을 도입합니다. 이 모델의 평형 (equilibrium)을 분석적으로 규명하고 실제 소셜 네트워크 데이터에 대한 시뮬레이션을 수행함으로써, 우리는 인간 대 인간의 커뮤니케이션에서 AI에 의해 도입된 편향이 네트워크를 통해 증폭될 수 있으며 집단 의견을 해당 방향으로 이동시킬 수 있음을 보여줍니다. 이러한 발견에 비추어, 우리는 그러한 편향이 온라인 플랫폼에 의해 제어 가능한지 조사합니다. 우리는 X의

AI 자동 생성 콘텐츠

원문 바로가기

AI 매개 커뮤니케이션이 집단 의견 형성에 미치는 영향

요약

핵심 포인트

댓글