Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
LLM이 온라인 토론에서 사용자의 태도를 얼마나 정확하게 시뮬레이션하는지 검증하기 위한 반사실적 문맥 수정 프레임워크를 제안합니다. 텍스트 및 멀티모달 전략을 통해 문맥 변화에 따른 태도 전환율을 분석하며, LLM 기반 여론 시뮬레이션의 가능성과 위험성을 동시에 탐구합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기대규모 언어 모델 (Large language models, LLMs)은 소셜 미디어 사용자를 시뮬레이션하고 개인이 온라인 토론에 어떻게 반응할지 추론하는 데 점점 더 많이 사용되고 있습니다. 그러나 이러한 시뮬레이션이 사용자 특유의 정확한 신념을 반영하는지, 아니면 대화 문맥 (conversational contexts)의 의미론적으로 독립적인 변화에 매우 민감하게 반응하는지는 여전히 불분명합니다. 본 연구에서는 LLM 기반 태도 시뮬레이션 (stance simulation)을 감사하기 위한 프레임워크로서 반사실적 문맥 수정 (counterfactual context revision)을 연구합니다. 원래의 온라인 대화가 주어지면, 우리는 먼저 특정 주제에 대한 대상 사용자의 태도를 추론합니다. 그런 다음 대화 문맥에 통제된 수정 전략을 적용하고, 수정된 문맥 하에서 사용자의 태도를 다시 시뮬레이션합니다. 우리는 텍스트 전용 수정 전략을 밈 (meme) 기반 문맥을 포함하는 멀티모달 (multimodal) 전략과 비교하며, 두 가지 주요 효과성 지표인 평균 방향성 태도 변화 (average directional stance shift)와 태도 전환율 (stance transition rate)을 평가합니다. 결과에 따르면, 다양한 양극화 선호 메커니즘 (polarization-preference mechanisms) 전반에 걸쳐 텍스트 전용 및 멀티모달 전략 모두에서 효과적이고 견고한 태도 전환이 나타났습니다. 우리의 연구는 LLM 기반 태도 시뮬레이션의 문맥 민감도를 이해하기 위한 평가 프레임워크를 제공하는 데 기여합니다. 더 넓게는, 온라인 여론 역학 (online opinion dynamics)을 시뮬레이션하는 데 LLM을 사용하는 것의 가능성과 위험성을 모두 강조합니다.