알고리즘적 캐리커처: 위기 상황 전반에 걸친 LLM 생성 정치 담론 감사

요약

본 연구는 LLM이 위기 상황에서 생성하는 정치 담론에 대한 우려를 다루며, 기존 텍스트 탐지 기술의 한계를 지적합니다. 대신 계산 사회과학(CSS) 관점을 채택하여 합성된 담론이 실제 온라인 인구와 유사하게 행동하는지를 분석했습니다. 연구진은 다양한 위기 사건 코퍼스를 구축하고 '캐리커처 갭(Caricature Gap)'이라는 새로운 측정치를 제안했는데, 이는 생성된 정치 담론의 주요 한계가 문법적 유창성이 아닌 사회적 현실성 부족에 있음을 보여줍니다.

핵심 포인트

• LLM이 위기 상황에서 대규모로 유창한 정치 텍스트를 생성하여 합성 담론에 대한 우려가 증가하고 있다.
• 전통적인 AI 텍스트 탐지 기술(퍼플렉서티, 버스티니스 등)은 시스템 개선으로 인해 신뢰도가 낮아지고 있다.
• 연구는 계산 사회과학(CSS) 관점을 도입하여, 합성된 담론이 실제 온라인 인구의 행동 패턴을 따르는지를 감사하는 새로운 접근 방식을 제시한다.
• 새롭게 정의된 '캐리커처 갭(Caricature Gap)'은 이벤트 유형에 따라 달라지며, 생성된 담론의 주요 한계가 문법적 유창성이 아닌 사회적 현실성 감소에 있음을 입증했다.