논증 구조를 활용한 콘텐츠 적대성 예측

요약

본 논문은 온라인상의 오해의 소지가 있거나 적대적인 콘텐츠 확산 문제를 다루며, 특히 개별적인 문제 영역(적대적 표현, 허위정보 등)들을 연결하는 '논증 구조' 분석에 초점을 맞춥니다. 연구진은 WSF-ARG+ 데이터셋을 활용하여 메시지 내의 전제(premises)와 결론(conclusion) 단위로 주석을 달고, 이 논증 구성 요소들의 적절성 및 적대성을 분석함으로써 전체 메시지의 적대성을 예측하는 방법을 탐구했습니다. 그 결과 96% F1 점수라는 높은 성능을 보여주었으며, 이는 향후 적대적 콘텐츠 식별 시스템 개발에 중요한 방향을 제시합니다.

핵심 포인트

• 온라인 정보 왜곡 및 적대적 콘텐츠 확산은 포괄적인 해결책이 필요한 복합적인 문제입니다.
• 본 연구는 개별 문제 영역(허위정보, 적대성 등)을 연결하는 '논증 구조' 분석의 가능성을 제시합니다.
• WSF-ARG+ 데이터셋을 사용하여 메시지 내 전제와 결론 단위로 주석을 달고 적대성을 측정했습니다.
• 논증 구성 요소의 적절성(checkworthiness)과 적대성을 활용하여 전체 메시지의 적대성을 예측하는 모델이 96% F1 점수를 달성했습니다.