AI 생성 소셜 봇 콘텐츠의 적대적 생성 및 탐지

요약

LLM 기반 소셜 봇의 정보 조작 문제를 해결하기 위해 적대적 방법론을 제안합니다. 실제 사용자를 사칭하는 모델링을 통해 다국어·교차 플랫폼 데이터셋을 구축하였으며, 이를 통해 기존 모델보다 뛰어난 AI 생성 콘텐츠 탐지 성능을 입증했습니다.

핵심 포인트

• LLM과 소셜 봇 결합을 통한 정보 생태계 조작 위험성 지적
• 정답 데이터 부족 문제를 해결하기 위한 적대적 방법론 도입
• 인간-AI 메시지 쌍을 포함한 다국어 교차 플랫폼 데이터셋 구축
• 분포 외 데이터(OOD) 환경에서 기존 모델 대비 우수한 탐지 성능