Algospeak, Hiding in the Open: The Trade-off Between Legible Meaning and

요약

본 연구는 LLM 시대에 나타나는 '알고스피크(Algospeak)'라는 언어적 회피 전략의 근본적인 역동성을 공동 행동 모델로 공식화합니다. 핵심적으로, 알고스피크가 증가할수록 콘텐츠의 감지 가능성과 이해 가능성은 동시에 감소하는 트레이드오프 관계를 보여줍니다. 연구진은 '다수 이해 가능한 변조(MUM)' 개념을 도입하여, 회피적 변형이 감지를 피하더라도 대중에게는 의미 전달에 어려움을 겪게 되는 임계점을 정의합니다. 이를 검증하기 위해 COVID-19 가짜 뉴스 데이터셋을 구축하고, 다양한 언어 모델을 사용하여 해석 및 분류 테스트를 수행함으로써 이 역동성을 경험적으로 입증하는 재현 가능한 프레임워크를 제시했습니다.

핵심 포인트

• 알고스피크는 회피자(evaders)와 감지자(detectors) 간의 공진화적 상호작용이다.
• Algospeak가 증가할수록 콘텐츠의 '감지 가능성'과 '이해 가능성'은 반비례 관계를 보인다 (Trade-off).
• 새로운 개념인 '다수 이해 가능한 변조(MUM)'는 회피와 대중적 이해 사이의 임계점을 정의한다.
• 연구진은 COVID-19 가짜 뉴스 데이터셋을 구축하고, 의미 복원 및 분류 테스트를 통해 이 역동성을 경험적으로 검증하는 프레임워크를 제공했다.