Log-Likelihood, Simpson's Paradox, and the Detection of Machine-Generated Text

요약

본 논문은 인간과 AI가 생성한 텍스트를 구별하는 기존의 확률 기반 감지 모델들이 직면하는 근본적인 문제점들을 진단하고, 이를 해결하기 위한 새로운 접근 방식을 제안합니다. 특히, 토큰 수준에서 얻은 로컬 신호 점수를 단순히 평균화할 경우 시몬스 역설(Simpson's paradox)과 같은 통계적 오류가 발생하여 감지 성능이 저하되는 문제를 지적했습니다. 이에 대한 해결책으로, 베이지안 결정 이론을 기반으로 학습된 '로컬 칼리브레이션' 단계를 도입하여 원시 점수를 집계하기 전에 조건부 확률 분포를 예측하고 보정함으로써, 모든 기본 검출기 및 데이터셋에서 감지 성능을 일관되게 향상시키는 방법을 제시했습니다.

핵심 포인트

• AI 생성 텍스트 탐지는 확률 가정을 기반으로 하지만, 토큰별 신호가 히든 공간 전체에 걸쳐 균일하지 않다는 문제가 존재합니다.
• 단순한 토큰 점수 평균화는 시몬스 역설을 초래하여 로컬에서 강한 신호를 가진 검출기의 성능을 저하시킵니다.
• 제안된 해결책은 베이지안 결정 이론에 기반한 '로컬 칼리브레이션' 단계입니다. 이는 원시 토큰 점수를 집계하기 전에 조건부 확률 분포를 예측하고 보정합니다.
• 이 방법론은 기존의 모든 기본 검출기(baseline detectors)와 데이터셋에서 성능을 극적으로 개선하며, 새로운 모델 개발보다는 근본적인 파이프라인 개선에 초점을 맞춥니다.