AI 생성 텍스트 탐지를 위한 잠재 궤적 판별
요약
본 논문은 기존 AI 생성 텍스트 탐지(AIGTD)가 문서를 정적 객체로 취급하는 한계를 지적하며, 이를 잠재적 생성 궤적을 구별하는 동적인 문제로 재정립합니다. 연구진은 기하학적 궤적 및 대조 학습(GTCL) 프레임워크를 제안하여, 텍스트 표현의 시퀀스 전반에 걸친 진화 과정을 모델링하고 이를 통해 강력한 탐지 신호를 확보했습니다.
핵심 포인트
- AIGTD 접근 방식을 정적 객체 분석에서 동적인 '잠재 생성 궤적' 구별 문제로 재정립함.
- GTCL 프레임워크를 도입하여 텍스트 표현의 시퀀스 전반에 걸친 진화 과정을 모델링함.
- 대조 학습을 통해 자기회귀 생성과 관련된 기하학적 규칙성을 학습하는 것이 핵심임.
- 제안된 방법론은 기존 탐지 기준선들을 일관되게 능가하는 성능을 보임.
기존의 AI 생성 텍스트 탐지(AIGTD) 접근 방식들은 문서를 정적인 객체로 취급하며, 집계 통계나 전역적으로 압축된 임베딩에 기반하여 결정을 내립니다. 하지만 이러한 관점은 콘텐츠가 잠재 공간을 통해 점진적으로 진화하는 자기회귀 생성의 본질적으로 동적인 특성을 간과합니다. 본 논문에서는 AIGTD를 잠재적 생성 궤적(latent generation trajectories) 사이를 구별하는 문제로 재정립합니다. 정적인 표현에 의존하기보다는, 우리는 텍스트 표현이 시퀀스 전반에 걸쳐 어떻게 진화하는지를 모델링합니다. 이를 위해, 우리는 기하학적 궤적 및 대조 학습(Geometric Trajectory and Contrastive Learning, GTCL)이라는 프레임워크를 제안합니다. 이 프레임워크는 문서를 순서가 있는 국소 단위로 분할하고, 각 단위를 임베딩 공간에 인코딩하며, 구조화되고 시퀀스 수준의 표현을 구성합니다. 이후 GTCL은 이러한 궤적들에 대조 학습(contrastive learning)을 적용하여 자기회귀 생성과 관련된 기하학적 규칙성을 학습합니다. 세 가지 다른 벤치마크와 여러 접근 방식에서 수행된 평가 결과는 GTCL이 탐지 기준선들을 일관되게 능가함을 보여주며, 이는 순차적 역동성을 명시적으로 모델링하는 것이 모델과 도메인 전반에 걸쳐 강력한 판별 신호를 제공함을 시사합니다. 이러한 결과들은 궤적 차이를 모델링하는 것이 탐지를 개선하고 이전 AIGTD 문헌에서 충분히 탐구되지 않은 동적인 방향을 열 수 있음을 제안합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.CL (NLP)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기