SV-Detect: Steering Vectors를 이용한 AI 생성 텍스트 탐지

도메인 전이(transfer across domains), 소스 모델(source models) 간의 전이, 그리고 편집 공격(editing attacks)과 같은 분포 변화(distribution shift) 상황에서 기계가 생성한 텍스트를 탐지하는 것은 특히 어렵습니다. 우리는 동결된 언어 모델(frozen language model)의 은닉 표현(hidden representations)에서 추출한 스티어링 벡터(steering vectors)를 기반으로 한 가짜 텍스트 탐지기를 제안합니다. 각 레이어(layer)에서 우리는 사람이 작성한 텍스트와 기계가 생성한 텍스트를 분리하는 방향(direction)을 구축하며, 각 입력을 이러한 방향들과의 레이어별 정렬(layer-wise alignment)로 표현합니다. 이러한 투영 특징(projection features)으로 학습된 경량 분류기(lightweight classifier)는 최종 탐지 점수를 산출합니다. 우리의 방법은 분포 내(in-distribution) 상황뿐만 아니라 도메인, 소스 모델, 그리고 다듬기(polishing) 및 재작성(rewriting)과 같은 기계 편집 변환(machine-editing transformations)을 포함한 분포 변화(distribution shift) 상황에서도 강력한 성능을 달성합니다. 해석 분석(Interpretation analyses) 결과, 학습된 방향들은 표면적 특징(surface features) 이상의 상당한 추가 신호를 포착하는 동시에 인지 가능한 문체적 단서(stylistic cues)와 일치함을 보여줍니다. 이러한 결과는 가짜 텍스트 탐지를 표현 공간 탐사(representation-space probing) 문제로 정의하며, 스티어링 벡터(steering vectors)가 단순하고 효과적인 해결책을 제공함을 보여줍니다.