자폐를 가진 학생이 손으로 에세이를 썼지만, Turnitin은 100% AI 생성물이라고 판정했습니다.

자폐를 가진 한 학생이 자신의 에세이를 손으로 직접 썼습니다.

Turnitin은 그것이 100% AI 생성물(AI-generated)이라고 말했습니다.

그녀는 처벌을 받았습니다.

그 후 다른 두 개의 AI 탐지기(AI detectors)가 정확히 동일한 에세이를 검토했고, 그것이 인간에 의해 작성되었다고 말했습니다.

그녀는 소송을 제기했습니다.

그녀는 승소했습니다.

이제 정말 무서운 부분은 이것입니다:

새로운 논문은 이것이 버그(bug)가 아님을 증명합니다.

이것은 수학(math)입니다.

만약 대학이 AI 탐지기가 부정행위자의 80%를 잡아내기를 원한다면, 수백 명의 무고한 학생들이 허위로 기소될 것입니다.

만약 허위 기소를 줄인다면, 탐지기는 거의 쓸모없게 됩니다.

AI 탐지기가 공정하면서도 동시에 효과적일 수 있는 설정은 존재하지 않습니다.

가장 표적이 되기 쉬운 학생들은 누구일까요?

• 영어가 모국어가 아닌 사용자 (Non-native English speakers)
• 자폐 및 신경다양성(neurodivergent) 학생들
• 명확하고 단순하게 글을 쓰는 모든 사람

당신의 글쓰기 스타일이 말 그대로 당신에게 불리한 증거가 될 수 있습니다.

문제는 탐지기를 개선해야 한다는 것이 아닙니다.

문제는 정확한 AI 탐지가 수학적으로 불가능할 수도 있다는 점입니다.

논문: https://t.co/R2DhHdTOV2