AI 탐지기들은 모두에게 거짓말을 하고 있다.

한 학생이 손글씨로 쓴 에세이를 제출했다. Turnitin은 이 에세이를 100% 인공지능 (AI)이 작성한 것으로 표시했다. 이 학생은 자폐 스펙트럼(Autistic)이 있었다. 학생은 소송을 제기하여 승소했으며, 법원은 대학의 결정을 "자의적이고 변덕스럽다"고 판단했다.

이것은 단 하나의 사건이 아니다. 2026년 5월, Palo Alto의 한 고등학생도 유사한 사례로 퇴학당한 후 소송을 제기했다.

Griffith 대학교의 한 연구원은 왜 AI 탐지기들이 계속해서 오류를 범하는지를 수학적으로 증명했다. 해당 논문은 arXiv에 게시되어 있다.

수학적 사실은 명확하다: 탐지기가 부정행위자의 80%를 잡아내고자 한다면, 10,000명의 결백한 학생 중 최소 750명이 잘못 몰리게 된다. 만약 오탐률 (False accusation rate)을 1%로 제한하고 싶다면, 탐지율은 6%로 떨어진다.

이유는 무엇인가? 모든 인간의 글쓰기 방식은 다르다. 영어가 모국어가 아닌 사람들과 신경다양성 (Neurodivergent) 학생들은 더 명확하고 단순하게 글을 쓰기 때문에, 탐지기는 이들을 기계로 오인한다. Stanford 연구에 따르면, TOEFL 에세이의 61.3%가 실수로 AI로 표시되었다.

Vanderbilt 대학교는 이를 조기에 인지하고 2023년에 Turnitin의 AI 탐지 기능을 비활성화했다. 단 1%의 오류율만으로도 연간 750건의 잘못된 고발이 발생했기 때문이다.

결론: 인간 글쓰기의 다양성은 정확하고 공정한 AI 탐지를 수학적으로 불가능하게 만든다. 당신을 당신답게 만드는 요소가 동시에 당신을 범죄자로 몰릴 수 있는 위험에 노출시킨다.

[IMG:1]