자필 에세이를 AI로 작성했다고 오판한 대학 사례와 AI 탐지기의 구조적 결함

한 학생이 직접 손으로 쓴 에세이를 제출했습니다. 그녀의 대학교는 이를 AI 탐지기 (AI detector)로 검사했습니다. 탐지기는 그녀가 부정행위를 했다고 판정했습니다. 그녀는 자폐증 (autistic)이 있습니다.

그녀의 이름은 Moira Olmsted입니다. Adelphi University 소속입니다. 2026년 2월, Turnitin은 그녀의 에세이를 100% AI 생성물로 분류했습니다. 그녀는 징계를 받았습니다.

다른 두 개의 AI 탐지기는 동일한 에세이를 사람이 작성한 것으로 분류했습니다.

그녀는 소송을 제기했고 승소했습니다. 법원은 학교의 결정이 "자의적이고 변덕스럽다 (arbitrary and capricious)"라고 판결했습니다.

그녀만이 유일한 사례가 아닙니다.

2026년 5월, Palo Alto의 한 고등학생은 AI 탐지기가 그의 과제물을 표절로 분류한 후 퇴학 처분을 받았습니다. 그는 비자 취소 위기에 처했습니다. 그는 연방 민권 소송을 제기했습니다.

Griffith University의 한 연구원이 왜 이런 일이 계속 발생하는지를 수학적으로 증명했습니다. 해당 논문은 arXiv에 올라와 있습니다. 그 발견은 단 한 문장으로 요약됩니다.

AI 텍스트 탐지기 (AI text detectors)에는 아무리 공학적으로 개선하더라도 해결할 수 없는 구조적 결함이 있습니다.

수학적 결과는 다음과 같습니다.

만약 대학교가 탐지기를 통해 부정행위자의 80%를 잡아내고자 한다면, 10,000명의 결백한 학생 중 최소 750명이 잘못된 혐의를 받게 됩니다. 이것은 소프트웨어의 문제가 아닙니다. 하나의 정리 (theorem)입니다.

만약 대학교가 오판(false accusations)을 1%로 제한하려고 시도한다면, 탐지 능력은 6%로 붕괴합니다. 이는 AI가 작성한 논문 100개 중 6개만을 잡아낼 수 있다는 뜻입니다. 나머지 94개는 통과됩니다.

탐지기가 공정하면서 동시에 효과적일 수 있는 설정값은 존재하지 않습니다.

그 이유는 다양성 (diversity) 때문입니다. 모든 학생은 다르게 글을 씁니다. 영어가 모국어가 아닌 사람들은 더 단순한 어휘를 사용합니다. 더 짧은 문장, 더 명확한 구조를 사용합니다. AI도 마찬가지입니다. Stanford의 한 연구에 따르면, 영어가 모국어가 아닌 사람들이 작성한 TOEFL 에세이의 61.3%가 AI 생성물로 오분류되었습니다. 별도의 분석에서 14개의 상용 탐지 도구를 테스트한 결과, 14개 중 80%의 정확도에 도달한 도구는 단 하나도 없었습니다.

잘못된 혐의를 받을 가능성이 가장 높은 학생들은 영어가 모국어가 아닌 사람, 신경다양성 (neurodivergent) 학생, 그리고 명확하고 정밀하게 글을 쓰는 모든 이들입니다. 그들의 글을 효과적으로 만드는 자질이 바로 탐지기가 기계로 오해하는 바로 그 자질입니다.

Vanderbilt University는 이 점을 이해했습니다. 그들은 75,000건의 제출물 중 단 1%의 오류율만 발생하더라도 연간 750건의 잘못된 비난이 발생할 것이라고 계산한 후, 2023년에 Turnitin의 AI 탐지 기능을 비활성화했습니다.

자신다운 방식으로 글을 썼다는 이유로 부정행위자로 몰린 750명의 학생들.

이 논문의 결론은 더 나은 탐지기가 필요하다는 것이 아닙니다. 인간 글쓰기의 다양성 그 자체가 정확한 탐지를 수학적으로 불가능하게 만든다는 것입니다.

당신의 글을 당신답게 만드는 바로 그 요소가 당신을 비난받게 만드는 요소가 됩니다.