Ellia Lebleu는 2023년에 시작된 자원봉사 활동인 WikiProject AI Cleanup의 창립 멤버입니다. 이 프로젝트는 위키피디아에서 웹사이트 가이드라인을 위반하는 AI가 생성한 자료를 찾아 제거하기 위해 시작되었습니다. 정화 작업이 시작되었을 때, AI 작성물은 종종 눈에 띄는 진부한 표현들로 드러났습니다. 오늘날 이 프로젝트의 자원봉사자들은 기계가 생성한 콘텐츠의 더 미묘한 형태를 감지하는 도구를 개발하고 있으며, 세계에서 가장 널리 사용되는 백과사전에서의 AI 역할을 논의하고 있습니다.
위키피디아에 AI 생성 자료 문제가 있다는 것을 언제 깨달았나요?
Ellia Lebleu: 2023년 12월경이었습니다. 다른 편집자 몇 명과 제가 위키피디아의 Discord 서버에서 대화하고 있었는데, 모두 매우 이상한 특징을 가진 기사들을 보게 되었습니다. 그들은 “~를 입증한다(stands as a testament)” 또는 “풍부한 문화유산(rich cultural heritage)” 같은 구절을 반복했습니다. 때로는 결론 섹션이나 “왜 이것이 중요한가?(Why is this important?)”라는 제목의 섹션도 있었습니다. 이는 2023년과 2024년 초반 ChatGPT의 전형적인 특징이었지만, 위키피디아 기사에는 매우 부자연했고 발견하기 쉬웠습니다. 그래서 저는 더 많은 사람들이 이 문제를 다룰 수 있도록 공식 프로젝트를 만들기로 결정했습니다.
Ellia Lebleu
Ellia Lebleu는 WikiProject AI Cleanup의 창립 멤버입니다. Lebleu는 프랑스 국가 디지털 과학 및 기술 연구소의 일부인 Rennes 대학교 Inria Center에서 AI 박사 학위를 받고 있습니다.
오늘날 편집자들은 어떻게 AI 생성 글을 감지하나요?
Lebleu: 2025년이 되면서 AI 작성물의 흔적은 더 미묘하고 구조적이 되고 있었습니다. 예를 들어, AI는 '삼의 법칙(rule of three)'이나 부정적인 병렬 구조 등 스스로 결론적이지 않지만 축적되면서 의미를 갖게 되는 말하기 구조를 좋아합니다. 또한 우리는 기사 본문 외적으로도 살펴봅니다. 만약 누군가가 5분 동안 각각 수천 단어에 달하는 다섯 개의 기사를 작성한다면, AI가 개입했을 가능성을 의심할 이유가 됩니다.
AI 문제는 본문에서만 나타나나요, 아니면 인용(citation)에서도 나타나나요?
Lebleu: 가짜 또는 오해의 소지가 있는 인용문이 큰 문제가 되었습니다. 때로는 AI가 출처를 완전히 환각(hallucinates)시키기도 하는데, 이는 오늘날 검색 증강 생성(retrieval-augmented generation) 덕분에 AI가 출처를 찾을 수 있게 되어 훨씬 드물어졌습니다. 더 흔한 경우는 실제 출처를 찾았지만 그 내용을 완전히 잘못 이해하는 경우입니다. 실제로 작성된 내용과 관련이 없는 AI 인용문은 매우 흔합니다.
영어 위키피디아(English Wikipedia)는 최근 편집자들에게 기사를 생성하기 위해 LLM을 사용하는 것을 금지했습니다. 얼마나 많은 AI 생성 콘텐츠가 여전히 통과하고 있을까요?
Lebleu: 저는 [AI 탐지 회사] Pangram과 협력하여 AI 생성 콘텐츠의 비율을 추정해 왔습니다. ChatGPT 이전 위키피디아 콘텐츠로 테스트했을 때 오탐(false positives)이 없었기 때문에, 그 결과는 매우 보수적인 하한선을 제공합니다. 2025년 후반에는 신규 기사 및 초안 중 약 20%가 AI 생성으로 플래그 지정되었습니다. 2026년 초에는 이 수치가 15~16%로 떨어졌습니다. 하지만 이것이 최근 정책의 효과 때문인지, 아니면 모델들이 더 강력해지고 Pangram이 적응할 시간이 부족했기 때문인지는 아직 알지 못합니다.
위키피디아는 AI를 이용해 AI에 맞서 싸우고 있을까요?
Lebleu: 또 다른 위키피디아 편집자가 페이지의 출처들을 거치면서 그것들이 주장과 일치하는지 확인하는 AI 출처 검증기(AI source verifier)를 만들었습니다. 이것 자체도 AI 모델이기 때문에 매번 정확할 것이라는 보장은 없습니다. 하지만 대규모로 작동하며 명백한 사례들을 걸러낼 수 있는 무언가를 원한다면, 좋은 첫걸음입니다. 위키미디어 재단(Wikimedia Foundation)은 또한 일부 AI 챗봇에서 직접 붙여넣기 된 텍스트를 표시할 수 있는 Paste Check라는 도구도 개발하고 있습니다.
그리고 우리는 Claude가 때때로 "저는 위키피디아 기사를 작성할 수 없습니다. 그것은 위키피디아의 정책에 위배됩니다"라고 말하는 것을 보았습니다. 만약 모든 주요 AI 회사들이 그러한 프롬프트 거부(prompt refusal)를 구현한다 하더라도, 제한을 피하기 위해 조정될 수 있는 오픈 웨이트 모델(open-weight models)이 여전히 존재하기 때문에 문제를 완전히 해결하지는 못할 것입니다. 하지만 상업용 모델을 사용하고 기술에 특별히 익숙하지 않은 사람들에게는 도움이 될 것입니다.
AI 작성을 금지하는 규칙이 작동하고 있는지 알 수 있나요?
Lebleu: 아직 판단하기는 이른 시점입니다. 우리는 프롬프트 거부와 AI 생성 콘텐츠의 눈에 띄게 약간 감소하는 등의 가능한 효과를 보고 있습니다. 하지만 다시 말하지만, 이것이 모델 자체가 개선되고 있기 때문인지 아니면 초보자들이 규칙을 배우고 있기 때문인지는 아직 알 수 없습니다. AI 생성 콘텐츠의 대다수는 초보 편집자들에 의해 제출되므로, 우리는 환영 메시지, 편집 도움말, 조언 등에서 이 규칙을 매우 눈에 띄게 만들기 위해 많은 노력을 기울였습니다.
만약 AI가 진정으로 신뢰할 수 있는 위키피디아 기사를 작성할 수 있게 된다면 어떻게 될까요?
Lebleu: 그것은 우리가 직면한 큰 질문 중 하나입니다. 가이드라인이 통과되었을 때의 이유는 매우 실용적이었습니다. 우리는 AI 콘텐츠로 범람했고, 좋은 도구가 없었으며, 이를 멈출 필요가 있었습니다. 하지만 그 이후로는 더 철학적인 차원을 띠게 되었습니다. 많은 사람들은 위키피디아를 "인터넷상의 마지막 좋은 장소"라고 불렀습니다. 이론적으로 AI 쓰레기(AI slop)로부터 자유로운 곳이라는 것이 위키피디아의 정체성 일부가 된 것입니다.
위키피디아의 많은 커뮤니케이션은 이제 우리가 인간이 작성한 백과사전이라는 생각에 초점을 맞추고 있습니다. 심지어 AI 회사들조차도 이를 흥미롭게 여깁니다. AI 시스템을 [훈련(train)]시키는 데 사용할 수 있는 순수하게 인간이 작성한 코퍼스(corpus)를 갖는 것은 가치가 있을 수 있기 때문입니다. 위키피디아가 지금도 그러하고, 적어도 가까운 미래에는 계속 그렇게 유지될 것이라는 사실은 다른 곳에서는 복제할 수 없는 귀중한 자산으로 만듭니다.
하지만 위키피디아를 읽고 기여하는 사람들이 그것이 더 포괄적이게 만든다 하더라도 부분적으로 AI 생성되는 것을 원할까요? 우리는 인간이 작성한 코퍼스(corpus)로서의 위키피디아 정체성을 보존하는 동시에 AI 지원 옵션도 제공할 수 있습니다.
위키피디아는 웹사이트가 더 이상 구글 검색으로부터 트래픽을 얻지 못하는 가능한 미래인 “구글 제로(Google Zero)”라는 아이디어를 고려해 왔을까요?
르블뢰(Lebleu): 모든 것이 AI 검색을 거치고 웹사이트의 가시성이 0으로 떨어진다면, 어떻게 위키피디아를 노출시키고 사람들이 여전히 기여하고 편집할 수 있다는 것을 보여줄 수 있을까요? 위키피디아는 [구글]의 AI Overview에서 자주 인용되지만, 사용자들은 단지 위키피디아를 인용한 AI 답변만 볼 수 있습니다. 그들은 위키피디아가 사용자가 직접 편집하고 기여할 수 있는 살아있는 프로젝트라는 사실을 깨닫지 못할 수도 있습니다.
위키미디어 재단(Wikimedia Foundation)은 인용되는 기사에 대해 AI 사용자에게 더 많은 정보를 제공할 수 있는 출처 표기 프레임워크를 개발하고 있습니다. 여기에는 마지막 편집 시점, 포괄성 정도, 편집자들이 문제를 표시했는지 여부, 그리고 어쩌면 행동 촉구 메시지까지 포함될 수 있습니다. 미래에는 독자들이 심지어 AI 모델을 통해 기여할 수도 있을 것입니다: “AI가 위키피디어를 인용했지만 오류가 있는 것 같습니다. 제가 수정 요청을 하고 찾은 다른 출처를 추가할 수 있나요?”
저는 미래에 위키피디아와 AI 모델 사이에 매우 강력한 공생 관계가 있을 것이라고 봅니다. 위키피디아가 사라진다고는 생각하지 않지만, 아주 다른 형태를 취하게 될 것이라고 예상합니다. 어제 AI는 정리해야 할 대상이었습니다. 오늘은 우리가 정리를 돕는 도구입니다. 내일은 우리가 숨 쉬는 공기가 될 것입니다.
본 기사의 요약본은 2026년 11월 발간된 인쇄판에 “엘리아 르블뢰(Ellia Lebleu)”라는 제목으로 실렸습니다.
엘라이자 스트릭랜드(Eliza Strickland)는 IEEE Spectrum의 특집 에디터로, 잡지의 장문 기사를 개발하고 구상하는 데 도움을 주고 있습니다. 그녀는 또한 Spectrum의 인공지능 및 생체의학 공학 분야 보도도 담당합니다. 그녀는 콜럼비아 대학교에서 저널리즘 석사 학위를 받았습니다.
