Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
작성자는 AI 활용 증가로 인해 학술 논문 및 동료 검토(Peer Review) 프로세스가 '위기 상태'에 이르렀다고 주장합니다. 제출된 논문과 리뷰에서 지나치게 표준화되고 기계적인 패턴이 관찰되며, 이는 저자 측의 과도한 서술적 언어 사용이나 리뷰어 측의 구조화된 형식 등 AI 생성물의 흔적으로 보입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/MachineLearning (hot)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기요약하자면: AI가 작성한 리뷰와 논문에 AI를 활용하는 현상 때문에, 저는 이 글의 제목을 '리뷰 프로세스의 추모사(An Obituary of the Review Process)'라고 지을 생각이었지만, 너무 패배주의적으로 들릴까 봐 대신 '위기 상태(Critical Condition)'라고 말하겠습니다. 이는 저자 측과 리뷰어 측 모두에서 AI 작성이 관찰되기 때문입니다. 저는 AAAI 2027과 ICLR 2027의 리뷰어 역할을 맡고 있습니다. Phase 1과 Phase 2가 완료되었기 때문에, 이제 다른 사람들의 리뷰들을 볼 수 있게 되었습니다. 제가 보는 논문들 중 절반 정도는 완전히 AI가 생성했거나, AI를 거쳐 수정된 것임에 틀림없다고 확신합니다. 이는 주관적인 의견이며 증명할 수는 없지만, 현재 얼마나 적은 관심을 받고 있는지보다 훨씬 더 많은 주의가 필요하다는 문제임을 여러분을 설득해보고 싶습니다.
저는 2022년부터 최고 학회(NeurIPS, ICML, AAAI, ICLR)의 리뷰어 역할을 총 약 10번 수행해 왔습니다. 최근까지는 리뷰나 심지어 논문 자체에 대해서도 이런 느낌을 받은 적이 없었습니다.
저자 측면: 제가 제출한 3개의 ICLR 논문 중 단 하나만이 100% 인간이 작성했다고 느껴졌습니다(만약 이것마저 아니라면 저는 매우 슬퍼할 것입니다). 나머지 논문들은 AI의 흔적이 느껴지는 요소들을 가지고 있었습니다. 예를 들어, '이론은 성능을 예측하고, 경험적 평가는 이를 확인한다'와 같은 제목처럼 지나치게 서술적이고 마케팅적인 언어가 가미된 헤딩을 과도하게 사용하거나, 생각의 흐름을 놓칠 정도로 매우 길고 밀도가 높은 문장들이 있습니다. 이런 문장들에서는 이미 사용된 용어 대신 동의어를 사용하고, 나중에는 또 다른 동의어를 사용하는 식입니다.
리뷰어 측면: 리뷰 자체에 대해 이야기하자면, 리뷰 간의 언어적 다양성, 그리고 같은 리뷰 내에서의 다양성이 매우 부족하다고 생각합니다. 한 리뷰에서는 '약점(weaknesses)' 섹션에 '저자에게 질문(questions for authors)'이라는 필드를 넣었는데, 저는 이 필드 이름이 이번에는 '반박을 위한 구체적인 지점(specific points for rebuttal)'으로 변경되었기 때문에 그렇게 했을 것이라고 추측합니다. 그들은 새 필드에 '해당 없음(N/A)'이라고 기재했습니다. 문단의 길이도 거의 정확하게 동일합니다. 마치 LLM에게 강점으로 5개, 약점으로 5개, 질문으로 5개를 작성하라고 지시한 것 같습니다.
인간이 거의 하지 않는 추가적인 노력의 흔적도 있습니다. 예를 들어, 단순히 “arXiv 대신 동료 검토를 거친 참고 문헌을 제공하라”고 말하는 것 외에도, arXiv 번호까지 추가합니다. 또는 DOI 링크(이는 괜찮습니다)를 넣었을 뿐만 아니라, 별도의 부분에 단순히 “(doi.org)”라고 작성하는데, 이는 LLM이 출처를 제시하려는 시도로 보입니다. 리뷰어들은 보통 시간이 부족하며, 모든 것이 정확하다기보다는 저자들이 이해할 수 있도록 소통하는 데 집중합니다. 이러한 리뷰는 마치 대중을 위한 것처럼 쓰여집니다. 그리고 스마트 따옴표가 있습니다. (이는 Word 같은 프로그램으로 작성되었기 때문일 수도 있지만) 다른 모든 것과 함께 보면, 이제 이 따옴표들 역시 AI 냄새가 납니다. (예전에는 이렇게 자주 스마트 따옴표를 보지 못했습니다. 당시에도 Word는 따옴표를 스마트하게 만들었습니다.) 라텍스(LaTeX) 대신 ilde{d}와 같은 기호나 하이픈이 아닌 대시를 위한 유니코드(Unicode) 심볼을 사용합니다. 예를 들어, 마이너스 부호 하나에 대해서도 그렇습니다. 최소 두 건의 AAAI 제출물에서 리뷰가 단 두 개만 있었는데, 저는 다른 하나의 리뷰가 AI로 작성되었다고 강하게 의심합니다. 모든 것이 망가졌습니다. 지금까지 어떻게 고칠 수 있을지 구체적인 아이디어가 없습니다. 당신은요? 한 가지를 제외하고는, 스타일이나 톤을 다듬는 것조차 AI 사용을 금지해야 하지 않을까요? 아예 AI 작성을 완전히 금지하는 것입니다. 저자는 이것이 단지 어조와 스타일의 변화일 뿐이라고 느끼지만, 독자는 때때로 그것을 매우 빠르게 감지할 수 있습니다. 강력한 LLM들이 등장하기 전에는 어쨌든 언어 자체를 기준으로 논문을 평가하지 않았습니다. 이것이 명예 제도라는 것을 알지만, 저는 괜찮다고 생각합니다. “AI를 사용해 다듬어도 된다”라고 말하는 것조차 AI를 이용해 다듬어야 한다는 기대를 만들어내는 것 같습니다.