본문으로 건너뛰기

© 2026 Molayo

r/ML분석2026. 05. 01. 18:34

ICML 이 일관된 긍정적 평가를 받은 논문을 많이 기각하는 것 같습니다 [D]

요약

이 글은 ICML과 같은 주요 학회에서 논문 심사 과정의 구조적 문제점을 지적합니다. 특히 리뷰어들이 점수 균일성을 맞추려는 압박감 때문에 실제 평가와 다르게 점수를 부풀리거나, 긍정적인 피드백을 주었음에도 불구하고 점수 업데이트에 소극적이어서 발생하는 왜곡된 역학 관계를 비판합니다. 필자는 이러한 현상이 결국 일관되게 좋은 평가를 받은 논문들까지도 기각시키는 결과를 초래할 수 있다고 주장하며, 심사위원들이 정직하고 독립적인 평가를 제공하는 원래의 시스템으로 돌아가야 한다고 제언합니다.

핵심 포인트

  • 학회 리뷰 과정에서 '평점 균일성'을 추구하려는 AC(Area Chair)의 압박이 왜곡된 심사 결과를 초래할 수 있다.
  • 리뷰어들이 토론을 빨리 끝내기 위해 점수를 높이는 경향이 있으며, 이는 평가의 신뢰도를 떨어뜨린다.
  • 초기에 긍정적이었던 리뷰어들조차 우려 사항이 해소되었음에도 불구하고 점수 업데이트에 소극적인 경우가 관찰된다.
  • 현재의 복잡한 심사 메커니즘은 오히려 시스템을 악화시키고 있으며, 정직하고 독립적인 평가가 필요하다.

제 논문 (Rebuttal 전 4443 점, 현재 4444 점) 은 예상대로 기각되었습니다.

결정 결과가 발표되기 며칠 전에 작성한 답변을 그대로转贴합니다:

올해 ICML 리뷰의 인센티브 구조에 불일치가 있는 것 같습니다. Rebuttal 단계는 심사위원들이 자신의 점수를 재고하도록 강하게 장려하고 있으며, 이는 좋은 동기부여입니다. 그러나 실제로는 왜곡된 역학을 만들어냅니다. AC 들은 심사위원들 간의 평점 균일성을 추구합니다. 심사위원으로서 저는 토론이 길어지는 것을 피하기 위해 점수를 높이는 압력을 느낍니다. 저는 참여하지 않은 많은 심사위원들이 토론을 끝내기 위해 단순히 점수를 올리는 경우가 있을 것이라 생각합니다.

동시에, 초기에 긍정적인 평가를 받은 심사위원들은 우려 사항이 해결되더라도 자신의 점수를 업데이트하는 데 소극적인 듯합니다. "Rebuttal 에 감사드립니다. 이 논문은 가치 있습니다. Rebuttal 은 저의 모든 우려를 해소했습니다." (논문을 직접 지목하지 않도록 재구성) 라는 리뷰를 목격했습니다. 그럼에도 불구하고 점수는 여전히 4 점으로 유지되었습니다.

이제 점수가 인플레이션되고 컨퍼런스의 수용 능력이 제한적이기 때문에 불안해집니다 (이제 제가 옳았음을 알았습니다!). 며칠 내에 NeurIPS 의 작년과 마찬가지로, 일관된 긍정적 평가를 받은 많은 논문들이 기각될 수 있습니다.

저는 동료 검토가 원래처럼 돌아가기를 선호합니다: 심사위원들은 정직하고 독립적인 평가를 제공하고, AC 는 그 품질과 일관성을 평가하며, 경계선 사례는 AC 의 토론을 통해 해결됩니다. 현재의 메커니즘은 불필요하게 복잡해 보이며, 이미 나쁜 상황을 더욱 악화시키고 있습니다.

AI 자동 생성 콘텐츠

본 콘텐츠는 r/MachineLearning (top/week)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
2

댓글

0