오늘 저희는 대규모 언어 모델(LLM)이 과학 연구 아이디어의 참신성(novelty)을 얼마나 믿을 만하게 평가할 수 있는지에 대한 새로운 연구인 Old Ideas, Novel Problems을 공개합니다. 논문과 함께, 저희는 참신성 판단기(novelty judge)를 테스트하기 위한 벤치마크, 데이터, 코드와 더불어 연구자들이 새로운 평가 세트를 구축하는 데 사용할 수 있는 자동화된 파이프라인도 게시합니다.
Ai2에서는 과학적 발견의 여러 부분을 지원하는 AI 시스템을 개발해 왔습니다. DataVoyager는 연구자가 구조화된 데이터를 탐색하고 분석하도록 돕고, AutoDiscovery는 가설을 생성하고 테스트하며, Theorizer는 방대한 문헌 전반에 걸쳐 증거를 종합하여 후보 과학 이론으로 만듭니다. Asta와 함께 이 프로젝트들은 연구자들이 기존 작업을 이해하는 것에서 나아가 새로운 아이디어를 제안하고, 테스트하며, 개선할 수 있도록 돕는 시스템을 지향합니다.
하지만 연구 아이디어를 생성하는 것은 과학적 발견을 자동화하는 도전 과제 중 일부일 뿐입니다. 그 아이디어들은 또한 진정으로 새로운 기여를 해야 하며, 이는 이 시스템들이 기존 작업을 단순히 재포장한 것과 참신한 방향을 구별할 수 있는 방법을 필요로 함을 의미합니다.
이러한 판단은 종종 또 다른 LLM에 의해 이루어지는데, 이를 저희는 *참신성 판단기(novelty judge)*라고 부릅니다. 참신성 판단기는 연구 아이디어가 기존 작업과 비교하여 새로운지 여부를 평가하며, 이는 단독으로 또는 다른 아이디어와 비교하여 수행될 수 있습니다. 이를 구축하는 표준적인 방법은 없으며, 연구팀들은 모델, 프롬프트, 평가 형식, 추론 예산(reasoning budget), 그리고 때로는 문헌 검색 시스템을 선택합니다. 이러한 선택들은 판결에 실질적인 영향을 미칠 수 있습니다. 하지만 이러한 판단기들은 실제로 평가해야 하는 AI가 생성한 아이디어보다는 인간이 작성한 논문으로만 검증되는 경우가 많습니다.
저희의 새로운 벤치마크 결과는 참신성 평가 자체가 결코 신뢰할 수 없음을 시사합니다. GPT-5.1, GPT-5.2, GPT-5.4, Claude Sonnet 4.5, Claude Opus 4.5, 그리고 Claude Opus 4.6 등 여섯 개의 LLM 심판을 거쳐도, 평가 설정에 사소해 보이는 변화만으로 동일한 아이디어에 대한 판단이 극적으로 달라집니다. 한 실험에서는 프롬프트의 단어 몇 개를 바꾸는 것만으로 모델이 두 아이디어 중 어느 것이 더 참신한지 식별하는 정확도가 50 퍼센트 포인트 이상 변동했습니다. 검색(Retrieval)이나 추가적인 추론(Reasoning)을 수행한다고 해서 판단이 일관되게 개선되지 않았으며, 목적에 맞게 설계된 두 가지 참신성 평가 시스템은 단순히 프롬프트를 통해 요청한 Claude Opus 4.6 기준선보다 성능이 떨어졌습니다.
만약 AI가 과학적 발견에서 더 큰 역할을 하려면, 실제로 무언가 새로운 것을 제안하고 있는지 판단할 수 있는 더욱 믿을 만한 방법이 필요합니다. 저희의 연구는 이 문제를 연구하기 위한 도구를 제공하는 동시에, 아직 해결되지 않은 부분이 얼마나 많은지를 보여줍니다.
참신성 심판자들이 더 참신한 연구 아이디어와 덜 참신한 연구 아이디어를 얼마나 신뢰성 있게 구별할 수 있는지 테스트하기 위해, 저희는 먼저 근본적인 과학적 기여의 독창성에 대한 강력한 증거가 있는 사례들이 필요했습니다.
그래서 저희는 ICLR 2026 동료 심사(peer reviews)를 중심으로 자동화된 파이프라인을 구축했습니다. 논문 게재 여부를 참신성의 대리 지표(proxy)로 간주하기보다는, 리뷰 자체에서 리뷰어들이 기여의 독창성에 대해 명시적으로 논의한 구절들을 추출했습니다. 이 구분이 핵심입니다. 논문은 다른 측면에서 충분히 강력하다면 특별히 참신하지 않아도 게재될 수 있습니다. 마찬가지로, 독창적인 기여를 했지만 다른 약점을 가진 경우에도 거부될 수 있습니다.
우리는 ICLR 연구 분야에서 상위 10%에 속하며, 리뷰어들이 참신성을 긍정적으로 식별했고 어느 리뷰어도 이를 이의 제기하지 않은 인간이 작성한 연구 아이디어 154개로 *고참신성 풀(high-novelty pool)*을 만들었습니다. 우리는 반대 기준을 적용하여 *저참신성 풀(lower-novelty pool)*을 구축했습니다. 이 풀은 하위 10%에 속하는 거절된 논문에서 나온 145개 아이디어로, 리뷰어들이 독창성에 대한 우려를 제기했지만 어느 누구도 참신성을 긍정적으로 식별하지 않은 경우입니다. 리뷰 마이닝 과정에 대한 별도의 확인에서, 어노테이터는 50건 중 47건의 추출된 참신성 신호 극성(novelty-signal polarity)에 동의했으며, 의견 불일치가 있었던 경우는 어느 리뷰어가 논문의 참신성을 칭찬했는지 아니면 이의를 제기했는지 여부를 바꿀 수 없었습니다.
이 두 풀은 결합하여 우리의 첫 번째 평가 환경인 Human-Only를 형성하며, 이는 참신성 판단자들이 높은 참신성을 보이거나 낮은 참신성을 보이는 인간 작성 아이디어를 구별할 수 있는지 테스트합니다. 하지만 실제로는, 참신성 판단자들은 AI가 생성한 아이디어를 평가하는 데 점점 더 많이 사용되고 있습니다. 그래서 우리는 두 번째 환경인 Human+Generated를 만들었습니다.
이 풀을 위해, 동일한 154개의 검증된 인간 아이디어와 간단한 LLM 생성기가 만든 154개 아이디어를 쌍으로 매칭했습니다. 우리는 생성된 아이디어들이 그들의 인간 작성 대응물보다 참신성이 낮다고 가정했습니다. 이는 모든 아이디어에 대한 검증된 판단이 아니라 약한 레이블입니다. 생성기는 오직 연구 분야와 새로운 아이디어를 제안하라는 지침만 받았을 뿐, 문헌 검색, 도구 사용, 반복(iteration), 또는 피드백은 받지 못했습니다. 이는 기본적인 생성기와 참신성을 명시적으로 인정했던 상위 10% ICLR 논문에서 나온 기여물 간의 보수적인 비교를 제공합니다.
추가적인 검증으로, 한 전문가가 독립적으로 30개의 인간+생성(Human+Generated) 쌍을 검토했습니다. 이 중에는 저희의 가장 강력한 심사관이 틀렸던 사례에 높은 비중을 두었습니다. 우리는 인간과 AI가 생성한 아이디어를 공통된 구조로 다시 작성하여, 심사관들이 단순히 글쓰기 스타일의 차이에 반응하는 것인지 테스트했습니다. 전문가가 30개 쌍 모두에서 인간의 아이디어를 선호했으며, 어떤 생성된 아이디어도 참신하다고 판단하지 않았습니다.
중요한 점은, 저희 핵심 발견 중 다수는 레이블에 전혀 의존하지 않는다는 것입니다. 만약 두 가지 합리적인 평가 설정이 동일한 아이디어 쌍에 대해 상반된 답변을 내놓는다면, 그 불일치 자체가 불안정성을 드러냅니다.
저희가 수집한 인간 작성 및 AI 생성 연구 아이디어를 사용하여, 여섯 개의 LLM 심사관(GPT-5.1, GPT-5.2, GPT-5.4, Claude Sonnet 4.5, Claude Opus 4.5, 그리고 Claude Opus 4.6)이 점별(pointwise, 즉 절대적인 참신성 평가) 비교와 쌍별(pairwise, 즉 두 아이디어를 비교하여 가장 참신한 것을 찾는 것) 비교를 통해 얼마나 잘 참신성을 평가할 수 있는지 테스트했습니다. 저희는 한 번에 하나의 요인만을 변화시켰습니다: 프롬프트, 추론 예산(reasoning budget), 심사관이 관련 논문을 볼 수 있는지 여부, 아이디어가 형식화된 방식, 최종 판결을 위해 결합되는 판단의 개수, 그리고 – AI가 생성한 아이디어의 경우 – 어떤 모델이 이를 생성했는지입니다.
성능에서 가장 큰 변화는 저희가 모델에게 참신성을 판단하도록 프롬프트를 구성하는 방식에서 나왔습니다.
예를 들어, 우리는 GPT-5.4에게 동일한 인간+생성 쌍을 두 가지 프롬프트와 함께 보여주었습니다. 각 쌍은 검증된 인간 작성 아이디어 하나와 AI 생성 아이디어 하나를 포함하고 있었습니다. 한 프롬프트는 심사관들이 각 쌍에서 정확히 하나의 아이디어가 참신하다고 발견했다고 모델에게 알려주고 어느 것인지 식별하도록 요청했고, 다른 프롬프트는 단순히 어떤 아이디어가 참신한지 물었습니다. 저희가 더 간단한 프롬프트로 전환했을 때, 정확도는 93.5%에서 40.9%로 떨어졌는데, 이는 우연 확률보다 낮은 수치였으며 모델은 동일한 쌍의 절반 이상에 대해 판결을 변경했습니다.
반면에, 동일한 프롬프트 변경은 인간이 작성한 아이디어와 강하고 약한 참신성 증거를 짝지은 Human-Only 데이터셋에서 정확도를 단지 약 7 퍼센트 포인트만 변화시켰습니다. 이는 참신성 판단기가 인간이 작성한 연구에서는 비교적 안정적으로 보일 수 있지만, AI가 생성한 아이디어에 대해서는 매우 다르게 행동할 수 있음을 시사합니다.
그렇다고 해도, 인간이 작성한 아이디어도 예외는 아니었습니다. 저희는 Human-Only 데이터셋에서도 상당한 변화를 목격했습니다. 동일한 변경은 Claude Opus 4.6의 정확도를 21 포인트 움직였습니다. 다만 그 변화 폭은 AI가 생성한 아이디어에 비해 덜 심각했습니다.
또한 보편적으로 더 좋은 프롬프트는 없었습니다. 예를 들어, 아이디어를 개별적으로 판단할 때, 심사위원들에게 사소하거나 점진적인 기여를 참신한 것으로 간주하지 않도록 경고하는 지침을 삭제하는 것은 일부 심사위원의 정확도를 향상시켰지만 다른 심사위원에게는 감소시켰습니다. 즉, 한 모델에 잘 작동하는 프롬프트가 다른 모델로 전이되지 않을 수 있다는 의미입니다.
또한 저희는 참신성 판단기의 일반적인 사용 사례, 즉 두 AI 생성기에서 나온 아이디어를 비교하는 것을 테스트했습니다. 우리는 Claude Opus 4.5의 아이디어와 Claude Sonnet 4.5의 아이디어를, 그리고 GPT-5.4의 아이디어와 GPT-5.1의 아이디어를 짝지었습니다. 테스트된 프롬프트 변경 전반에 걸쳐, 평균적으로 여섯 명의 심사위원 중 약 4분의 1에서 3분의 1의 판결이 바뀌었습니다. 이러한 불일치는 어떤 생성기가 더 참신한 아이디어를 만들어낸다고 가정하지 않고 측정될 수 있으며, 이는 판단기 프롬프트의 선택이 아이디어 구상 시스템 간의 비교에 어떻게 영향을 미칠 수 있는지를 보여줍니다.
더 많은 검색과 추론 과정이 반드시 더 나은 참신성 판단을 만들어내지는 않았습니다. 저희는 GPT-5.6 Sol에게 초고도(extra-high)의 추론 예산과 arXiv로 제한된 실시간 반복 검색 기능을 제공한 후, 각각 5개의 사전 검색된 초록을 보는 표준 검색 기반 심사관들과 비교했습니다. (이 비교에서 모든 심사관은 인간+생성 데이터셋에 대해 아이디어당 한 번 실행되었습니다.) 에이전트형 심사관은 0.78의 macro-F1 점수를 기록했는데, 이는 Claude Opus 4.6의 0.89점보다 11점 낮았으며, 더 간단한 Claude Opus 4.5 및 GPT-5.4 설정과 비슷한 범위였습니다. 다만 현재 API 가격 기준으로 결정당 약 10배 높은 비용이 들었습니다. (여기서 macro-F1은 심사관이 참신하고 비참신적인 아이디어를 얼마나 잘 식별하는지를 측정하며, 높을수록 좋습니다.)
목적에 맞게 설계된 평가 도구들 역시 훨씬 더 많은 비용이 들었음에도 불구하고 더 정확하지 않았습니다. 인간+생성 데이터셋에서 낮은 추론과 세 번의 호출에 걸친 다수결 투표를 사용한 간단한 Claude Opus 4.6 프롬프트는 총 평가 비용 $2.59로 0.854의 macro-F1을 달성했습니다. 비교하자면, 문헌 기반 검색 및 재순위 지정 파이프라인인 Idea Novelty Checker는 $30.66에 0.642를 기록했고, Semantic Scholar를 반복적으로 검색하는 참신성 평가 도구인 Sakana AI의 AI Scientist는 $82.05에 0.772를 기록했습니다. (두 전용 평가 도구 모두 결정당 한 번 호출로 Claude Opus 4.6을 사용했습니다.)
다시 말해, 간단한 프롬프트 기반 기준선(baseline)은 목적에 맞게 설계된 어떤 시스템보다도 더 정확하고 훨씬 저렴했습니다.
종합적으로 볼 때, 이러한 결과들은 참신성 평가가 이들 시스템이 점점 더 판단을 요청받고 있는 AI 생성 아이디어에 대해 특히 취약하다는 것을 시사합니다.
저희의 결과는 LLM 기반의 참신성 평가가 여전히 주요 미해결 문제임을 보여줍니다. 인간이 작성한 연구에서 신뢰할 만해 보이는 심사관들도 AI 생성 아이디어에서는 다르게 행동할 수 있으며, 한 모델에 도움이 되는 프롬프트가 다른 모델에는 해로울 수 있고, 더 많은 검색이나 컴퓨팅 자원이 반드시 더 일관된 판단을 만들어내지는 않습니다.
향후 연구에서는 심사관(judges)이 실제로 평가할 아이디어 유형에 대해 테스트해야 하며, 프롬프트와 모델 전반에 걸쳐 민감도(sensitivity)를 측정하고, 기존 문헌(prior literature)을 통합하는 방식을 개선하며, 과학 문헌이 성장하고 AI 시스템이 발전함에 따라 진화할 수 있는 벤치마크(benchmarks)를 구축해야 합니다. 저희의 벤치마크와 재사용 가능한 데이터 파이프라인은 시작점이며, 연구자들은 이를 새로운 동료 검토(peer reviews), 다른 과학 커뮤니티, 그리고 미래 세대의 참신성 심사관에게 적용할 수 있습니다.
자동화된 아이디어 생성(Automated ideation)은 그럴듯한 연구 방향을 생성하는 것 이상에 의존합니다. 우리는 또한 그러한 아이디어가 진정으로 새로운지 판단할 방법이 필요합니다. 현재 참신성 심사관의 약점을 측정하기 쉽게 만듦으로써, 저희는 이번 공개가 연구자들이 AI 생성 연구 아이디어를 평가하는 더욱 강력한 방법(robust ways)을 구축하는 데 도움이 되기를 바랍니다.
