AI가 하룻밤 사이에 350개의 주요 수학 문제 해답을 공개하다: 필즈상 수상자가 말하는 순수 수학의 '오펜하이머 모멘트'와 향후 전망

불과 3~4년 전만 해도 이론 수학자들에게 대규모 언어 모델(LLM)은 '기초적인 논리 퍼즐을 풀게 하고 환각(hallucination)을 일으키는 모습을 보며 웃는다'는 학술적인 농담거리에 불과했습니다. 하지만 지금, 순수 수학은 물리학 연구소가 아닌 AI 기업들의 조용한 서버 위에서 자신들만의 '오펜하이머 모멘트(핵무기 개발 같은, 기술이 세상을 돌이킬 수 없게 변화시키는 순간)'를 맞이하고 있습니다.

프랑스 수학 학회(SMF) 회장 이자벨 갤러거가 주최한 웨비나에서 필즈상 수상자인 유고 뒤미닐-코팡(Hugo Duminil-Copin) 씨는 이러한 급격한 단계 변화에 대해 무겁지만 명확한 보고를 했습니다.

본 기사에서는 해당 웨비나(참고 유튜브 링크) 내용을 바탕으로, AI에 의한 자동화가 고등 수학에 가져온 존재론적 위기와 수학자들이 앞으로 어떻게 대처해야 할지 5가지 중요한 포인트로 정리하여 소개합니다.

전환점은 올해 4월, Lean을 이용한 형식적 증명의 자동화와 최신 ChatGPT 출시와 함께 찾아왔습니다. 뒤미닐-코팡 씨는 젊은 동료가 현대 LLM에 기초적인 미해결 문제인 **'벤자미니-슈람 예상(Benjamini-Schramm conjecture)'**을 프롬프트로 입력했던 순간을 회상했습니다.

뒤미닐-코팡 자신도 차원 $d > 4$에서의 이 예상 증명을 위해 『Duke Mathematical Journal』에 걸쳐 70페이지에 달하는 기념비적인 논문을 작성했고, 동료는 $d > 2$로의 확장에 몇 년을 바쳤습니다. 그러나 AI는 모든 분수 차원 $d > 1$에 대한 완전한 예상에 대해 놀랍게도 단 1페이지 만으로 자족적인 증명을 즉시 생성해냈습니다.

인간이 완전히 놓치고 있던 분석 분야 간의 장거리 아날로지(개념적 다리)를 AI가 구축했다는 이 사실은 단순한 데이터베이스 검색을 넘어, 자동화된 정리 증명이 '힘겨루기 계산' 영역에서 '진정한 지적 통합'의 영역으로 월경했음을 보여줍니다.

여름 동안 Anthropic이 유명한 $ heta_{p,c}=0$ 예상을 해결했다는 소문, 9월 2일에 예고 없이 공개된 Lean 형식 코드, 그리고 그 6일 후 나비에-스토크스 방정식 관련 돌파 보도 등으로 긴장감이 고조되었습니다.

기업들의 대형 발표를 감지한 뒤미닐-코팡 씨와 공동 연구자들은 인간의 우선권을 확보하기 위해 이징 모델(Ising model)의 등각 불변성에 관한 논문을 월요일 심야에 서둘러 arXiv에 업로드했습니다. 그러나 그 노력은 화요일 밤에 열린 '댐'에 의해 순식간에 가려지고 말았습니다.

OpenAI가 하룻밤 사이에 350개의 주요 미해결 수학 문제 해답을 공개한 것입니다. 게다가 이는 뒤미닐-코팡 씨의 팀이 몇 시간 전에 게시했던 이징 모델 증명 메커니즘과 완전히 동일했습니다. 한밤중에 잠에서 깬 그는 과거와 미래에 제출할 모든 연구 계획서가 하룻밤 사이에 체계적으로 해결되어 버렸다는 것을 깨달았습니다.

그 규모는 압도적이었습니다.

• 퍼콜레이션의 등각 불변성: 600페이지가 넘는 6편의 논문 컬렉션을 통해 해결 -
• 자기 회피 보행(Self-Avoiding Walks): 1,000페이지가 넘는 13편의 상호 연결된 논문 시리즈를 통해 해결 -
• 출력 규모: 뒤미닐-코팡 씨의 업적을 인용한 3,500페이지 이상의 AI 생성 증명이 하룻밤 사이에 등장했습니다(이는 그의 평생 총 출력 페이지 수 3,700페이지에 거의 필적하는 양입니다).

인간의 평생 성과가 검증되지 않은 거대한 텍스트 블록으로 동시에 출판되는 광경은 이론 연구자들에게 압도적인 마비감을 안겨주었습니다.

이 10월의 대규모 공개는 유기적인 과학적 돌파구가 아니라, **'수학 파밍(Math Farming)'**이라 불리는 냉혹한 기업 방식의 직접적인 결과입니다.

AI 기업들은 자율 알고리즘을 전개하여 인류가 수십 년에 걸쳐 쌓아 올린 미해결 예상 문헌을 뒤지고, 과학 커뮤니티와의 대화 없이 자동화된 정리 증명기로 그것들을 분쇄합니다. 기술 독점 기업들은 인류의 지적 발판을 미디어 사이클을 위한 '날것의 훈련 데이터'로 취급하며, 검증 없이 날것의 머신 코드를 학계에 던져 넣고 있는 것입니다.

그 여파는 젊은 수학자들에게 미치고 있습니다. Duchemin-Copan의 동료인 Arthur와 같은 젊은 연구자들은 이제 '개념적 번역가(conceptual translator)' 역할을 강요받고 있습니다. 그들은 수천 줄에 달하는 원시 Lean 코드나 비정형화된 기계 텍스트를 해독하고, 자동화된 출력물에서 인간이 이해할 수 있는 수학적 논리를 리버스 엔지니어링하기 위해 힘든 나날을 보내고 있습니다.

학계가 이 혼란에 대처하는 동안, 내부적인 논의는 'Pro-AI'와 'Anti-AI'라는 유해한 이분법적 대립으로 붕괴할 위험이 있습니다.

Duchemin-Copan은 자신의 창조적 과정에서는 AI를 사용하지 않았다고 언급한 조심스러운 고찰을 'Proof Prompts' 플랫폼에 공개했을 뿐인데도, 즉시 '반(反)AI 반응주의자(anti-AI reactionary)'라는 낙인이 찍히고 동료 과학자들로부터 공격적인 커뮤니케이션을 받았습니다.

이 기업의 증기 압착(steamrolling)에 대항하기 위해, Duchemin-Copan은 다른 많은 필즈상 수상자들과 ACMI 위원회와 함께 공동 청원서를 작성하며, 회사의 발표가 자신들의 항의를 무효화하기 전에 윤리적 경계를 설정하려고 시도하고 있습니다. 과학자들이 적대적인 진영으로 나뉘어 서로 풍자한다면, 기관의 자금 제공자들에게 '인간 연구자의 부가 가치'를 통일된 형태로 주장할 수 없게 되어 순수 과학의 제도적 존속이 위협받습니다.

자동화된 정리 생성에 직면하여, 수학은 마치 '사진 기술 등장에 대한 초상화'나 'Deep Blue에 대한 체스'처럼 철학적인 피벗(방향 전환)을 강요받고 있습니다.

Duchemin-Copan은 수학을 **'인간 과학(Human Science)'**으로 재정의해야 한다고 주장합니다. 그것은 원시적인 진실을 축적하는 것이 아니라, 추상화, 정서적 회복력, 인지적 성장에 대한 인간 정신의 능력을 탐구하는 것이기 때문입니다.

젊은이들이나 일반 대중이 수학에 매료되는 것은 검증된 정리의 정적인 라이브러리가 있기 때문이 아닙니다. 그들이 매혹되는 것은 인간 지적 서사시, 감정적 갈등, 그리고 미지의 것과 씨름하는 변형적인 경험입니다.

이 학문의 영혼을 지키기 위해, Duchemin-Copan은 미래의 수학자들을 향해 네 가지 중요한 약속을 제안합니다.

증류와 전파(Distillation and Transmission): AI가 생성한 증명을 소화하고 단순화하여 더 넓은 과학 커뮤니티를 위해 번역하는 '개념적 다리' 역할.

• 비지원 연구(Unassisted Research): 인지적 탐구와 자기 발견의 중요한 실천으로서, 순수하고 인간의 지원을 받지 않는 사고를 유지하는 것.
• 대중 참여(Public Engagement): 탑에 머무르지 않고 공적인 아웃리치, 학교에서의 중재, 집필 활동(예: 발달 심리학자와 공동 집필 중인 서적 프로젝트 『De l'autre côté du tableau noir / 칠판의 건너편』 등)에 참여하는 것.
• 심화된 멘토십(Deepened Mentorship): 다음 세대를 혼란스럽게 하는 기술적 풍경 속에서 이끌기 위해, 직접적인 인간 간 교육에 크게 재투자하는 것.

이론 과학은 지금 전례 없는 기로에 서서 두 가지 다른 실천으로 분기하려 하고 있습니다.

한편에는 초고속으로 방대한 증명과 원시적 이론적 사실을 생성할 수 있는, AI가 강화된 고옥탄가 기계가 가동되고 있습니다. 다른 한편에는 지적인 성격을 육성하고 감정적 회복력을 길러 호기심의 횃불을 다음 세대에게 전달하도록 설계된, 깊이 인간적인 실천이 존재합니다.

알고리즘이 고대의 예상을 순식간에 해결하는 힘을 얻은 지금, 궁극적인 질문은 '해답' 그 자체에서 '풀어내는 사람(solver)'으로 이동하고 있습니다.

**