OpenAI가 722개의 원고와 증명을 공개한 후 수학계에서 논란이 일고 전문가들이 LLM에 연구 공유를 경고하는 이유

지난주 OpenAI는 수십 년 동안 인류를 괴롭혀 온 오랜 수학 공식들에 대한 400개 이상의 결과를 공유했습니다. 이에 대해 연구자들은 AI가 주도한 모든 작업을 검증하고 증명하는 데 인간에게 수년이 걸릴 수 있다고 말합니다. 하지만 분석가들이 이들 추정되는 해답을 찾아낸 OpenAI의 이름 없는 내부 프론티어 모델의 작업물을 확인하려 노력하는 동안, 수학자들은 이러한 종류의 AI 기반 연구 및 공개가 학문 분야 자체를 위협한다고 주장합니다.

심지어 명확한 작동 과정 없이 프롬프트에서 바로 해답으로 건너뛰는 방식으로는 애초에 이들 해답에 큰 이점이 없다는 주장이 있습니다. 수학자들과 학계 자체가 어떻게 달성되었는지 알 수 없고, 이러한 해답의 개발이 새로운 수학적 이해 분야를 만들어내지 못했기 때문에 그 결과들을 기반으로 발전시키기 어려울 수도 있습니다.

설상가상으로, 프론티어 AI의 수학 및 사이버 보안 역량이 결합하는 것이 암호학 자체의 신성함을 의심하게 만들 수 있다는 제안들이 나오고 있습니다. 국가 안보와 현대 디지털 시스템에 심각한 우려를 제기할 뿐만 아니라, 수조 달러 규모의 암호화폐도 임박한 위험에 빠뜨릴 수 있습니다.

722개 이상의 원고가 공개되다

[OpenAI의 수학 해답 공개] 공식 집계는 722개의 원고였지만, 인간이 읽을 수 있는 공식을 컴퓨터로 검증할 수 있도록 디지털화한 것이 300개에 불과하여 어떤 것이 합법적인 연구인지 알기 매우 어렵습니다. _The Verge_가 만난 일부 연구자들은 보고서 내에서 의미 없는 설명, 말이 안 되는 공식, 그리고 이미 다른 사람들에 의해 완료된 연구들을 발견했다고 말했습니다.

OpenAI와 그 모델이 주장하는 내용의 진실성을 입증할 책임은 수학계에도 매우 큽니다. OpenAI는 이 결과를 생성하는 데 사용한 모델 이름이나 프롬프트(prompt)를 공개하지 않았습니다. 이는 수학자 및 인공지능 자문 그룹 (AGMAI)의 권고 사항에도 불구하고 이루어졌습니다.

OpenAI는 결과에 대한 GitHub 저장소의 변경 로그(at least published changelogs for its GitHub repository)를 게시하여 어떤 부분에서 실수가 있었는지 명확히 했습니다. 하지만 이미 여러 번의 철회(retractions)와 수정이 이루어진 것을 보면, OpenAI가 결과를 공개하기 전에 세밀하게 검토하지 않았다는 것이 분명해 보입니다.

바로 이러한 무모함, 결과 발표의 속도, 그리고 이 분야에서 진행하는 발전을 늦추는 데에 대한 OpenAI의 관심 부족처럼 보이는 점들이 많은 수학자들을 분노하게 만들고 있습니다.

임박한 위협이 현실이 되다

수학은 AI로 인해 큰 변화를 겪는 첫 번째 분야는 아닙니다. 작가들은 2022년 ChatGPT 출시와 함께 처음으로 임박한 위협을 느꼈으며, 시각 예술가와 음악가들도 곧 비슷한 우려에 직면했습니다. 인공지능은 거의 모든 산업에 어떤 식으로든 영향을 미치고 있지만, 수학 분야에서 사용될 잠재적인 이점들이 일부 존재함에도 불구하고, 해당 분야의 연구원들은 이것이 학문의 협업적 본질에 미칠 영향과 미래의 수학자들이 이 분야를 탐구하는 것을 어떻게 저해할지에 대해 우려하고 있습니다.

NYU의 수학 교수인 Tristan Buckmaster는 Business Insider와의 인터뷰에서 OpenAI의 공개가 많은 초임 수학자들의 세계를 뒤흔들었으며, 그들의 전체 연구 프로그램이 사라진 것처럼 보인다고 말했습니다. 자신의 연구 일부가 OpenAI의 솔루션에 의해 무효화되는 것과 더불어, 그는 AI 도구를 사용함으로써 연구자들이 의도치 않게 결과에 기여했을 수 있다는 두려움을 제기하며, 이로 인해 미래에는 고급 도구 사용을 꺼리거나 자신의 연구를 공개적으로 논하는 것을 덜 하게 될 가능성이 있다고 시사했습니다.

노스웨스턴 대학교의 수학 교수인 Bryna Kra는 이것이 수학 전체에 엄청난 문제를 야기할 수 있다고 주장했습니다. 그녀는 연구자들이 아이디어, 연구 데이터, 공식을 공유하며 협력하는 방식에 주목하며, OpenAI가 수학자들을 더욱 비밀스럽게 만들어 해결책을 향해 함께 작업하고 서로의 연구를 발전시키는 능력을 감소시키고 있다는 점에 극도로 우려를 표명했습니다.

캘리포니아 대학교의 수학 교수인 Terence Tao는 Mastodon에서

OpenAI가 추가적인 공개를 할 것이라는 소문과, 같은 헤드라인을 쫓는 다른 AI 연구소들의 동반 공개 가능성으로 인해 많은 수학 분야의 사기는 매우 낮은 상태입니다.

암호학 (Cryptography)

우리의 디지털 세계 핵심 구성 요소들이 얼마나 많은 수학에 기반하고 있는지 고려할 때, 그 발전 속도의 주요 변화가 다른 곳에도 도미노 효과를 일으킬 수 있다는 것은 놀라운 일이 아닙니다. 제안된 잠재적 위험 영역 중 하나는 암호학의 비옥한 토양입니다.

@kmad @matthew_pines 저는 우리가 공개 키 암호화(public key cryptography)를 잃을 수도 있다고 생각합니다.2026년 10월 8일

존스 홉킨스 휘팅 스쿨 오브 엔지니어링(Johns Hopkins Whiting School of Engineering)의 컴퓨터 과학 부교수인 Matthew Green은 소셜 미디어에서 수학적 발전과 사이버 보안 역량의 일치가 우리가 알고 있는 암호화를 무력화할 수 있는 AI를 초래할 수 있다고 믿는다고 말했습니다.

이는 민감한 데이터 보호를 위해 암호화에 의존하는 모든 분야에 잠재적인 우려를 제기하지만, 암호화폐 산업을 전면적인 도난에 노출시켜 수조 달러 규모의 디지털 토큰에 영향을 미칠 수 있습니다.

모두가 그린(Green)에게 이것이 불가피하다고 동의하는 것은 아닙니다. 영국 암호학자이자 비트코인 개발자로 의심받는 소수의 인물 중 한 명인 Adam Back은 이러한 주장을 터무니없는 것이라 묘사하며, AI가 현재 특정 수학을 수행할 수 있다는 사실만으로 미래의 어느 시점에 암호화를 무력화할 수 있을 거라는 제안은 거의 없다고 말했습니다.

@matthew_d_green @kmad @matthew_pines 의심스럽습니다. P=NP라고 생각하십니까? 일부 문제는 근본적으로 더 높은 복잡도를 가지며, 수학적 역량을 가속화하는 것이 중력만큼 그것을 바꾸지는 못합니다. 게다가 비트코인이 신경 쓰는 것들을 위해, 모든 대수학(algebraic)이 난제(hardness problems)를 잃는다 하더라도, 우리는 해시 기반의 SHRINCS를 가지고 있습니다.2026년 10월 8일

Ethereum 창시자인 Vitalik Buterin 역시 진정할 것을 촉구하며, Twitter/X에서 누구도 토큰을 새 지갑으로 서둘러 옮기거나 지갑 보안에 대해 패닉할 필요가 없다고 밝혔습니다. 하지만 그는 AI가 언젠가 양자 컴퓨팅보다 암호화폐의 순수성에 훨씬 더 위험한 위협이 될 잠재력이 있다고 주장했습니다.

암호학(cryptography)이 당장 AI에 의해 무효화될 분야는 아닌 것 같지만, 이것이 수학 연구원들과 핵심적인 근본 '작동 방식'에 잠재적 위협을 가하고 있다는 것은 분명합니다. 이는 다른 모든 곳에서와 마찬가지입니다.

연구자들은 이에 적응하고 있지만, 이 먼지가 곧 가라앉지는 않을 것이며, 그동안 OpenAI와 동시대의 기업들은 관련성과 수익성을 추구하며 새로운 분야로 이동할 가능성이 높습니다.