2026년 5월 20일, OpenAI는 수학계를 뒤흔든 발표를 했습니다. 대중에게 공개되지 않은 내부 AI 모델이, 다작을 일삼던 유랑 수학자 Paul Erdős가 1946년에 제기한 추측인 “단위 거리 (unit distance)” 문제에 대한 반례를 찾아낸 것입니다.

Erdős는 수천 개의 질문을 던졌지만, 이 문제는 특별했습니다. 설명하기 쉬우면서도 수학적으로 매우 깊이가 있었기 때문입니다. 이는 AI 모델로부터 나온 최초의 역사적으로 중요한 증명이었습니다. 모델의 결과가 결정적인 것은 아니었지만 — 인간 수학자들이 몇 주 안에 이를 상당히 개선할 것이었지만 — 매우 혁신적이었습니다. 아무도 이 문제에 성공적으로 적용한 적이 없었던 수학의 먼 분야에서 아이디어를 가져왔기 때문입니다. 그리고 이는 영향력이 컸습니다. 불과 며칠 만에, 관련 기술들이 다른 중요한 문제들을 해결하는 데 사용되었습니다.

이어 8월 1일, OpenAI는 Astra라는 이름의 미출시 모델이 Erdős가 제기한 세 가지 문제를 포함하여 10가지의 추가적인 수학적 진전을 이루었다고 발표했습니다.

많은 수학자들은 이러한 발전을 AI 모델의 수학적 능력에 있어 상전이 (phase transition)라고 칭송해 왔습니다. 수십 년의 경력 동안 수십 개의 Erdős 문제를 해결해 온 Princeton University의 Noga Alon은 이러한 모델들이 “수학 연구가 수행되는 방식을 극적으로 변화시키고 있다”라고 말했습니다.

Erdős와 그의 추측(conjectures)들은 오랫동안 수학자들을 매료시켜 왔습니다. 그는 끊임없이 여행했습니다. 한 번에 몇 년씩이나 가방 하나만을 들고 생활하며 친구들의 집에 머물렀고, 거의 아무것도 소유하지 않았습니다. 그는 출판된 논문과 전 세계 수학자들에게 보내는 편지를 통해 문제들을 쏟아냈으며, 종종 해결책을 처음으로 제시하는 사람에게 자신의 사비로 지급할 상금을 함께 적어 보내곤 했습니다. 보상은 고작 10달러나 25달러 정도일 수도 있었지만, 그가 중요하거나 어렵다고 생각한 문제의 경우 수천 달러에 달하기도 했습니다. Erdős는 1996년 바르샤바에서 열린 수학 컨퍼런스에 참석하던 중 심장마비로 사망했지만, 아이오와(Iowa)에 기반을 둔 비영리 재단이 그의 상금을 지급하겠다고 약속했습니다.

그는 사랑받는 인물이었지만, 동시에 아주 기이한 인물이기도 했습니다. 그는 오직 실크 소재의 옷만 입었으며, 타인의 접촉을 피했습니다. 권위에 대해 깊은 냉소주의를 가졌던 그는 자신이 번 돈의 대부분을 나누어 주었고, 재정 관리와 기타 실무적인 일들은 친구에게 의존했습니다. 그는 신을 “최고의 파시스트(Supreme Fascist)”라고 불렀으며, 끊임없이 쏟아지는 수학적 아이디어의 원동력으로 암페타민(amphetamines)을 꾸준히 섭취했습니다. 그가 제안했던 문제들이 이제 세계에서 가장 크고 강력한 기술 기업들에게 핵심적인 검증 장이자, 사실상 일련의 홍보적 성과(PR coups)가 되었다는 점은 역사의 기묘한 아이러니입니다.

하지만 Thomas Bloom이라는 이름의 영국 수학자가 없었다면, 이 중 그 어떤 일도 일어나지 않았을 가능성이 매우 높습니다.

많은 만남 (Many Meetings)

Erdős와 마찬가지로, Bloom 또한 정수론(number theory)과 조합론(combinatorics) 모두에 관심이 있었습니다. 그의 연구 초점은 이 두 분야의 교차점에 위치한 산술 조합론(arithmetic combinatorics)이라는 영역이었습니다. 2014년 박사 학위를 취득한 후, Bloom은 이 분야의 떠오르는 스타로 자리매김했으며, 영국의 왕립학회(Royal Society)로부터 권위 있는 펠로우십(fellowship)을 받아 자신이 원하는 거의 모든 대학에서 연구할 수 있게 되었습니다. (그는 현재 맨체스터 대학교(University of Manchester)에 재직 중입니다.)

Bloom은 기억이 닿는 한 아주 오래전부터 Erdős의 스타일을 좋아해 왔습니다. 하지만 그는 어떤 문제들이 해결되었고 어떤 문제들이 완전히 잊혔는지 추적하는 것이 항상 어렵다고 느꼈습니다. 그래서 2023년 초, 그는 가능한 한 많은 문제들을 하나의 리스트로 모으기로 결심했습니다.

그는 이를 개인적인 용도로 사용하려 했습니다. 하지만 그는 “어디서든 접근할 수 있다면 더 쉬울 것이라고 생각했습니다”라고 말하며, “아무도 사용하지 않을 수도 있다는 기대를 품고 웹사이트를 만드는 게 낫겠다고 판단했습니다”라고 덧붙였습니다. 그는 수백 개의 문제를 모아 erdosproblems.com을 런칭했습니다. Bloom은 웹사이트를 구동하는 Python 코드를 작성하기 위해 ChatGPT를 사용했는데, 이는 당시 대규모 언어 모델 (LLM)이 해낼 수 있는 놀라운 일이었습니다. 하지만 수학 자체를 협업하기 위해 모델을 사용하는 것은 여전히 먼 미래의 가능성처럼 보였습니다.

그의 목표는 단순히 리스트의 항목들을 지워나가는 것이 아니었습니다. 그는 블로그 포스트에서 “Erdős가 알지 못했던 기술들을 자주 사용하는 현대 수학이, 이 모호한 문제들 중 상당수를 해결할 수 있을지 궁금했습니다”라고 적었습니다. “그렇게 되면 우리는 우리 지식의 한계를 입증하는 데 기여할 수 있는, 흥미롭고 어려운 핵심 문제들만을 남기게 될 것입니다.”

Bloom은 리스트를 큐레이션(curating)하는 과정에서 중요한 작업을 수행했습니다. 때때로 Erdős는 문제를 모호하거나 불분명한 방식으로 제시했는데, Bloom은 각 문제의 가장 합리적인 버전이 무엇인지 파악해냈습니다. 그는 사이트에 계속해서 문제를 추가했고, 점차 그 독자층도 늘어났습니다. 2024년과 2025년 첫 8개월 동안, 리스트에 있는 111개 문제의 상태가 “미해결 (open)”에서 “해결됨 (solved)”으로 변경되었습니다 (비록 이 중 일부는 수년 전에 이미 해결되었으며, 상태 변경은 증명의 재발견 또는 검증을 반영한 것이었지만 말입니다).

그러던 2025년 8월, 몇몇 동료들이 사람들이 관심 있는 문제에 대해 이야기할 수 있도록 댓글 기능을 추가할 것을 제안했습니다. 그는 ChatGPT를 사용하여 코드를 작성함으로써 이를 빠르게 구현할 수 있었습니다. 이제 그는 거의 1,000개에 달하는 문제들을 목록화했습니다.

Bloom의 타이밍은 좋았습니다. 그는 뜻이 맞는 사람들이 서로 대화할 수 있는 환경을 만들었고, 그는 그것이 "정말로 커뮤니티가 형성되도록 해주었다"라고 말했습니다. 대부분의 경우 댓글은 산발적이었습니다. 어떤 문제는 예시를 지적하거나 문제가 얼마나 어려워 보이는지를 언급하는 단 하나의 댓글만을 끌어내기도 했습니다. 하지만 활동은 꾸준히 증가했으며, 일부 문제들은 낯선 이들 사이에서 미묘한 수학적 토론을 촉발하는 촉매제 역할을 했습니다.

"Tom은 아마 이것을 정말로 깨닫지 못했을 수도 있지만, 저에게는 솔직히 제 인생을 바꾸어 놓았습니다"라고 Bloom 웹사이트에서 네 번째로 많은 댓글을 남긴 Wouter van Doorn은 말했습니다. 2025년 가을에 이 사이트에서 활동을 시작한 많은 사람들처럼, van Doorn도 정확히 전문 수학자는 아닙니다. 그는 본인의 표현대로 "다른 회사로부터 고객 서비스 지원을 의뢰받는 회사"에서 일합니다. 하지만 그렇다고 완전한 아마추어도 아닙니다. 10년 전, 그는 벨기에의 KU Leuven에서 수학 석사 과정을 거의 마칠 뻔했습니다. 2024년, 그는 LLM (대규모 언어 모델)이 점점 더 유능해지는 것을 보며 부분적으로 자극을 받아, 수학에 집중하기 위해 6개월간 휴직을 했습니다. 당시 그는 AI를 특별히 사용하고 싶지는 않았지만, 다음과 같이 생각했던 것을 기억합니다. "지금은 내가 여전히 AI보다 수학을 더 잘하지만, 1년, 2년, 5년 뒤에는 어떻게 될지 누가 알겠어? 만약 내가 이 프로젝트들을 끝내고 싶고, 그것들이 온전히 내 것이 되길 원한다면, 지금이 바로 그때야."

그리하여 2025년 10월, 이제 본업으로 복귀한 van Doorn은 1102번 문제 페이지에 첫 번째 댓글을 남겼습니다. 1981년에 Erdős가 제시한 이 문제는 "제곱 없는 (square-free)" 정수 집합의 성질에 대해 묻습니다. 즉, 중복된 소인수를 갖지 않는 정수를 의미합니다. (예를 들어, 30은 2 × 3 × 5와 같으므로 제곱 없는 정수이지만, 18은 2 × 3 × 3과 같으므로 3이 중복되어 제곱 없는 정수가 아닙니다.)

11월 초, van Doorn은 AI에 의존하지 않고 스스로 알아낸 정답을 향한 진행 과정을 문제 페이지의 댓글로 공유했습니다.

그날 늦게, 사이트의 또 다른 댓글 작성자가 van Doorn의 논리에 결함이 있다고 주장하며 답글을 남겼습니다. 두 사람은 빠르게 의견을 주고받았고, van Doorn은 대화 상대에게 자신의 논리가 옳음을 설득했습니다. "이제 당신의 논리가 어떻게 작동하는지 알겠습니다. 멋지네요!"라고 상대 수학자가 답했습니다. 그 수학자는 바로 UCLA(University of California, Los Angeles)의 교수이자, 오늘날 살아있는 수학자 중 아마도 가장 잘 알려져 있으며 논쟁의 여지 없이 가장 영향력 있는 인물 중 한 명인 Terence Tao였습니다. (우연도 아니게, Tao가 불과 10살이었을 때 그는 Erdős와 마주친 적이 있습니다.)

과거의 느낌을 주는 Bloom의 웹사이트는 인터넷이 가진 민주주의의 가장 이상적인 모습을 보여주는 사례가 되어가고 있었습니다. "Tom의 웹사이트와 그곳의 댓글 섹션이 없었다면 이 모든 협업은 불가능했을 것입니다."라고 van Doorn은 말했습니다. 당신이 종신 교수직(tenure)을 가졌는지 여부, 젊은지 혹은 나이가 들었는지, 명문 대학에 있는지 혹은 대학에 다니고 있기는 한지조차 중요하지 않았습니다. 수학 연구를 하고 싶고 좋은 아이디어가 있다면, 협업할 사람을 찾을 수 있었습니다.

하지만 겨울이 찾아오면서 — van Doorn이 Terry Tao와 협업하게 된 것과 비슷한 시기에 — 상황이 변하기 시작했습니다.

교차로로의 여정

둘 다 20대 초반인 Kevin Barreto와 Liam Price는 2025년 여름, AI 전용 Discord 서버에서 친구가 되었습니다. Barreto는 현재 University of Cambridge의 학부생이며, Price는 대학에서 수학을 공부했으나 졸업 전에 중퇴했습니다. 12월, 최신 AI 모델들이 일부 Erdős 문제들을 해결하는 데 성공할 수도 있다는 확신이 든 두 사람은 AI에게 문제들을 묶음으로 던지기 시작했습니다. 그들은 초기에 GPT-5.2에게 문제의 정답을 모른다고 말하면 별다른 진전이 없을 것이라는 사실을 깨달았습니다. 그래서 Barreto의 표현을 빌리자면, 그들은 "문제가 실제보다 더 쉬운 것처럼 믿도록 가스라이팅(gaslighting)하는, 매우 특정한 방식으로 프롬프트(prompt)를 입력하는 법"을 배웠습니다.

그들은 Erdős 문제 333번에 대해 자신들의 첫 번째 승리라고 생각한 것을 거두었습니다. 크리스마스 이른 아침, Barreto는 Bloom의 웹사이트에 증명을 게시하며 다음과 같이 적었습니다. “우리가 아는 바로는, 이것이 이전에 인간에 의해 해결되지 않았던 Erdős 문제를 LLM이 완전히 자율적으로 해결한 첫 번째 사례라고 믿습니다.” 정수 집합의 합을 다루는 333번 문제가 특별히 중요한 문제는 아니었음에도 불구하고, AI로 이를 해결했다는 사실은 여전히 중요하게 느껴졌습니다.

하지만 몇 시간 후, 다른 사용자가 Erdős 본인이 1977년에 발표한 논문에서 333번에 대한 해결책을 이미 제공했다는 점을 지적했습니다. Barreto는 자신의 실수를 인정했습니다. 그는 “웹사이트의 모든 회원에게 드리는 공식적인 요청은, 현재 미해결(open) 상태로 표시된 문제들에 대해 문헌 조사(literature search)에 더 큰 비중을 두어 달라는 것입니다”라고 적었습니다. “벌써 두 번이나 이런 실수를 저지른 사람으로서, 정말 가슴이 미어집니다.”

굴하지 않고 그와 Price는 계속해서 연구를 이어갔고, 2026년 1월 4일까지 그들은 GPT-5.2 Pro를 사용하여 특정 숫자가 다른 숫자로 나누어떨어지는 시점에 관한 문제인 Erdős 728번의 해결책을 찾아냈습니다. 이번에는 아무도 그것을 이미 증명한 이전 연구를 찾아낼 수 없었습니다. Barreto는 증명이 논리적으로 일관성을 유지하는지 인증하기 위해 Harmonic이라는 스타트업에서 개발한 Aristotle이라는 또 다른 AI 도구를 사용했습니다. 소프트웨어 엔지니어이자 Bloom, Tao, van Doorn보다 더 다작하는 유일한 포럼 참여자인 Nat Sothanaphan은 ChatGPT를 사용하여 정식화된 결과(formalized result)를 작성하고 이를 온라인에 게시했습니다.

Price는 LLM에게 미해결 문제(open questions)를 해결하도록 요청하는 방법론을 개발했습니다. 먼저, 그는 챗봇에게 해결책을 요청합니다. 그런 다음 그 해결책을 챗봇의 새로운 인스턴스(instance)에 입력하여 이전 챗봇의 작업 내용을 검토하도록 요청합니다. 그는 실행 가능한 해결책처럼 보이는 것을 얻을 때까지 이 과정을 반복했습니다. (이는 기업들이 Price가 수동으로 수행하는 것과 같은 반복 작업을 자동화하기 위해 이른바 하네스(harnesses) 또는 스캐폴드(scaffolds)라고 부르는 것을 내부적으로 구축하기 위해 해온 작업들과 맥을 같이 합니다.)

Barreto와 Price의 논문들은 지난 몇 달 동안 AI에 의해 최소한 부분적으로라도 해결된 수많은 Erdős 문제들 중 아주 일부분만을 나타낼 뿐입니다. 특히 이러한 문제들이 LLM(Large Language Models)에게 이토록 비옥한 테스트 베드(test bed)가 된 데에는 여러 가지 이유가 있습니다. 가장 주요한 이유는 대체로 Erdős 문제들이 정수론 (number theory), 조합론 (combinatorics), 그래프 이론 (graph theory) 분야에 속해 있는데, 이 영역들은 모두 거대 언어 모델 (LLM)이 다른 수학 분야보다 더 쉽게 접근할 수 있음이 증명된 분야들이기 때문입니다. 또한 이 문제들은 난이도와 수학적 중요도 면에서도 매우 다양합니다. 이러한 다양성은 능력치가 매우 넓게 분포되어 있는 초기 단계의 기술에 적합합니다.

Black-and-white photo of a man in glasses.

Erdős의 문제들 중 상당수는 처음 만들어진 순간부터 일정한 금전적 가치가 부여되어 있었는데, 이는 방랑하는 괴짜가 제공한 유쾌한 인센티브였습니다. 하지만 이제 이 문제들이 AI의 비공식적인 벤치마크 (benchmark)가 됨에 따라, 그 해결책들은 "문제당 비용 (per-problem cost)", 즉 문제를 해결하는 데 필요한 토큰 (tokens)의 가격이라는 관점에서 논의되고 있습니다.

다큐멘터리 N is a Number: A Portrait of Paul Erdős ©1993의 George Csicsery 촬영 사진. All Rights Reserved.

"최근 제 논문 중 상당수는 대부분 AI의 공으로 돌려야 합니다."라고 van Doorn은 말했습니다. "관련된 아이디어들은 제가 스스로 생각해낸 것들이 아니었습니다." Erdős 사이트에서 활동하는 많은 이들과 마찬가지로, van Doorn은 LLM이 그로 하여금 더 많은 일을 더 빠르게 할 수 있게 해주는 방식에 흥분하고 있습니다. "LLM이 제시한 아이디어를 읽으면, 저는 그것을 소화하고, 이해하려고 노력하며, 단순화하고, 일반화합니다."라고 그는 말했습니다. 그는 수학을 더 잘 이해하기 위해 AI를 사용합니다.