AI의 독창성: Erdős 평면 단위 거리 문제(Erdős Planar Unit Distance Problem)를 반증하다

AI가 세상을 지배할 것이다는 오랫동안 들어온 말입니다. 필자가 기억하는 한, Terminator 영화 시대의 심판의 날(Judgement Day) 같은 개념이었습니다. 하지만 이를 현실과 연결하여 진지하게 논할 만한 명확한 근거는 아직 없었습니다.

하지만 오늘 우리는 OpenAI의 독창성(Novelty)을 통해 실제로 증명 가능한 증거를 갖게 되었습니다. OpenAI는 인간이 이전에 발견하지 못했던 새로운 지식을 발견함으로써, AI가 단지 인간이 발견한 것들을 재조합할 뿐이라는 믿음을 뒤집었습니다.

2026년 5월, OpenAI 내부의 추론 모델(reasoning model)은 Paul Erdős가 1946년에 제기한 조합 기하학(Combinatorial geometry) 문제이자 가설인 Erdős 평면 단위 거리 문제(Erdős Planar Unit Distance Problem)를 반증(disprove)했습니다. 이 문제는 평면 위에 $n$개의 점을 놓았을 때, 거리가 정확히 1단위인 점 쌍의 최대 개수가 얼마인지에 관한 것입니다. Erdős는 그리드(grid) 형태의 배치를 통해 점 쌍의 개수가 선형(linear)보다 약간 더 빠르게 증가함을 보여주었으며, 이보다 유의미하게 더 나은 구조는 존재하지 않을 것이라는 가설을 세웠습니다. 이 가설은 지난 80년 동안 널리 받아들여졌으며, 이보다 더 나은 가설은 나오지 않았습니다.

그러던 중 OpenAI는 모델이 어떻게 정답에 도달했는지에 대한 추론 과정을 기록한 125페이지 분량의 사고 사슬(Chain of Thought, CoT)을 공개했습니다.

정답의 범위: 하한선(lower bound)과 상한선(upper bound)

모델의 작동 과정을 살펴보기 전에, 이 문제의 정답이 형성하는 '범위'에 대해 먼저 설명하겠습니다. 정답은 이미 실제로 생성 가능한 수치인 하한선(lower bound)과, 이를 초과할 수 없다고 증명된 천장인 상한선(upper bound) 사이에 갇혀 있습니다.

하한선(lower bound) 측면에서 Erdős(1946)는 그리드 배치를 사용하여 $n^{1+\Omega(1/\log\log n)}$까지 생성 가능하다는 것을 보여주었습니다. 이는 선형보다 아주 약간 더 큰 수치이며, $n$이 커질수록 0에 가까워집니다. 반면 상한선(upper bound) 측면에서 Erdős는 두 개의 단위 원이 최대 두 점에서만 만날 수 있다는 점을 이용해 첫 번째 천장을 $O(n^{3/2})$로 증명했습니다. 이후 Spencer–Szemerédi–Trotter(1984)가 이 천장을 $O(n^{4/3})$로 낮추었으며, 이는 현재까지 가장 좋은 상한선(upper bound)으로 남아 있으며 OpenAI 모델의 발견 이후에도 유지되고 있습니다.

Erdős의 기존 방식: 선택된 반지름을 가진 원을 사용하여 여러 격자(grid) 점들을 동시에 통과하게 함으로써 중복 거리를 많이 생성함

Erdős가 예측한 것은 Planar Unit Distance Problem의 실제 해답이 하한선(lower bound)에 가까운 $n^{1+o(1)}$ (지수가 1로 수렴) 형태여야 한다는 것이었습니다. 그는 격자(grid)가 가능한 최선의 형태라고 제시했습니다. 따라서 지난 80년 동안 해답은 이 하한선과 Spencer–Szemerédi–Trotter의 상한선(upper bound)인 $n^{4/3}$ 사이의 범위에 갇혀 있었습니다. OpenAI 모델이 반증한 것은 더 높게 조정된 하한선에 대한 믿음입니다.

$$\underbrace{n^{1+o(1)}}{\text{Erdős가 해답이 이 근처에 있을 것이라 믿음}} ;\le; U(n) ;\le; \underbrace{O(n^{4/3})}{\text{증명된 상한선 (SST 1984)}}$$

개요: Erdős와 OpenAI의 상한선(upper bound)/하한선(lower bound) 모두 반례(counterexample) 점을 보여줌

첫 번째 단계: 모델이 인간이 시도했던 것과 동일한 방식을 찾는 과정

이제 OpenAI 내부의 추론 모델(reasoning model)에 대해 계속 알아보겠습니다. 프로세스의 첫 번째 부분에서 모델은 하이퍼큐브 구성(hypercube construction), 단위근(roots of unity), 타원 곡선(elliptic curve), 그리고 교차 레마(crossing lemma)의 응용과 같이 이전에 연구되었던 접근 방식들을 체계적으로 검토합니다. 이 모든 방식은 여전히 $n^{4/3}$ 수준의 상한선 아래에 머물러 있습니다. 모델은 이러한 기하학적 접근 방식들이 예측을 반증하는 데 도달할 수 없다고 평가했는데, 이는 지난 80년 동안 인간이 해왔던 것과 동일한 방식입니다.

6페이지의 전환점: 분야의 경계를 넘어서

전환점은 6페이지에서 나타납니다. 모델은 모든 극단적 사례 (extremal examples)가 대수적 (algebraic)으로 간주될 수 있지만, 그 차수 (degree)와 높이 (height)가 너무 커서 다루기 어렵다는 점을 발견했습니다. 모델은 이를 장애물로 여기는 대신, 반례 (counterexample)를 발견할 기회로 해석했습니다:

"...원칙적으로 모든 극단적 사례는 대수적으로 취해질 수 있습니다. 하지만 그 대수적 구현의 차수와 높이는 엄청나게 클 수 있습니다. ... 어쩌면 그 엄청난 차수는 단순한 번거로움이 아니라 가능한 반례의 원천일지도 모릅니다. 수체 (Number fields)를 더 자세히 살펴볼 가치가 있습니다."

이 관찰은 검토 위원단인 수학자들이 보고서의 서론 (Introduction) 부분에 인용할 정도로 중요했습니다. 왜냐하면 이 지점이 모델이 조합 기하학 (combinatorial geometry)의 틀에서 벗어나, 이 문제를 연구하는 대부분의 학자들이 기존에는 사용하지 않았던 분야인 대수적 수론 (algebraic number theory)으로 전환하는 지점이었기 때문입니다.

이 지점은 동일한 분야의 도구를 사용하여 동일한 분야의 문제를 해결하는 인간의 능력과, 모델이 분야의 경계를 넘어 대수적 수론 (Algebraic number theory)을 사용하여 조합 기하학 (Combinatorial geometry) 문제를 해결하는 능력 사이의 차이를 보여줍니다.

"page 39 moment": 발견이 시작되는 순간

"발견이 시작되는" 순간은 모델이 작은 유리 소수 (rational prime) $p$가 주이상 (principal prime ideals)으로 완전히 분해된다는 가정하에 높은 차수를 가진 CM 체 (CM field)를 고려한 39페이지에서 나타납니다. 계산 결과, 각 점이 $2^d$개의 단위 방향을 갖는 약 $p^d$ 크기의 점 집합을 얻게 된다는 것을 가리켰으며, 모델은 다음과 같이 기록했습니다.

"그렇다면 그 구성은 공포스럽습니다 (Then the construction is frightening)."

“frightening(공포스러운)”이라는 단어는 모델이 발견한 구조(structure)의 강력함을 의미합니다. 왜냐하면 도출된 단위 거리(unit distance)의 개수가 $n^{1+\delta}$ 형태를 띠며, 여기서 초과분인 $\delta = \frac{\log 2}{\log p}$는 선택한 소수(prime) $p$에 따라 달라지기 때문입니다. 만약 $p$가 2 또는 5라면 $\delta$는 각각 1과 약 0.43이 되며, 이는 이미 증명된 기존 상한선(upper bound)인 $n^{4/3}$ ($\delta = 1/3$일 때)마저 돌파합니다. 설령 $p$가 더 커져서 $\delta$가 $1/3$보다 낮아지더라도, 남은 값은 여전히 일정한 파워 세이빙(power saving)을 유지하며, 이는 상한선을 넘지 않으면서도 Erdős의 추측을 반박하기에 충분합니다.

이 부분은 일종의 신중함 또는 현실에 발을 붙인 사고의 틀이라고 할 수 있습니다. 모델은 자신의 구성(construction)이 즉각적으로 한계를 돌파한다고 결론 내리는 대신, 이미 증명된 정리(theorem)인 Spencer–Szemerédi–Trotter의 $n^{4/3}$ 상한선을 자신의 구성이 타당한지 검증하는 "현실 측정기"로 사용합니다. 즉, 작은 $p$ 버전이 "이미 증명된 상한선을 돌파한다"는 것은 그것이 실제로 가능하다는 뜻이 아니라, 해당 버전이 처음부터 불가능하다는 것을 의미합니다. 이는 "소 아이디얼(prime ideal)이 주 아이디얼(principal)이다"라는 가설이 작은 $p$에 대해서는 실패해야 함을 보여주는 간접적인 증거입니다. 따라서 가설 내의 "if" 조건은 문제를 숨기고 있습니다. 즉, 해당 소 아이디얼들이 주 아이디얼이 될지 여부는 아직 증명되지 않은 클래스 그룹(class group)의 조건에 달려 있습니다.

"가능성을 보면서 동시에 과도한 결과(too good to be true)를 검증하는" 능력을 통해, 모델은 놀라울 정도로 강력해 보이는 구성의 결과를 그대로 수용하지 않았습니다. 대신 "지나치게 좋은" 결과를 가설에 결함이 있다는 경고 신호로 삼았고, $\delta$가 $1/3$보다 낮은 큰 소수 $p$를 다루는 방향으로 선회했습니다. 결과적으로 최종 구조는 기존 상한선인 $n^{4/3}$을 돌파하지 않으면서도 실제 가능한 범위 내에 존재하게 되었습니다. 도출된 모든 결과는 항상 기존 상한선 내에 머물러 있으며, 실제로 달성한 $\epsilon$ 값은 약 0.014에서 0.036 사이입니다. 이는 여전히 $1/3$보다는 훨씬 낮지만, 이 하한선(lower bound)을 끌어올리는 것만으로도 Erdős의 기존 추측을 무너뜨리기에는 충분합니다.

왜 $\varepsilon$ 상수가 반례 (counterexample)가 되는가: 기존의 모든 사례는 $\delta \to 0$이었으나, 새로운 사례는 $\delta$를 0보다 큰 상태로 고정함

이 시점에서 OpenAI는 Erdős의 추측을 반증 (disproof)할 수 있는 지점을 찾아냈습니다. 이제 다음 단계에서 증명해야 할 명확한 조건만을 남겨두고 있습니다. AI 업계에서는 이 지점을 "page 39 moment"라고 부릅니다. 이는 모델이 (특정 조건을 전제로) 해당 분야에서 독창성 (Novelty)을 창출해내는 순간을 의미합니다.

후반부: Class field tower를 통한 허점 보완

프로세스의 후반부는 모델이 스스로 설정한 조건의 한계를 해결하는 과정입니다. 차수 (degree)가 무한히 증가하더라도 근 판별식 (root discriminant)을 제어할 수 있는 Golod–Shafarevich 방식의 Hilbert class field tower를 활용합니다. 여기에 split prime에 관한 Ellenberg–Venkatesh의 개념을 비둘기집 원리 (pigeonhole principle) 및 CM field의 구조와 결합함으로써, 허점을 메우고 Erdős의 기존 상한선 (upper bound)보다 높은 점들의 집합을 실제로 구축해냈습니다. 이는 기존의 사례보다 더 나은 반례 (counterexample)를 제시함으로써 반증 (disprove)에 성공한 것으로 간주됩니다.

OpenAI의 3단계 메커니즘: 수체 (number field) $\to$ 고차원 격자 (lattice) $\to$ 평면으로의 투영 (project)을 통해 각 점이 수많은 거리 1인 이웃을 갖도록 만듭니다.

인간에 의한 검증

이 결과는 9명의 저명한 수학자들이 공동으로 작성한 "Remarks on the Disproof of the Unit Distance Conjecture" 보고서를 통해 검증되었습니다. 이 보고서는 해당 결과가 인간에 의해 검증됨 (human-verified)을 명시하고 있으며, 섹션 2(Section 2)에서 완전한 증명을 제시합니다. 검증단은 W. T. Gowers (1998년 필즈상 수상자), Noga Alon, Melanie Matchett Wood (MacArthur Fellow), Jacob Tsimerman, Will Sawin, Daniel Litt, Thomas Bloom, Arul Shankar, 그리고 Victor Wang로 구성되었습니다. 또한, 감사의 글(Acknowledgements)에는 Peter Sarnak과 Kannan Soundararajan에 대한 감사 인사가 포함되어 있습니다.

이 보고서는 또한 자신들이 검증하고 있는 OpenAI의 원본 문서가 OpenAI의 내부 모델에 의해 단 한 번의 시도(in one shot)로 생성되었으며, 이후 Codex를 활용한 인간과의 협업을 통해 프레젠테이션 측면에서 편집되었다고 명시하고 있습니다. 따라서 OpenAI의 성과물 중 수학적 핵심(mathematical core)은 모델의 작업이며, 인간은 이를 이해하기 쉽게 정리하는 역할을 수행했습니다.

검증된 Remarks 논문은 일반적인 형태로 다음과 같은 결과를 명시합니다: $\varepsilon > 0$인 값이 존재하며, 크기가 무한히 증가하는 점 집합의 수열이 존재하여 단위 거리(unit distance)의 개수가 항상 $\ge n^{1+\varepsilon}$을 만족한다는 것입니다. 이는 기존의 추측을 반증하기에 충분합니다. 구체적인 수치로 명시된 $\varepsilon$ 값은 별도의 기본 논문(primary paper)에 기술되어 있습니다. 검증단 중 한 명인 Will Sawin은 $n^{1.014}$에 대한 명시적 값(explicit value)을 증명하였으며 (arXiv:2605.20579), 이후 현재 약 $n^{1.036}$에 이르기까지 지속적으로 개선되었습니다. 이 모든 값은 이미 증명된 상한선(upper bound)인 $O(n^{4/3})$ 또는 $n^{1.333\dots}$보다는 낮습니다.

$$\underbrace{n^{1.036}}{\text{현재 하한선 (lower bound)}} ;\lesssim; U(n) ;\le; \underbrace{n^{4/3} \approx n^{1.333}}{\text{상한선 (upper bound)}} \qquad\Longrightarrow\qquad U(n) \ne n^{1+o(1)}$$

마치며
필자는 수학적 지식이 매우 부족하여 발생할 수 있는 오류에 대해 미리 사과드립니다. 하지만 AI의 전환점이 되는 역사의 순간을 기록하고 싶어, 이틀 동안 내용을 이해하고 정리하여 이 글을 작성하게 되었습니다.

참고 문헌

OpenAI 원문 자료

1. OpenAI. An OpenAI model has disproved a central conjecture in discrete geometry. (2026년 5월) https://openai.com/index/model-disproves-discrete-geometry-conjecture/
2. Rewritten Chain of Thought for the Solution to the Unit Distance Problem. (단위 거리 문제 해결을 위한 재작성된 사고 과정 — 125페이지 분량 — 여기에서 6페이지와 39페이지 인용) https://cdn.openai.com/pdf/1625eff6-5ac1-40d8-b1db-5d5cf925de8b/unit-distance-cot.pdf

인간 검토 (peer verification)