AI가 80년간의 난제를 풀다

2026-05-27 | 읽는 시간 4분 | #AI #수학 #OpenAI

80년 동안 전 세계 수학자들이 도전해 온 난제를 AI가 돌파했다. OpenAI 모델이 이산 기하학(discrete geometry)의 미해결 예상(unsolved conjecture)을 반증하며, 'AI는 도구'라는 상식이 흔들리기 시작하고 있다.

80년간 아무도 풀지 못했던 문제

1940년대, 수학자들은 어떤 단순한 질문에 사로잡혔다.

"평면 위에 n개의 점을 놓았을 때, 정확히 거리가 1인 점 쌍(단위 거리)은 최대 몇 개를 만들 수 있는가?"

언뜻 보기에는 간단해 보인다. 하지만 이 문제는 '단위 거리 문제'로 수학사에 새겨졌으며, 80년 이상 미해결 상태로 남아 있었다 [1].

오랜 연구 끝에, '단위 거리의 수는 n^(1+c/log log n) 이하로 수렴한다'는 예상(conjecture)이 유력하게 여겨져 왔다. 많은 수학자들이 이 상한을 옳다고 믿고 증명을 쌓아 올렸다.

그런데 2025년, OpenAI 모델이 그 '상식'을 뒤엎었다.

💡

용어 해설

이산 기하학(Discrete Geometry)— '점・선・다각형' 등 유한 개의 도형의 성질을 다루는 수학 분야. 컴퓨터 그래픽스나 암호 이론의 기초가 되기도 한다.
단위 거리 문제(Unit Distance Problem)— 평면 위에 n점을 배치했을 때, 거리가 정확히 1이 되는 점 쌍의 최대 개수를 구하는 문제. 'Erdős 단위 거리 문제'라고도 불린다.
예상 반증(Refutation of Conjecture)— '〜가 성립해야 한다'는 예상에 대해, 그것이 틀렸음을 보이는 것. 단 하나의 반례를 찾는 것만으로도 예상은 무너진다.

AI는 무엇을 했나

OpenAI 모델은 인간 수학자들이 거의 불가능하다고 생각했던 접근 방식을 취했다.

기존 연구자들은 직관 → 가설 → 증명의 흐름으로 도전해 왔다. 수천 가지 패턴을 머릿속에서 시험하고, 유망한 경로만 손으로 계산하여 추적한다. 시간과 노력은 막대하다.

AI는 다르다. 방대한 점 배치 패턴을 고속으로 탐색하며, 기존의 예상보다 더 많은 단위 거리를 가진 구조를 발견했다 [1]. 즉 '이 예상은 틀렸다'라는 반례를 실제로 구성해 보인 것이다.

수학적 증명에서 반례를 하나 찾으면 예상은 무너진다. AI는 바로 그 '하나'를 찾아냈다.

인간의 증명 접근 방식:
직관 → 가설 → 수동 계산을 통한 검증 → 증명
AI의 접근 방식:
...

중요한 것은, AI가 '증명을 읽고 풀었다' 것이 아니라, 새로운 수학적 구조를 스스로 생성했다는 점이다. 이는 코드 완성이나 요약과는 근본적으로 다른 지적 활동이라고 할 수 있다.

이론 수학의 풍경이 바뀐다

이 사건이 학계에 미친 충격은 작지 않다.

수학자들 사이에서는 오랫동안 'AI는 계산은 잘하지만, 창조적인 증명 발견은 인간만이 할 수 있다'는 공통 인식이 있었다. 이번 결과는 그 전제를 무너뜨린다.

실제로 AI×수학 시도는 이미 몇 가지 존재한다. Google DeepMind의 노력이나 형식 증명 지원 도구 'Lean'과 AI의 조합 등이 알려져 있다. 하지만 미해결 예상을 반증하는 수준의 성과는, 이번이 첫 번째 사례로 주목받고 있다.

한편으로는 경계하는 목소리도 있다. 'AI가 제시한 답을 인간은 어디까지 검증할 수 있는가'라는 문제다. 반례 구조가 올바른지 확인하려면, 역시 수학자의 눈이 필요하다. AI와 인간이 서로를 보완하는 형태가 당분간 현실적인 모습이 될 것 같다.

수학자 커뮤니티에서는 '증명의 신뢰성', 'AI의 기여를 어떻게 학술적으로 평가할 것인가'라는 새로운 논의가 시작되고 있다. 도구가 똑똑해질수록, 사용하는 쪽의 리터러시(literacy)도 요구될지도 모른다.

다음 기회는 어디에 있는가

이 사건이 보여주는 것은, AI의 활약 영역이 한 단계 더 넓어졌다는 것이다.

연구자에게는 '미해결 문제 탐색 파트너'로서 AI를 재정립할 기회가 된다. 엔지니어에게는 AI를 수학적 최적화・패턴 탐색에 응용하는 새로운 유스케이스(use case)가 보이게 된다.

OpenAI는 이 성과를 'AI가 순수 수학에 공헌할 수 있다'는 증거로 위치시키고 있다 [1]. 앞으로 다른 미해결 문제로의 응용도 가속화될 것이다.

🛠️ 엔지니어를 위한 실전 Tips

Lean이나 Coq 같은 형식 증명 도구와 LLM을 결합하면, 증명의 자동 검증이 시도 가능하다 -
조합 최적화 문제를 AI로 탐색할 때는, 반례 찾기 프레임으로 질문을 설계하는 것이 돌파구를 열기 쉽다 - 수학 논문 프리프린트 사이트
**arXiv (math.CO)**를 정기적으로 체크하여, AI×수학의 최신 동향을 추적하라

📚 참고 문헌

• OpenAI 모델이 이산 기하학 (Discrete Geometry)의 핵심 추측을 반증함 — OpenAI 공식 블로그를 통한 성과 발표

수집 소스: OpenAI Blog, arXiv

2026-05-27

마치며

"80년 동안 풀리지 않았던 문제를 AI가 풀었다"는 사실을 조사하며, 솔직히 약간의 두려움을 느꼈다. AI가 실무적인 도구에 머물지 않고, 인류가 쌓아온 지식의 영역에 발을 들이고 있다는 것을 실감했기 때문이다. 하지만 동시에, 이토록 순수하게 "지적인 도전"에 사용되는 AI의 모습에는 솔직히 흥분되기도 한다. 수학과 AI가 앞으로 어떤 미해결 문제들을 함께 무너뜨려 나갈지, 그 앞날이 무척 기대된다.

Discussion