AI가 80년 된 난제를 풀었다

2026-05-22 | 읽기 시간 4분 | #AI #수학 #OpenAI

"AI는 아직 진정한 수학을 할 수 없다"——많은 이들이 그렇게 믿어왔을 것입니다. 그런데 지금, OpenAI의 모델이 80년 동안 아무도 풀지 못했던 순수 수학의 난제를 깨뜨리며 수학계의 상식을 근본부터 흔들고 있습니다.

80년 동안 아무도 풀지 못했던 문제

1940년대부터 수학자들을 괴롭혀온 문제가 있습니다. 바로 "단위 거리 문제 (Unit Distance Problem)"입니다 [1].

💡

용어 해설

이산 기하학 (Discrete Geometry)— 점이나 선분 등 "떨어져 있는 (이산적인) 도형"의 성질을 연구하는 수학 분야. 연속적인 곡선이 아니라 유한한 점의 집합을 다룹니다.

단위 거리 문제 (Unit Distance Problem)— 평면 위에 n개의 점을 놓았을 때, 거리가 정확히 1이 되는 점의 쌍 (단위 거리 쌍)을 최대 몇 개까지 만들 수 있는지를 묻는 문제. 직관적으로는 단순해 보이지만, 그 상한의 정확한 형태가 오랫동안 불분명했습니다.

수학적 추측 (Mathematical Conjecture)— "아마도 맞을 것이다"라고 생각되지만, 아직 엄밀하게 증명되거나 반증되지 않은 명제. 유명한 "리만 가설 (Riemann Hypothesis)" 등이 예로挙げられます.

이 문제가 왜 어려울까요? 점을 늘릴수록 조합이 폭발적으로 증가하며, "최악의 경우 어디까지 늘어날 것인가"를 정확히 예측하는 것이 인간의 직관적 한계를 넘어서기 때문입니다.

80년 동안 쌓아온 지식은 "상한은 대략..."

OpenAI의 모델이 뒤집은 것

2025년, OpenAI의 추론 모델이 이 추측에 정면으로 반론하는 구성을 발견했습니다 [1].

모델은 방대한 그래프 구조를 탐색하여, "기존의 추측이 상정했던 것보다 훨씬 더 많은 단위 거리 쌍을 가진 점 배치"를 구체적으로 구축했습니다. 나아가 그 구조가 옳다는 것을 수학적으로 보여주는 증명의 골격까지 제시했습니다.

주목해야 할 점은 접근 방식의 참신함입니다. 인간 수학자는 "아름다운 구조"를 직관으로 좁혀 나갑니다. 반면 모델은 인간이라면 "이런 형태는 시도하지 않을 거야"라며 버렸을 구성도 기계적으로 계속해서 탐색했습니다.

"인간의 미적 감각이 오히려 장애물이 되었다"——이것이 연구 팀의 솔직한 소감입니다.

증명은 이후 인간 수학자에 의해 검증 및 확인되었습니다. AI가 내놓은 답은 "옳았습니다."

"상식"이 무너진 순간의 의미

이 부분이 기사의 핵심입니다.

이번 발견은 단순히 "난제가 풀렸다" 이상의 충격을 줍니다. 인간이 80년에 걸쳐 쌓아온 직관 그 자체가 틀렸음을 보여주었기 때문입니다.

수학자의 직관이란 오랜 경험에서 비롯되는 "이런 형태일 것이다"라는 감각입니다. 그것은 매우 강력하지만, 동시에 **보이지 않는 편향 (Bias)**이기도 합니다. AI는 그 편향을 가지고 있지 않기 때문에, 인간이 간과해 온 광대한 해 공간 (Solution Space)을 탐색할 수 있었습니다.

HackerNews에서는 1,370점을 넘는 스코어와 990건 이상의 댓글이 모였으며 [1], "이것은 수학의 전환점인가", "AI가 증명한 수학을 인간은 어떻게 신뢰할 것인가"라는 논쟁이 격렬하게 벌어졌습니다.

특히 논란이 된 것은 검증 가능성 (Verifiability) 문제입니다. AI가 도출한 증명을 인간이 검증할 수 있다——이것은 이번에 성립했지만, 향후 AI 증명이 더욱 복잡해졌을 때 인간이 정말로 따라갈 수 있을 것인가 하는 문제입니다.

💡

생각해 보세요

"AI의 증명이 옳더라도 인간이 이해할 수 없다면, 그것을 수학의 진보라고 말할 수 있는가"——이 질문에 대해 수학 커뮤니티는 아직 답을 내놓지 못하고 있습니다.

수학과 AI는 앞으로 어떻게 공존할 것인가

이번 성과가 보여주는 미래상은 "AI가 수학자를 대체한다"가 아니라, **"AI와 수학자가 역할을 분담한다"**는 모습입니다.

기계가 광대한 구조 공간을 탐색하고, 인간이 그 의미를 해석하고 검증한다——이 사이클이 확립된다면 수학, 물리, 화학의 미해결 문제에 대한 접근 방식은 근본적으로 바뀔 것입니다.

한편, 심사 (Peer Review) 문화의 재검토도 시급합니다. AI가 생성한 증명을 어떻게 평가할 것인지, 저널이나 학회는 아직 명확한 기준을 가지고 있지 않습니다. "재현성 (Reproducibility)", "검증 가능성 (Verifiability)", "이해 가능성 (Understandability)"——이러한 가치관을 AI 시대에 맞게 재정의해야 합니다.

🛠️ 엔지니어를 위한 실전 팁

• OpenAI의 공식 블로그에서 증명의 개요를 확인하고, 추론 모델의 활용 사례로서 참고할 것
• 그래프 탐색 및 조합 최적화 (Combinatorial Optimization) 문제는 LLM 추론 모델과 궁합이 좋은 분야로 주목해 둘 것
• 자신의 프로젝트에서 "인간의 직관으로 너무 제한하고 있지는 않은가"를 의심하는 습관을 가질 것 —— 이번 교훈은 코드 설계에도 응용할 수 있습니다.

📚 참고 문헌

• An OpenAI 모델이 이산 기하학 (discrete geometry)의 핵심 추측을 반증했다 — OpenAI 공식 블로그, 발견의 상세 내용 및 증명 개요
• HackerNews 토론 스레드 (점수 1370) — 커뮤니티의 반응과 검증 가능성을 둘러싼 논의

수집 소스: OpenAI Blog, Hacker News

2026-05-22

마치며

"AI가 할 수 있는 것은 통계적인 패턴 인식뿐이다" —— 그렇게 생각했던 내 자신이, 이 글을 쓰면서 조용히 흔들리는 것을 느꼈다. 80년 동안 쌓인 인간의 직관이 기계의 무심한 탐색에 의해 뒤집힌다. 그것은 위협이라기보다, 어딘가 상쾌한 놀라움처럼 느껴진다. 수학이라는 가장 순수한 지식의 영역에서, AI가 "인간의 맹점"을 비추기 시작한 지금, 우리는 "이해란 무엇인가"를 다시 한번 되물어야 하는 것이 아닐까.

Discussion