2026년 7월 15일 r/math에 게시된 스레드에 따르면, GPT-5.6이 볼록 최적화 (Convex Optimization) 복잡도 이론 분야에서 30년 동안 지속되었던 격차를 마침내 메웠습니다.

이 데이터가 중요한 이유는 두 가지입니다. 이 격차는 해당 분야의 인용된 전문가들이 30년 동안 해결하지 못했던 것이며, 스레드의 작성자는 맹목적인 믿음을 요구하지 않습니다. 그는 누구나 직접 컴파일하여 숨겨진 sorry(증명되지 않은 단계를 나타내는 표식)가 없는지 한 줄씩 확인할 수 있도록 Lean 리포지토리를 공개했습니다.

요약 (TL;DR)

• r/math의 스레드(2026년 7월 15일)는 GPT-5.6이 볼록 최적화 (Convex Optimization) 복잡도 이론에서 30년 동안 열려 있던 격차를 해소했다고 보고했습니다.
• 작성자는 OpenAI가 몇 주 전 CDC 문제(Complexity Descent Conjecture, 하강 복잡도 추측) 테스트에 사용했던 프롬프트의 변형을 적용했습니다.
• 이 증명은 Mathlib 라이브러리를 사용하여 Lean 4에서 정식화되었으며, 증명되지 않은 단계를 나타내는 표식인 sorry를 사용하지 않고도 컴파일됩니다.
• 결과적으로 1차 방법 (First-order methods)의 최적 수렴 상한(Optimal convergence bound)을 유계된 서브그래디언트 (Bounded subgradients)를 가진 비매끄러운 볼록 (Non-smooth convex) 사례로 확장했습니다.
• 이 업적은 Nesterov (1983)의 계보와 매끄러운 (Smooth) 사례에서 상수의 격차를 메웠던 Kim과 Fessler (2014)의 최적화된 경사법 (Optimized Gradient Method)에 기반을 두고 있습니다.
• r/math 커뮤니티에서는 이 결과가 진정으로 새로운 것인지, 아니면 90년대 러시아 문헌에 이미 알려진 보조정리 (Lemma)의 재구성인지에 대해 논의 중입니다.
• 프로젝트의 Lean 코드는 모든 컴퓨터에서 컴파일 및 검증할 수 있도록 공개되어 있습니다.

무슨 일이 일어났는가

스레드를 개설한 사용자는 3단계 프로세스를 설명합니다. 첫째, OpenAI가 몇 주 전 CDC 문제 증명 발표 시 사용했던 것과 동일한 프롬프트 구조를 따라, GPT-5.6에게 미해결 문제를 작고 검증 가능한 보조정리 (Lemmas)들로 분해하도록 요청했습니다. 둘째, 비정식적인 논증을 시도하기 전에 각 보조정리를 Lean 4 내의 정식 문장으로 변환했습니다. 셋째, 매번 전체 증명을 다시 쓰는 대신, 컴파일에 실패하는 보조정리에 대해서만 반복적으로 작업을 수행했습니다.

해당 스레드에 따르면, 그 결과는 유계 서브그레이디언트(bounded subgradients)를 갖는 비매끄러운 볼록(non-smooth convex) 사례에 대한 1차 최적화 방법론의 최적 수렴 상한(optimal convergence bound)을 확장한 것입니다. 이는 해당 문제가 30년 동안 해결되지 않았던 정확한 영역입니다. Mathlib의 모든 의존성을 포함한 전체 증명은 lake build를 통해 경고 없이 컴파일되며, Lean이 증명되지 않은 단계를 수용했음을 나타내는 신호인 sorryAx 액시엄(axiom) 없이도 성공적으로 완료됩니다.

배경 및 역사: 30년의 볼록 최적화

볼록 최적화(Convex optimization)는 머신러닝 (Machine Learning) 모델 학습의 상당 부분이 이루어지는 영역입니다. 볼록 손실 함수(convex loss function, 또는 합리적으로 볼록한 함수)를 최소화하는 것은 본질적으로 SGD나 Adam과 같은 옵티마이저(optimizer)가 매 단계에서 수행하는 작업입니다. 수십 년 동안 이 분야를 따라다닌 근본적인 질문은 명확하지만 답하기는 어렵습니다. 즉, 2차 정보(second-order information) 없이 함수의 그레이디언트(gradient) 또는 서브그레이디언트(subgradient)만을 조회할 수 있는 방법론의 가능한 최적 수렴 속도(convergence rate)는 무엇인가 하는 점입니다.

1983년, Yurii Nesterov는 매끄러운(smooth) 경우에 대해 클래식한 경사 하강법(gradient descent)의 O(1/k)를 훨씬 상회하는 O(1/k²)의 수렴 속도를 달성하는 **가속 경사법 (Accelerated Gradient Method)**을 발표했습니다. 같은 해 Nemirovski와 Yudin은 차수(order of magnitude)는 일치하지만 정확한 상수는 일치하지 않는 하한(lower bound)을 증명했습니다. 이 상수의 격차는 2014년 Donghwan Kim과 Jeffrey Fessler가 매끄러운 경우에 대해 정확한 격차를 메우는 **최적 경사법 (Optimized Gradient Method, OGM)**을 발표할 때까지 31년 동안 열려 있었습니다.

해결되지 않은 과제는 해당 결과를 비매끄러운 (non-smooth) 사례로 확장하는 것이었습니다. 이 사례에서는 함수가 모든 지점에서 그래디언트 (gradient)를 갖지 않으며, 유계된 서브그래디언트 (bounded subgradients)를 사용하여 작업해야 합니다. 이는 L1 정규화 (L1 regularization), SVM, 또는 ReLU와 같이 미분 불가능한 활성화 함수를 가진 네트워크의 이론적 분석에서 나타나는 전형적인 시나리오입니다. r/math 스레드에 따르면, GPT-5.6에 의해 보조된 증명이 메운 30년 동안의 공백이 바로 이 부분입니다.
Nesterov (1983)는 오차를 O(1/k²)로 줄였으나, 비매끄러운 사례로의 확장은 30년 동안 미해결 상태로 남아 있었습니다.

기술적 세부 사항 및 성능

논증의 핵심은 가속화된 방법 (accelerated method)의 모멘텀 (momentum) 항을 각 단계에서의 서브그래디언트 노름 (subgradient norm)에 대한 상한 (upper bound)과 결합한 수정된 리아푸노프 함수 (Lyapunov function)입니다. 이는 Nesterov가 원래의 증명에서 사용했던 기술과 동일한 계열이지만, 미분 불가능한 지점에서의 서브그래디언트 불연속성을 흡수하는 추가적인 보정 항 (correction term)이 포함되어 있습니다.

Mathlib을 사용하여 Lean 4로 정식화된 핵심 명제의 단순화된 단편은 다음과 같습니다:

import Mathlib.Analysis.Convex.Function
import Mathlib.Analysis.InnerProductSpace.Basic

...

예시에 포함된 sorry는 이 기사에서 명제를 설명하기 위한 용도일 뿐입니다. 스레드 작성자가 게시한 실제 리포지토리(repository)의 완전한 정리에는 sorry가 전혀 없으며, 단 하나의 명령어를 실행하는 것만으로도 확인이 가능합니다.

#print axioms subgradiente_acotado_tasa_optima
-- 예상 출력: 'subgradiente_acotado_tasa_optima' depends on axioms: [propext, Classical.choice, Quot.sound]

이 세 가지 공리(propext, Classical.choice, Quot.sound)는 Lean과 Mathlib의 표준 공리이며, 라이브러리의 거의 모든 비자명한(non-trivial) 증명에서 나타납니다. 만약 목록에 sorryAx가 나타난다면, 이는 의존성 체인의 어딘가에 최소한 한 단계 이상의 증명되지 않은 단계가 있음을 의미합니다.

검증 방법

자신의 컴퓨터에서 증명을 검증하려면 Lean 버전 설치 도구인 elan이 필요하며, 프로젝트 저장소(repository)를 클론해야 합니다. 설치 명령어는 Mathlib 기반의 모든 프로젝트에서 사용하는 것과 동일합니다.

# Linux 및 macOS
curl https://raw.githubusercontent.com/leanprover/elan/master/elan-init.sh -sSf | sh
elan toolchain install leanprover/lean4:v4.11.0
...

elan이 설치되면, Lean의 빌드 관리자인 lake를 사용하여 프로젝트를 컴파일합니다.

git clone https://github.com/leanprover-community/mathlib4.git
cd mi-proyecto-cdc
lake exe cache get
...

lake build가 오류 없이 종료되면, 해당 증명은 Lean의 표준 공리 하에서 유효합니다. 증명되지 않은 단계가 없는지 확인하려면 위에서 보여준 것처럼 주요 정리(theorem)에 대해 #print axioms를 실행하십시오. Lean 4는 컴파일 전 검증되지 않은 단계가 포함된 모든 증명을 거부합니다.

영향 및 분석

이 사례가 흥미로운 이유는 단순히 거대 모델(Large Model)이 그럴듯한 논증을 만들어냈기 때문이 아닙니다. 그런 일은 r/math에서도 흔히 일어나며, 대개 댓글에서 반박당하며 끝이 납니다. 진짜 흥미로운 점은 이 논증이 가장 적대적인 단계, 즉 수사적 모호함이 허용되지 않는 언어로의 번역 과정을 통과했다는 것입니다. Lean은 "~임을 증명할 수 있다"라거나 "~임을 쉽게 알 수 있다"와 같은 표현을 허용하지 않습니다. 완전한 논리적 단계를 요구하거나, 그렇지 않으면 컴파일을 거부합니다.

flowchart TD
A["미해결 문제: 30년간 증명되지 않음"] --> B["GPT-5.6에 CDC 스타일의 프롬프트 입력"]
B --> C["자연어 기반 증명 초안"]
...

⚠️ 주의: Lean이 증명을 수락했다는 것은 사용된 형식적 정의(Formal Definition) 하에서 내부적 일관성(Internal Consistency)이 확인되었다는 것을 의미할 뿐, 그 정의가 30년 전 커뮤니티에서 논의하던 비형식적 추측(Informal Conjecture)을 정확히 포착했다는 것을 의미하지는 않습니다. 산문 형태의 진술과 형식적 진술 사이의 간극은 그 자체로 수학의 형식 검증(Formal Verification)에서 발생하는 전형적인 오류의 원인입니다.

이러한 미묘한 차이가 바로 r/math 스레드에서 논의되고 있는 핵심입니다. 여러 댓글 작성자들은 핵심 보조정리(Lemma)가 90년대 러시아 최적화 문헌에 이미 알려진 결과의 재구성일 수 있다고 지적합니다. 해당 문헌들은 서구권 데이터베이스에 색인되거나 번역되는 경우가 드뭅니다. 만약 이것이 사실로 확인된다면, GPT-5.6의 공로는 새로운 정리를 발견한 것이 아니라, 문헌 속에 실종되었던 논증을 찾아내 재구성하고, 이를 이전에는 아무도 사용하지 않았던 언어로 형식화(Formalize)했다는 데 있을 것입니다.

💡 팁: AI가 보조한 증명의 실제 가치를 감사(Audit)하고 싶다면 요약본을 읽지 마십시오. 저장소(Repository)를 클론(Clone)하고, lake build를 실행한 뒤, 커밋 히스토리를 확인하여 각 보조정리가 컴파일되기까지 얼마나 많은 반복(Iteration)이 필요했는지 확인하십시오. 단 한 번의 시도만에 컴파일된 보조정리는 스무 번의 시도가 필요했던 보조정리보다 더 의심스럽습니다.

다음 단계

해당 리포지토리는 커뮤니티의 검토를 위해 공개되었으며, 향후 몇 주 동안은 볼록 최적화 (Convex Optimization) 전문가, 아마도 90년대 러시아 문헌을 읽는 사람일 가능성이 높은 전문가가 중복성에 대한 의구심을 확인하거나 배제할 것으로 예상됩니다. 그러는 동안, 작업 패턴(보조정리 (lemmas)로 분해하는 프롬프트, Lean을 통한 즉각적인 형식화, 실패한 보조정리에 대해서만 반복 수행)은 r/math의 다른 스레드에서도 서로 다른 미해결 문제들을 해결하기 위해 복제되고 있습니다. 이는 단일한 결과보다 더 중요한 의미를 갖습니다. 즉, 오늘날 누구나 설치할 수 있는 도구들을 활용한 재현 가능한 워크플로우 (workflow)라는 점입니다.

📖 Telegram 요약: 요약 보기

직접 시도해 보세요: elan을 설치하고, 스레드의 리포지토리를 클론(clone)한 뒤, lake build를 실행하여 sorryAx 없이도 증명이 컴파일되는지 직접 확인해 보십시오.

자주 묻는 질문 (FAQ)

볼록 최적화 (Convex Optimization)란 무엇인가요?

볼록 함수(그래프가 두 점 사이의 직선 아래로 내려가지 않는 함수)를 효율적으로 최소화하는 방법을 연구하는 응용 수학의 한 분야입니다. 이는 머신러닝 (machine learning) 모델을 학습시키는 데 사용되는 거의 모든 옵티마이저 (optimizer)의 이론적 기초입니다.

이 사례에서 30년의 격차는 무엇을 의미하나요?

1983년 Nesterov가 매끄러운 (smooth) 경우에 대해 증명한 내용과, r/math 스레드에 따르면 90년대부터 미해결 상태였던 유계된 서브그레이디언트 (bounded subgradients)를 가진 비매끄러운 (non-smooth) 볼록 경우에 대해 증명되지 않았던 내용 사이의 간극을 의미합니다.

Lean이란 무엇이며, 왜 수학적 증명이 이를 거치나요?

Lean은 증명 보조 도구 (proof assistant)입니다. 즉, 고정된 공리 집합에 따라 수학적 증명의 각 논리적 추론이 유효한지 단계별로 검증하는 언어이자 컴파일러입니다. 만약 증명이 Lean에서 컴파일된다면, 숨겨진 추론 오류가 있을 수 없습니다.

Mathlib이란 무엇인가요?

Lean 4의 커뮤니티 수학 라이브러리입니다. 수천 개의 정의와 정리(해석학, 대수학, 측도론 등)가 이미 형식화되어 있어, 새로운 증명을 수행할 때 모든 것을 처음부터 다시 구축할 필요 없이 이를 기반으로 삼을 수 있습니다.

Lean에서 검증된 증명은 반드시 정확한가요?

해당 증명은 공식적인 진술(formal statement)에 대해 논리적으로 일관됩니다. 하지만 그 진술이 원래의 비형식적인(informal) 문제를 제대로 포착하지 못했다면, 검증이 그 불일치를 해결해주지는 못합니다. 그렇기 때문에 커뮤니티는 이 형식화(formalization)가 실제로 30년 된 추측(conjecture)과 일치하는지 계속해서 검토하고 있습니다.

전문 수학자가 아니어도 이 증명을 검증할 수 있나요?

네. elan이 설치되어 있고 저장소(repository)가 클론(clone)되어 있다면, lake build를 실행하고 #print axioms를 수행하는 데 모든 보조정리(lemma)를 이해할 필요는 없습니다. 단지 Lean이 sorryAx 없이 전체 체인을 수용하는지만 확인하면 됩니다.

참고 문헌

• r/math의 원문 스레드: 증명 보고 및 Lean 저장소 링크
• Lean Prover: 결과를 형식화하는 데 사용된 증명 보조 도구(proof assistant)의 공식 문서
• Mathlib4 en GitHub: 형식화의 기반이 된 커뮤니티 수학 라이브러리
• Convex optimization (Wikipedia): 해당 분야의 일반적인 맥락 및 고전적 방법론

📱 이 콘텐츠가 마음에 드시나요? 기술, AI, 개발 분야의 가장 중요한 소식을 매일 게시하는 저희 Telegram 채널 @programacion에 참여하세요. 빠른 요약과 매일 새로운 콘텐츠를 제공합니다.