GPT-5.6이 프롬프트로 볼록 최적화의 30년 공백을 메움
요약
OpenAI의 모델이 프롬프트를 통해 30년 된 수학적 난제인 볼록 립시츠 함수의 최적화 하한 시간 복잡도 문제를 해결했다는 분석입니다. AI가 수학적 증명과 소프트웨어 개발 등 전문 영역에서 보여주는 발전 양상과 그에 따른 전문가의 역할 변화를 다룹니다.
핵심 포인트
- GPT-5.6(추정)이 볼록 최적화 분야의 수학적 공백을 프롬프트로 해결
- AI의 수학적 증명 능력이 주니어 연구자의 역할을 위협할 가능성 제시
- 소프트웨어 개발과 수학 연구에서 AI가 미치는 영향력 비교
- 도메인 전문가와 AI 에이전트 간의 협업 및 대체 가능성 논의
이 분야를 조금 아는데, 이 추측은 OpenAI가 최근 증명한 순환 이중 덮개 추측보다 다소 틈새에 가깝지만 분명 실질적인 기여임
볼록 립시츠 함수의 최적화 문제를 푸는 데 걸리는 시간을 다루며, 구형 정의역이라는 제한은 유계 정의역에서 변수를 바꾸면 되므로 본질적이지 않음. 시간 복잡도의 상한은 알고리즘 실행 시간으로 쉽게 보일 수 있지만, 유의미한 하한은 모든 알고리즘을 제약해야 하므로 훨씬 증명하기 어려움
이번 증명은 하한 시간 복잡도가 30년 된 기존 알고리즘의 복잡도와 같으며, 이 함수 부류에서 문제를 풀려면 Ω(d²)회의 함수 평가가 필요함을 보인 듯함. 기울기 오라클이 있다면 함수 평가 d회로 기울기를 근사할 수 있으므로 최소 평가 횟수가 d라는 뜻일 가능성이 커 보이지만, 이를 엄밀히 증명하기가 얼마나 어려운지는 확신하지 못하겠음
볼록이고 유계인 립시츠 함수의 최적화는 현대 통계적 학습 모델 대부분의 기반이기도 함
수학 연구에서도 낮은 난도의 문제를 풀며 훈련한 뒤 중간 난도를 거쳐 미해결 문제로 나아가는지 궁금함. 소프트웨어 개발에서 주니어 개발자에게 벌어지는 변화와 어떻게 비교될지도 관심이 감
이곳에서는 AI가 시니어보다 주니어에게 특별히 더 위협적이지 않음. 더 위험한 쪽은 응용 컴퓨터 과학이 아니라 TDD, DRY, SOLID 같은 정형화된 처방만 배운 사람임
L1 캐시 미스가 무엇인지 모르는 뛰어난 시니어도 있을 수 있고, 현재 AI 모델은 이런 지식을 알지만 사람이 조종하지 않으면 올바르게 적용하는 데 애를 먹음. 에너지 업계에서는 문맥상 디버그 시 안전성보다 실행 시간 안전성을 우선해야 하는데도 AI가 이를 제대로 판단하지 못함. 컴퓨터 과학을 실제로 아는 젊고 경력이 적은 개발자를 찾는다면 더 저렴하므로 오히려 채용할 가능성이 큼
이는 소프트웨어만의 현상이 아님. 직원들의 AI 에이전트에 배포할 기업용 AI 앱을 만드는 중인데, 팀에서 모두가 조언을 구하는 핵심 전문가만 위험하지 않은 것으로 나타남. 업무를 잘하는 사람조차 AI보다 뒤지는 경우가 많음. 앞으로 사회에 엄청난 도전이 될 것이며, AI가 도메인 전문가까지 대체할 가능성도 있음. 넉 달 전만 해도 AI는 전부 과장이라고 말했을 나 자신을 생각하면 먼 미래라고 단정하기 어려움
수학자로 훈련받아 잠시 연구하다 지금은 개인 교사로 일하는데, 이 묘사는 대체로 맞지만 한 가지 변수가 더 있음
박사 학위를 받으려면 독창적인 연구를 해야 하므로 처음부터 미해결 문제를 다루게 됨. 다만 획기적일 필요는 없으며, 내 논문을 포함한 대부분의 박사 논문은 같은 세부 분야의 시니어 연구자가 어렵지 않게 만들 수 있는 수준임. 주니어 연구자에게 연구를 맡기는 목적 중 상당 부분은 장차 시니어가 되도록 훈련하는 데 있고, 결과물 자체는 특별하지 않은 경우가 많다는 점에서 소프트웨어 개발과 비슷함 LLM 증명의 발전 추세를 보면 이 구조는 곧 바뀌어야 할 듯함. 어떤 모습이어야 할지 좋은 생각이 없어 결정을 맡지 않은 것이 다행이며, 수학계의 미래가 꽤 걱정됨
내 경우 박사 과정 이전이나 초반에는 지도교수가 대략적인 풀이를 이미 아는 낮은 난도의 문제를 제안하거나 사실상 건네줬고, 필요한 수학 도구를 익히기를 기대했음. 뛰어난 박사과정 학생도 많고 내가 훌륭한 연구자는 아니어서 완전히 대표적인지는 모르겠음
이번 작업에는 10쪽짜리 프롬프트가 필요했다니, 그것을 작성할 만큼 아는 사람이 여전히 필요해 보임
수학은 프로그래밍보다 훨씬 자동화하기 쉬움. 수학에서는 증명에 도달할 수 있는지 알 수 없으므로 도달 자체가 어려운 부분이지만, 소프트웨어 문제는 풀 수 있다는 사실을 대체로 알고 있어 어떻게 풀 것인지가 핵심임
소프트웨어 해법에는 유지보수성과 계획이 필요하고 LLM은 여기에 약함. 그래서 기존 표준 라이브러리를 재사용하지 않고 중복과 임시방편으로 얽힌 논리를 만드는 LLM 잡탕 코드가 생김
Deligne이 Weil 추측을 ‘올바른 방식’으로 풀지 않았다고 화낸 Grothendieck 같은 경우가 아니라면 이 점에서 소프트웨어와 수학은 근본적으로 다름. 장기간 계획하는 현재 능력으로 처리 가능한 큰 문제가 충분히 많으므로, AI는 McDonald’s를 운영하기 전에 필즈상을 받을 가능성이 큼
자세히 살펴보면 저자는 GPT-5.4와 GPT-5.5로 이 문제를 1년간 시도했고, 그 모든 정보를 Sol Pro 프롬프트에 넣었으며 Sol Pro가 이전 대화 기록에 직접 접근했을 가능성도 있음. 따라서 주장하는 148분은 사실상 1년+148분임
게다가 문제를 푸는 데 쓰인 기법도 프롬프트에 포함된 듯함: https://old.reddit.com/r/math/comments/1uxj3cy/after_openais...
저자는 분야를 아는 사람이라면 떠올릴 합리적인 접근법을 대부분 프롬프트에 넣었고, CDC 프롬프트와 아이디어, 명확한 문제 정의 및 사양을 Sol에 제공해 프롬프트 작성도 도움받았다고 함. 최종 해법인 아핀 함수의 최댓값으로 구성한 함수 부류 역시 프롬프트에 있었음
결국 GPT-5.6이 프롬프트만으로 간극을 메웠는지, 저자가 사실상 모든 작업을 해놓고 열정적으로 GPT-5.6의 공으로 돌렸는지 불분명함
Reddit에서 이 작업은 Ultra가 아니라 Sol Pro로 수행됐다고 정정됐는데, 둘의 차이를 어떻게 이해해야 할지 궁금함
ChatGPT Pro는 여러 LLM을 병렬 실행하고 최선의 답을 고르는 다중 에이전트 시스템에 가까우며, Ultra는 Claude-Code UltraCode처럼 주 에이전트가 동적 JavaScript 작업 흐름을 만들어 여러 에이전트와 적대적 검증기를 결정론적으로 조율하는 방식으로 이해하고 있음. 대체로 맞는지, 이를 뒷받침할 출처가 있는지 알고 싶음
Codex의 Ultra는 다중 에이전트 시스템을 실행하는 방식일 뿐이며, Pro는 5.5 같은 다른 Pro 모델과 비슷함
이해하기 어려워서가 아니라 틀렸기 때문에 거부됐으며, 최대한 호의적으로 봐도 불완전한 증명이었음
최근 이를 형식화하던 연구진이 다른 수학자들이 짚었던 바로 그 부분에서 증명의 공백을 발견했다고 발표함. 의심의 여지가 남아 있었다면 이제는 사라졌고, 증명은 잘못됐음
그래도 LLM은 빠르게 읽고 공백을 찾는 비형식적 검증과, 실제 형식화를 시도하는 형식적 검증 모두에서 잠재력이 큼
이제 지능이 저렴하고 효율적이며 흔해졌다는 사실이 놀라움. 인간의 기술 대부분이 무의미해지는 만큼 핵심 가치와 원칙에 에너지를 다시 집중해야 함
정말 흔하다면 이 게시물과 토론 자체가 생기지 않았을 것임. 수천 달러가 들지는 않았지만 무료도 아니므로 저렴하다는 판단은 관점에 따라 다름
효율성을 어떻게 측정할지도 불분명함. 이 작업이 가능해질 때까지 들어간 막대한 인프라와 훈련 비용을 무시하고 한 번의 세션과 결과만으로 효율적이라고 보기는 어려움. AI 결과물이 인간의 기술을 무의미하게 만들지도 않으며, 사고를 AI에 넘기면서 인지 능력을 잃는지가 바로 현재 논쟁의 핵심임
전반적으로 인상적인 능력 입증이지만 그 이상으로 확대 해석하지는 않겠음
‘현재를 이해하는 지능’과 ‘마땅히 그래야 할 것을 이해하는 가치·원칙’을 강하게 구분하는 관점은 Descartes에서 Kant까지 초기 근대 유럽 철학의 특징이며 David Hume이 영향력 있는 형태로 정립했음
하지만 이 구분을 유지하면 극복하기 어려운 문제가 생김. 세계를 이해하는 개념 체계에는 언제나 가치가 스며 있으며, 역사적 조건에서 벗어난 무관점의 시선이나 가치 체계는 없음. 가치를 지능 외부에서 부과해야 한다는 틀은 결국 AI 정렬과 초지능 같은 일종의 유사 신학으로 막다른 길에 이름
사실과 가치, 지능과 윤리를 강하게 구분하기보다 인간이나 LLM을 통해 물려받은 지혜를 비판적으로 수용하고 확장하는 데 집중하는 편이 나음
LLM은 구체적·추상적 공간 추론이 여전히 부족함. 학계가 적어도 한 세기 동안 이런 추론을 경시했지만 기술과 산업의 근간이며, 과학과 수학에도 중요하다고 보는 이가 많음
다만 LLM이 직접 공간 추론을 습득하거나 이를 수행하는 모델의 인터페이스가 되는 방식으로 결국 도달할 가능성이 크므로, 원래 요지는 유효함
이제 누구나 안락의자 수학자가 될 수 있음. AI에 아이디어를 던지고 AI 기반 가지치기 휴리스틱을 적용한 너비 우선 탐색을 맡기면 됨
지능만으로는 그리 유용하지 않음. 지혜, 절제, 공감 같은 요소와 결합할 때 엄청난 잠재력을 만들기 때문에 높이 평가해왔지만, 지능 단독의 가치는 제한적임
결국 정보가 힘이라는 사실을 증명한 셈임. 어느 방향으로 가야 하는지, 즉 부분기울기를 모르면 끝없이 계산하게 됨
AI로 고급 수학 문제를 풀어보니 엄청난 규모의 무차별 대입을 문제에 쏟아부을 수 있었음. 수학적 논리를 무차별 대입할 수 있게 되면 흥미로운 진전이 나타날 것임
아직 동료 평가를 거치지 않았음
몇 달 전까지만 해도 AI가 푸는 ‘미해결’ 수학 문제에는 아무도 관심 없다고 단언하던 사람이 많았다는 점이 흥미로움
AI 자동 생성 콘텐츠
본 콘텐츠는 RSS: GeekNews (한국어)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기