10여 년 전, 야코비안 추측의 반례에 가까운 것을 찾았다고 믿던 박사후연구원을 만난 적이 있음. 그와 동료는 계수 매핑에 이진 트리를 사용해 변수 약 16개, 항이 각각 80~700개인 다항식을 무차별 대입하고 있었음
당시에는 반례 ((P,Q))의 (\max(\deg(P),\deg(Q))) 하한이 200까지 올라갈 것으로 예상했는데, Claude Fable이 7차 반례를 찾았다니 믿기 어려우며 정말 새로운 시대라는 느낌

2변수인 경우와 3변수인 경우를 혼동한 듯함. 전자는 실제로 150차 이상까지 검사됐고, 이번 반례는 3변수에 해당함

획기적인 정보를 LLM에 넣었더니 오히려 LLM 쪽이 정신적 혼란에 빠지는 드문 사례임. Claude Code에 넣자 100% 확신하려고 일곱 가지 방식으로 검증한 뒤 경악하는 모습을 보여 꽤 인상적이었음

ChatGPT에 아무 맥락 없이 사상만 주고 “이 함수에 관해 알려 달라”고 했음. 야코비안 등을 계산하다가 자신이 보고 있는 결과의 함의를 알아차렸고, 산술을 네 번 재검사한 뒤에는 SymPy가 조작됐을 가능성까지 의심해 즉석 기호 검사기로 수동 검증하기로 함

Claude가 경악하는 것은 확인했음. Gemini는 먼저 웹을 검색해 이미 뉴스를 인용했고, Kimi는 좀처럼 믿지 못함

“DOES NOT COMPUTE”가 실제 상황이 될 줄 누가 알았겠음

LLM이 “깊이 믿던” 명제에 반하는 반박 불가능한 증거를 받았을 때 생기는, 수학판 유니콘 이모지 현상 같음

수학자도 이상한 출처나 자기 자신에게서 나온 낯선 증명이 결국 맞을 때 비슷한 과정을 겪는다고 들었음. 아마추어의 엉터리 증명을 끊임없이 받다 보니 치명적인 결함이 있을 확률이 압도적으로 높고, 자기 증명에는 스스로의 도약을 비판적으로 보기 어려운 맹점도 생김
그래서 무언가를 놓쳤다고 계속 의심하며 여러 방식으로 반복 검증하다가 거의 무너질 지경에 이른 뒤에야, 공개적으로 새로운 돌파구의 가능성을 조심스럽게 꺼내게 됨

이런 수학적 뒷정리의 장점은 이제 누구도 참임을 증명하느라 시간을 낭비하지 않아도 된다는 것임. 다음에는 LLM이 콜라츠 추측을 해결해, 눈치채지 못한 희생자들이 쏟아 온 막대한 인년을 아껴주면 좋겠음

이번 문제가 “쉬웠던” 이유는 추측이 거짓이었기 때문임. 대부분의 수학자가 예상하듯 콜라츠 추측이 참이라면, 평균적인 Erdős 문제보다 훨씬 증명하기 어려울 것임

그렇게 끝나는 게 아님. 다음 단계는 어떤 종류의 다항식에서는 야코비안 추측이 참이고, 어떤 종류에서는 거짓인지 규명하는 것임

세기 전환기쯤 젊은 수학자였는데, “증명하려다 시간을 낭비한다”는 표현은 결과와 논문을 계속 뽑아내야 한다는 MBA식 사고방식임
어려운 문제에 도전하면 실패하더라도 여러 결과와 도구를 더 깊이 이해하고 이를 다른 문제에 적용할 수 있으므로 전혀 시간 낭비가 아님. 한 문제에만 수년을 쏟는 극단적인 경우는 예외임

LLM으로 품질이 의심스러운 코드나 증명을 대량 생성하는 데는 분명 문제가 있어 끊임없는 논쟁을 이해함. 하지만 반례 탐색에서는 이미 무차별 대입이 흔하므로, LLM을 더 발전된 무차별 대입처럼 활용하는 것은 딱 맞는 접근으로 보이며 왜 이토록 적대적인지 이해하기 어려움

인간 두뇌만 쓸모 있던 영역에서 기계가 갈수록 능숙해지면 많은 이에게 매우 힘든 일이 될 것임. 적대감에는 “증명 전에는 모두 허튼소리일 수 있다”는 태도와 “인간을 놀랍게 만든다고 여기던 것을 많이 잃게 된다”는 두려움이 섞여 있다고 봄
앞으로 몇 년간 연민이 대단히 중요해질 것이며, 내적으로도 외적으로도 고통받게 될 것임

이 결과를 만든 Fable의 추론 기록을 보지 않고 고급 무차별 대입이라고 단정하는 것은 비약처럼 보임

몇 달째 AI로 수학을 바이브 코딩하고 있는데 놀랄 만큼 쉽게 가능함. 어려운 부분은 결과를 직접 검증하고 타당성을 확인하는 일이며, 작은 발견 하나로 추측을 반증해 첫 논문을 작성했음
다음 발견들은 양자 위상수학과 물리학 분야에서 상당한 내용이라 매우 엄격하게 검토하며 발표를 준비 중임. 검증에 든 시간이 발견 자체보다 더 길었음
정수론에 관심 있다면 첫 논문은 여기 있음: https://arxiv.org/abs/2607.09793

물리학을 전공하고 과거 논문도 냈지만 학계를 떠난 지 오래됨. Claude로 수학과 시뮬레이션이 섞인 물리 문제를 풀어보니 상당히 엉켜버렸음
문제를 설정하고 미처 생각하지 못한 접근법을 제안하는 능력은 놀랍지만, 결과 해석 능력은 훨씬 떨어졌음

작업하면서 어느 정도까지 직접 이해하려 하는지 궁금함. 표면에서 감으로 진행하는 것과 비교해, 자신의 이해를 몇 단계의 추상화 아래까지 내려가는지 알고 싶음

나도 타입 이론에서 같은 작업을 하고 있음

게시자가 Anthropic에서 일하므로 차세대 Fable에 내부 접근권을 가졌을 가능성이 큼. 내부 모델은 수학에 엄청나게 강하고, 곧 나올 벤치마크에서도 수학 성능 신기록을 세울 듯함
실제 프롬프트와 추론 기록 공개를 꺼리는 것도 이 때문일 수 있음. 모델이 정식 출시되기 전까지 비밀유지계약의 적용을 받을 가능성이 큼

모든 논리 단계를 Lean 형식 검증으로 옮기고 있음. AI가 작성한 설명과 Lean의 검증 오류·경고 사이의 빠른 피드백 순환으로 논리적 일관성을 보장할 수 있음
여전히 남는 문제는 증명의 발상이 정말 원하는 명제를 증명하는지, 그리고 얻은 결과를 어떻게 해석할지임. 그 외에는 커널이 검사한 코드 내부의 모든 내용이 논리적으로 일관됨

반례가 이렇게 작다는 점을 보면 앞으로 흥미로운 결과가 많이 발견될 영역을 잘 보여줌. 문제가 극도로 어려워서가 아니라 지능을 확장하기 어려웠고, 컴퓨터가 대신할 수 있기 전에는 이런 문제를 진지하게 파고든 사람이 적었기 때문임
과학, 의학 및 다른 분야에서도 이 효과가 가져올 영향이 매우 기대됨

수학을 잘 모르기에 내 5세 수준의 이해가 도움이 되거나 교정받을 수 있을 듯함. 이 추측은 어떤 과정을 항상 역으로 돌려 원래 입력을 알아낼 수 있다는 뜻이고, 이번 증명은 여러 입력이 같은 출력을 만든다는 것을 보여줌
따라서 출력에서 입력을 역산할 수 없으므로 추측이 거짓이 됨

역함수가 존재하려면 0이 아닌 상수 야코비안이라는 전제조건이 있고, 그 역함수도 다항식이라는 특정 형태여야 함. 이 반례는 전제조건을 만족하면서 서로 다른 두 입력을 같은 출력으로 보내므로 다항식 여부와 관계없이 어떤 역함수도 존재할 수 없게 함
이쯤이면 7세 수준의 설명일지도 모름

이 추측은 특정 종류의 과정만을 대상으로 함. Fable은 그 부류에 속하는 구체적인 과정 하나와, 같은 출력을 내는 구체적인 입력 세 개를 찾았음. 물론 두 개만으로도 충분함
여기서 “구체적”이란 유한한 문자열로 표현할 수 있다는 뜻임

일반적인 경우에는 거짓이라는 사실이 이미 알려져 있었음. 일반적으로는 거짓이지만 다항식으로 제한하면 참인 문제도 많음