Terence Tao, OpenAI의 수학 성과 공개에 응답하다

증명만 수학계에 쏟아내고 검증과 후속 작업을 떠넘기는 것은 생산적인 발전 방식이 아님. AI가 수학을 바꿀 것이라는 점을 인정하면서도 이런 우려를 제기한 것은 균형 잡힌 접근으로 보임.
수학에 실제로 기여하기보다 “미해결 문제 몇 개를 풀었는가” 같은 임의의 지표 달성에 더 관심이 있어 보임. 지나치게 많은 돈이 걸린 광적인 경쟁 속에서, 지수적 성장세가 유지되고 있음을 입증하는 데 너무 많은 노력을 쓰고 있음.

소프트웨어의 오픈 소스 공동체와 비교하기 쉬운 상황임. 천재 수학자를 잠깐 빌려 쓰는 것이 아니라 역량의 기준선 자체가 높아진 것이므로, 결과에 접근하는 능력은 더 이상 희소하지 않음. 희소성이 옮겨간 곳으로 수학 생태계의 관심도 이동해야 함.
첨단 AI 공동체가 기존 수학 생태계의 소통 경로를 장악하고 포화시키는 것은 도움이 안 됨. “남의 영역에 끼어들지 말라”가 아니라 “일관성을 유지하고 기존 체계를 망가뜨리지 않도록 조심하자”는 취지임. 계산대에서 기본적인 셈도 틀릴 수 있는 사람의 소견임.

코딩할 때처럼 다른 챗봇에 검증을 맡기면 안 될까?

모델의 탐구·개선 능력을 너무 근시안적으로 보는 것 같음. 몇 년 전에는 이런 문제를 아예 풀지 못했고, 결과를 탐구하고 다듬는 일이 모델의 능력 밖이거나 앞으로도 그럴 것이라는 근거는 잘 모르겠음.
OpenAI에 금전적 동기가 있는 건 분명하지만, 1년 뒤에도 모델이 결과를 더 개선하고 간결하게 정리하지 못할 것이라고 단정할 수 있을까?

소프트웨어에도 같은 논리가 적용됨. 참신한 프로젝트를 포기하고 남의 아이디어를 Rust로 옮기는 데 그치기보다, AI로 소프트웨어와 컴퓨터의 가능성을 더 넓힐 수 있음.
구체적인 방법은 모르겠지만, 그저 가능하다는 이유로 코드베이스에 에이전트를 밀어 넣는 지금의 방식은 개발을 지루하게 만들고 창의적인 사람들을 밀어내 발전을 정체시킬 것이라고 확신함.
소프트웨어가 지루해지면 하드웨어 프로젝트가 창의적인 엔지니어의 새로운 개척지가 될 것으로 예상함. 오히려 좋은 변화일 수도 있음.

어느 정도는 그렇지만, 우아한 증명은 증명한 명제 이상의 쓸모가 있음. 새로운 수학을 암시하고 응용 분야의 발견을 촉발할 수 있음. 우아한 코드 자체가 새로운 발견으로 이어졌다는 얘기는 들어본 적이 없는 것 같음.

모델에도 한계가 있으니 소프트웨어가 지루해질 것 같지는 않음. 머지않아 개발자 한 명이 지금보다 훨씬 많은 일을 할 수 있게 되면서 오히려 더 흥미로워질 것으로 봄.

해답이 존재한다는 사실만으로도 추가 통찰을 주는 다른 경로를 찾으려는 인간과 AI의 노력이 “오염된다”는 대목이, 여러 분야의 불편함을 잘 짚어줌. 단순히 경력 경쟁만의 문제가 아니며, 디컴파일과 팬 번역 분야의 친구들도 최근 쏟아지는 작업 때문에 의욕을 잃고 있음. 최초라는 지위는 늘 지나치게 찬양받았지만, 그런 사고방식을 넘어설 길이 있으면 좋겠음.

AI·머신러닝과 컴퓨터 비전에서는 이미 선점용 논문으로 이런 일이 벌어지고 있음. 아이디어가 떠오르면 실제로는 제대로 작동하지 않고 방법론·평가·구현·속도·결과에 문제가 있어도 서둘러 발표함.
그러면 동시에 진행하던 내 연구가 평가와 구현 면에서 훨씬 나아도, 먼저 나온 논문 때문에 갑자기 가치가 없어지고 출판도 어려워짐.

사실상 Thurston의 「On proof and progress in mathematics」 를 다시 풀어 쓴 내용임. 1994년 이 글이 나왔을 때는 많은 사람이 무슨 뜻인지 이해하지 못했음. https://arxiv.org/abs/math/9404236

이미 풀린 문제라도 더 단순한 증명과 따름정리를 발표해 해당 분야 전반에 더 나은 직관을 주는 일은 늘 가치가 있었음.
Tao를 제대로 이해했다면 앞으로 여기에 집중해야 한다는 뜻인 듯함. 다만 나는 모델이 그 일에서도 우리보다 훨씬 뛰어나질 것이라고 먼저 생각하게 됨.

가치는 있지만 기여에 걸맞은 보상은 받지 못함. 동료 심사도 마찬가지임.

결과를 설명하거나 수학계와 교류하지 않은 채 문제만 “해결”하는 AI 사용자에 대한 비판이라면, Terence Tao는 Ramanujan에게도 같은 말을 했을 것 같음. Ramanujan도 신에게서 떠올랐다는 말 외에는 설명·추론·소통 없이 문제를 “풀어낸” 경우가 많았음.
그때는 다른 사람들이 그가 직접 하지 않을 것을 알고 결과를 알리고 공동체와 연결하는 일을 맡았는데, 여기서도 같은 접근을 취하면 안 될까?
새 도구 덕분에 수학 문제를 푸는 방식으로 자신을 표현하되, 더 넓은 수학 공동체에는 참여하고 싶지 않은 사람도 있을 것임. 왜 그런 사람을 위축시키거나 자기 방식으로 참여하는 데 장벽을 세워야 할까? 결과를 이해하고 공유하며 공동체와 연결하는 부담을 직접 맡으면 안 될까?
내가 놓친 타당한 이유가 있을 수는 있지만, 여러 접근이 공존할 수 있는 분야에서 특정한 방식만 요구하는 것처럼 느껴짐.

이 대응은 앞으로 여러 세대의 모델이 나오면서 수학이 더 달라질 가능성까지 충분히 예상하고 있을까? 미래 모델은 설명과 탐구도 충분히 해낼 수 있을 것임.

지난 1년여 동안 기술 업계에 제기된 비판을 압축한 것 같음. 수학을 어느 분야로 바꿔도 여전히 들어맞는 내용임.

그렇게 단순하지는 않다고 봄. AI의 영향을 받는 분야는 인간의 경험을 중시하는 분야, 입장이 갈린 분야, 결과를 최우선으로 하는 분야로 나눌 수 있음.
첫째는 활동의 본질이 인간의 경험이며 자동화는 그 반대라고 일관되게 선을 긋는 분야임. 마라톤 주자는 자동차가 더 빠르다고 신경 쓰지 않고, 시인은 Poem Bot 2000도 시를 쓴다고 개의치 않음. 설득력 있게 취할 수만 있다면 현명한 입장이지만, 구매자를 납득시키려면 이를 적극적으로 밝혀야 함.
둘째는 인간 중심을 지지하는 쪽과 AI로 가속하려는 쪽이 갈리는 분야로, 수학이 좋은 예임. 수학은 예술에 가깝고 시장 압력에서도 상당히 보호받으므로 첫 번째 길을 택할 명분이 충분하지만, 세 번째 길도 가능함.
셋째는 결과를 무엇보다 우선하는 분야임. 종사자들은 모든 것이 무너지기 전에 최대한 돈을 벌려 하거나, 자신이 영원히 남보다 프롬프트를 잘 쓰며 고용주에게 꼭 필요한 존재로 남을 것이라고 믿음. 소프트웨어 공학이 여기에 해당하며, 앞으로 지켜볼 만할 것 같음.

여전히 미래 모델의 역량을 과소평가하는 것 같음. 보상해야 한다고 제안한 여러 활동도 결국 모델이 인간보다 훨씬 잘할 것임.
수학을 즐거움을 위한 독서처럼 하는 편이 우리에게 더 맞을 수도 있음. 즐겁고 여러 상황에서 쓸모도 있지만, 분야 자체를 발전시키지는 못한다는 사실은 냉정하게 받아들이는 것임. 그래도 괜찮고, 가치가 사라지는 것도 아님.

UCLA가 최상위 학술지 논문이 가장 많은 후보를 뽑지 않는 것이 분명해지면 알려주길 바람.
그보다는 연구책임자가 연간 직접 연구비 10만 달러로 박사과정생 두 명을 지원하는 대신, 한 명만 뽑고 5만 달러를 AI에 쓰게 할 가능성이 더 커 보임.

그보다는 최첨단 AI 연구소들이 학습 활용에 동의하는 교육기관에 큰 폭의 할인을 해줄 가능성이 더 높아 보임.