AI 시대, 수학 진로를 고민하는 학생들에게 무엇을 말해줘야 할까?

Astra 구독을 취소하고 직접 연구하라고 해야 함. Peter Scholze를 비롯한 수백 명의 수학자가 이미 AI를 전혀 사용하지 않기로 동의했음. 자기 삶을 더 비참하게 만들 AI의 학습을 도울 이유가 전혀 없음. https://www.ahmath.org/members

지인의 지인은 교수 자격 취득을 바라보며 향후 10년짜리 연구비 과제를 준비했는데, 최종 목표로 삼았던 결과가 최근 OpenAI 발표에 포함됐음. 모델이 해결하는 데 걸린 시간은 3.5시간이었음. 요즘 수학과 이론 분야는 정말 격변하고 있음.
이론 분야의 AI 연구소에는 인간 데이터도 필요하지 않으며, 합성 데이터가 못지않거나 더 잘 작동함. 이미 자리를 잡은 과학자라면 AI로 현재 과제를 최대한 빨리 마무리하고, 가능하다면 추가 연구비도 확보한 뒤, 남은 한 해 동안 새 도구로 가능한 과학을 배우며 분야의 새 패러다임을 만드는 데 참여하는 편이 최선이라고 봄. 이제 막 입문했다면 자기 이름을 알릴 기회가 열린, 더없이 흥미로운 시기임.

컴퓨터과학 학생에게 클라우드 LLM을 절대 쓰지 말라는 것만큼 터무니없는 조언임. HN은 가끔 현실과 너무 동떨어져 있음.

그렇게 해서 어떻게 버틸 수 있을까? 평범한 연구자도 AI를 활용해 다작하는 연구자가 될 수 있음. 인간만으로 연구하며 다른 연구자의 10분의 1만 발표한다면, 더 많은 성과를 내는 이들에게 연구비를 빼앗기게 됨.
소프트웨어 개발자도 똑같은 일을 겪고 있음. AI가 모두의 코드 생산 능력을 끌어올렸으므로 손으로만 코딩하는 데 붙는 프리미엄은 사라짐. 사업 분석가까지 신제품을 잇달아 만들어내면, 급여를 지급하는 쪽에서는 개발자의 생산성이 왜 더 높아지지 않느냐고 묻게 됨.

아주 단기적인 해법에 불과하지 않을까? AI가 푼 문제를 보지 않겠다고 맹세하거나, AI가 기여하기 시작할 때마다 분야를 옮기면서 경력을 유지하기는 어려움.
오늘의 최첨단 모델은 가까운 미래에 누구나 로컬에서 돌리는 모델이 됨. 발전이 멈추거나 숨 돌릴 틈이 예상된다면 다르겠지만, 수학은 체스, 아니 단백질 접힘 문제의 뒤를 이을 듯함. 후자는 필요한 계산량도 크게 줄었음.

인간의 눈과 불공정하게 경쟁한다며 초기 생물학자에게 현미경을 버리라고 하는 것과 비슷할 수 있음.

블로그 댓글에서 언제든 결과를 얻을 수 있어 연구 발표가 줄어든다는 대목이 설득력 있었음. 장기적으로 지식의 축적이 멈추는 건 아닐지 궁금함.
“최신 ChatGPT 모델을 쓰면 이런 문제는 답이 책 뒤에 실린 숙제와 비슷해짐. 새로운 해를 발견하는 게 아니라, 이미 존재하며 모델 사용자가 꺼내기만 기다리는 답을 다루게 됨. 관심 있는 문제를 지도교수에게 이야기했더니, 공동연구자와 ChatGPT로 이미 완전히 해결했지만 논문으로 쓸 계획은 없다고 했음. 다른 ‘연구자’가 증명 슬롯머신을 돌릴 때까지 결과는 그대로 묻혀 있게 됨.” 경력이 긴 연구자와 신진 연구자의 차이도 인상적임. “수학 연구가 더 흥미로워졌다는 이야기는 주로 자리를 잡은 연구자에게서 들었음. 그들에게는 수십 년간 깊이 관심을 기울이며 해결되기를 바란 미해결 문제가 있지만, 내게는 그런 문제가 없음.”

지금까지의 증명에 기존 문헌에 없던 ‘외계적인 아이디어’나 알파고의 37수 같은 완전히 새로운 논증·개념이 없다는 대목에서, Tao 교수와 같은 낙관을 느낌. 다만 많은 수학자가 불안해하는 이유도 이해함. 수학 연구의 상당 부분은 기존 방법의 영리한 조합이며, 이것만으로도 엄청난 창의력과 오랜 학습이 필요함. AI는 지식을 다른 문제에 적용하고 기존 아이디어를 조합하는 데 매우 능숙할 수 있음.
완전히 새로운 수학적 구조나 해결 기법을 발명하는 수학자는 소수이므로 AI가 많은 이의 몫을 가져갈 수 있음. 그래도 수학을 깊이 이해하는 전문가에게는 밝은 미래가 있다고 봄. AI를 이끌어 중요한 문제를 풀 사람은 나 같은 일반인보다 훌륭한 수학자일 가능성이 큼. 목표는 여전히 “우리는 알아야 하며, 알게 될 것”이고, AI와 함께라면 더 빨리 더 많이 알게 됨.

최근 회사의 문제를 해결하며 여러 통계 기법을 결합한 새로운 방법을 고안했음. 기존 해법은 우리 회사에 맞지 않았고, 내 방법은 조금 더 복잡하지만 결과가 더 좋았음.
Claude에게 평가를 부탁했더니 논문과 기존 오픈소스 패키지의 전통적인 방법을 따르지 않는다는 이유로 몹시 부정적이었음. 원리와 장점을 설명하고 결과까지 보여줘도, 새롭다는 사실 자체를 꺼리는 듯 유효한 방법으로 인정하기를 주저했음. 특별한 교훈을 끌어내려는 건 아니고, 이런 일도 있었음.

이 글의 저자는 Tao가 아니라 Álvaro Lozano-Robledo임.

소프트웨어 개발도 거의 같은 상황임. 두 진영 중 더 큰 쪽이 큰 타격을 받았고, 요즘은 오히려 ‘소프트웨어 엔지니어’라는 직함을 쓸 자격이 생긴 듯함. 의사결정과 미묘한 상충관계의 조율이 공학이며, 적어도 아직 AI가 하는 일은 프로그래밍과 코드 분석에 가까움.
다만 최근 몇 달 사이 단순하거나 중간 복잡도의 프로젝트를 계획하는 능력은 크게 좋아졌음. 복잡한 프로젝트에는 여전히 많은 도움이 필요함. 오늘도 AI가 핵심 쟁점을 해결한 듯한 인상을 줘서 큰 구조적 실수를 할 뻔했는데, 특정한 방식으로 질문한 뒤에야 실제로는 해결하지 않았다는 사실을 알아내 향후 문제를 피할 수 있었음.

스포츠에서는 공이 있는 곳이 아니라 공이 향하는 곳을 겨냥하라고 함. 최근 수학자들의 논의는 이 점에서 계속 실망스러움. 학생인 나는 앞으로 약 40년의 경력을 좌우할 결정을 내리고 있음.
최소한 현재 AI 발전 속도가 지속될 가능성은 인정해야 함. 격려하려는 마음은 이해하지만, 학생을 제대로 준비시키려면 현직 수학자들이 무책임하게 덮어두는 가능성도 살펴야 함. AI는 당연히 인간보다 설명을 잘하게 될 것이고, 때가 되면 스스로 프롬프트도 만들게 됨.

그렇다면 어떤 방향을 생각하는지 알려줄 수 있을까? 지금 향후 40년을 계획하는 것은 불가능하며, 특히 수학에서는 더욱 그러함. 경계를 늦추지 않고 변화에 올라타며 최대한 선택지를 다변화하는 게 맞음. 5년 계획조차 터무니없어 보일 만큼 불확실성이 큰 시기임.

40년 뒤를 정확히 예측하는 데 성공하는 사람은 없음. 20세기에 그 정도 기간 동안 벌어진 사건과 기술 변화를 돌아보면 됨. 진로를 바꿔야 할 수도 있다는 전제로 시작해야 함.

공은 고정된 규칙에 따라 코트 안에서 움직이므로 적절한 비유가 아님. AI가 가져올 변화는 정확히 예측할 수 없음. 지금까지의 예측만 해도 인류 멸망부터 유토피아까지 전 범위에 걸쳐 있음.

앞으로 40년 동안 계속 발전한다면, 그때도 그 직업이 존재할까?

글에서도 그 가능성을 인정함. “AI 능력이 훨씬 뛰어나지더라도, 인간이 달리지 않고 걸어갈 만한 방향으로 연구를 이끌 다양한 수준의 수학자는 언제나 필요할 것”이라고 했음.
다만 설명 능력이 인간을 넘을 것인지는 확신하기 어려움. 좋은 설명과 나쁜 설명을 대규모로 판별하기 어려운데, 더 나은 설명을 하도록 어떻게 학습시킬지 모르겠음.

수학자와 인간이 하는 수학의 수요는 여전히 존재하며, 앞으로 10년 이상도 그럴 것이라고 봄. 이 예측에 75% 이상의 확신이 있음.
업무에서 최첨단 AI 모델을 늘 활용하며, 더 빨리 이해하고 더 나은 질문을 만드는 데 도움을 받음. 모델은 전문가가 자기 전문 분야에서 사용할 때 가장 유용하고 생산성 향상도 큼. 수학에서도 대규모 일자리 붕괴가 일어날 것으로 보지 않음.

하지만 글에서도 인정하듯, 그 전망은 결국 현재 AI 접근법이 한계에 부딪힌다는 전제에 달려 있음. LLM에 인간의 우위를 남겨둘 본질적 한계가 있는지는 아직 불확실함. AI가 인간을 넘어선다면 인간에게 무슨 일이 남을까? 전면적으로 넘어서지 않아도 오늘날 대다수의 업무에서 인간보다 잘할 수 있으므로 일자리 붕괴는 일어날 수 있음.
예전에는 TurboTax를 쓰다가 복잡한 세무 상황과 맞춤 조언 때문에 훌륭한 공인회계사를 고용했음. 그런데 지금 AI 에이전트는 그 회계사에게 맡겼던 일을 100% 수행할 수 있으며, 필요한 질문과 조언도 가능함. 기업 세무에는 회계사의 역할이 남을지 몰라도 개인 세무에서 AI보다 더할 가치를 상상하기 어려움. 1년 전만 해도 황당하게 여겼겠지만, 많은 오류가 해결됐고 에이전트끼리 서로 검토하면 인간보다 나은 성과를 얻을 수 있음. 내년 세금 신고철에는 더 좋아질 것임.

수학자는 아니지만 학부에서 수학을 전공하고 물리학 박사학위를 받았으며, 지금도 수학을 좋아함. 박사과정을 밟아야 하는가는 새로운 질문이 아니고, 예측 불가능한 사건이 박사의 진로를 뒤흔든 일도 드물지 않음.
내가 살아온 동안 교수 강제 퇴직이 불법으로 판결되면서 교수 퇴직에 10년 넘는 공백이 생겼고, 냉전이 끝났으며, 대학 강의가 정년보장 교수에서 비정규 강사로 넘어갔음. 그 와중에도 교수들은 늘 “물리학자는 언제나 필요할 것”이라며 박사의 취업 전망을 낙관했음. 역시 박사인 아버지에 따르면 적어도 1950년대부터 그랬다고 함.
학생의 편지에 질문 하나를 더하고 싶음. AI와 그 소유주의 윤리는 어떠한가?.

수학을 하는 방식이 대대적으로 재편될 것임. 컴퓨터로 완전히 새로운 아이디어를 탐색하는 방향이 마음에 들지 않고 아직 이 길에 전념하지 않았다면, 떠나는 것도 타당함. 다만 가까운 미래에 이 변화의 영향을 받지 않을 기술 분야는 거의 없을 테니, 깔끔하게 갈아탈 대안도 찾기 어려움. 어쩌면 철학과 정도일 수 있음.

아이디어의 볼록 껍질(convex hull) 이라는 관점이 흥미로움. AI가 수학에서 그 경계 밖으로 나갈 수 있으며, 머지않아 그 사실이 분명해질 것이라고 추측함.

모델을 신탁이 아니라 컴파일러로 다뤄야 함. 문제를 올바르게 명세할 줄 모르면 쓰레기를 더 빨리 생성할 뿐임.

컴파일러도 아니고 검색 엔진임. LLM은 자연어 처리 검색 엔진이며, 선택지가 “I'm feeling lucky” 버튼 하나뿐이라는 점에서는 그보다 조금 못할 수도 있음.

AI 사용은 뇌의 능력을 떨어뜨리며, 특히 학습할 때 그러함. AI가 이해와 지식, 교육을 대신하게 해서는 안 됨. AI를 맹목적으로 추종하는 이들은 정신을 차려야 함.