Simons Foundation, 수학자의 AI 시대 대응을 돕는 약 225억원 규모 지원 사업 출범

이미 연구비가 넉넉한 Terence Tao와 늘 보던 수학자 30명에게 돈이 돌아가고, 우리처럼 경력 초반의 수학 전공 학생들은 뒤처지게 될까 봐 자주 생각함. npm fund에 나오는 패키지 대신 Node.js 재단에 100달러를 기부하는 것과 비슷함.

그 사람들이 돈을 자기 주머니에 넣는 것은 아님. 다른 학술 연구비처럼 박사과정 학생과 박사후연구원 채용에 쓰게 됨.

경력 초반의 수학 전공 학생 입장에서 Simons Foundation이 발표한 계획과 달리 무엇을 해주길 원하는지 궁금함. 학생들에게도 지원이 돌아갈 방법이 있기를 바람.

왜 손해를 떠안는다는 것인지 모르겠음. 경력 초반의 수학 전공 학생을 반길 산업 분야는 많음. 연구를 원하더라도 AI를 활용하면 단순 작업을 줄이고 연구를 더 많이 할 기회가 생김.

이런 정서가 이해되지 않음. 최상위 연구자들은 학계 밖에서 역량을 발휘하면 훨씬 더 많은 돈을 벌 수 있고, 연구비로 부자가 되는 것도 아님. Anthropic이나 OpenAI에 들어가 연간 총보상 약 100만 달러를 받을 수도 있을 것임. 본인도 생각만큼 뛰어나다면 같은 선택이 가능함.

수학만의 일처럼 보이지만 실제로는 사회 전체가 넘어야 할 전환임. 직접 몸을 쓰는 일부 직종은 시간이 더 걸리겠지만, 실용적인 의미의 ‘수학 2.0’이나 다른 분야의 ‘2.0’이 생길 것 같지는 않음. Ford 시대에 말의 쓸모를 찾으려는 것처럼, 없는 효용을 억지로 찾는 노력은 방향부터 잘못됐다고 봄.
OpenAI나 Anthropic 같은 특정 기업 때문에 생긴 일도 아님. 이런 진보는 늘 있었고 누가 이뤘는지는 스티글러의 법칙처럼 우연에 가까움. 사회 운영 방식을 재고해야 하는데, 이 논의를 시작하려는 사람이 너무 적다고 느낌.

AI가 증명을 제시하면, 인간이 처음 증명을 도출하면서 얻는 부수적인 지식은 수학에서 사라지는 것 아닐까? 막다른 길까지 탐색하며 수학자의 사고가 달라지는 과정도 있음. 수학에 많은 것을 준 것은 답뿐 아니라 풀어가는 과정이라고 봄.

지난 몇 주간 수학자들이 해온 논의는 오히려 그 반대였음.

수학자를 보살핌과 지원이 필요한 AI 난민처럼 취급하는 데 공감하기 어려움. AI는 도구이고, 유능한 수학자라면 다른 사람들처럼 사용법을 배워야 함. AI가 인간의 수학적 이해에 전반적으로 도움이 될 가능성이 없다고는 믿기 어려움. 어떤 도구든 오용할 수 있으니 오용하지 않으면 됨.

수학자들은 앞으로 벌어질 일을 먼저 겪는 집단일 수 있음. Tao의 수학 AI 비판을 읽어봤는지? 우려의 핵심은 오용이 아니라 생태계 붕괴임.
해외 이전에 비유할 수 있음. AI 때문에 한 세대 동안 인간의 고등 수학적 사고가 끊기고, AI도 흥미로운 새 질문이나 발견을 실제 응용으로 연결하지 못한다면 분야 전체의 진전이 멈출 수 있음. 더 직접적으로는, 신중하게 대응한 다른 나라와 달리 미국에서만 이런 일이 벌어질 위험도 있음.

강력한 도구를 남들이 오용하지 않기를 바라기만 하는 것은 순진하지 않은가? 위험을 수용할 수 있도록 사회를 적극적으로 설계해야 함. 모두가 AI 사용법을 배워야 한다는 것과 별개로, 정말 모두가 사용할 수 있는지, 미국 거대 기업들이 체계를 장악해 경쟁자를 배제하지는 않을지, 그때 우리는 어떻게 혜택을 얻을지가 진짜 질문임.

이 도구는 사용자뿐 아니라 제공자도 함께 휘두른다는 점이 문제임. 도구의 능력으로 우리 역량을 보강할 때마다, 우리 역량으로 도구의 능력도 개선하게 됨. 지식 노동자들이 자기 교수대를 짓고 있으며, 아마 막을 수도 없을 것임.

과보호가 아니라 핵심 인물에게 돈을 주고 AI를 사용한 뒤 블로그에 쓰게 하는 것임.

발전 자체보다 학술지에 자기 이름을 올리는 데 정체성을 둔 데서 나오는 이기적인 태도라고 봄. 납세자와 다른 지원자들이 돈과 시간을 들인 이유는 답을 얻기 위해서였는데, 이제는 답보다 답에 이르는 과정이 중요하다며 집단적으로 합리화함. 이런 사고에서 벗어날 시간이 몇 주밖에 없었으니 조금 더 지켜볼 생각임.

OpenAI와 Anthropic은 수학적 발견을 채굴하듯 가져다 모델 홍보에 써먹고, 그 과정에서 연구 분야를 황폐화했다는 반발을 받았음. 각각 약 500만 달러를 이미지 세탁에 투입하면서 일부는 토큰 크레딧으로 제공하는 것은 자기 이익을 위한 일로 보임.
Simons Foundation은 이 기회를 잡아 AI 연구소들에 체면을 세울 명분을 줬으니 대단함. 연구비 제안에 이보다 빨리 승낙한 적이 없을지도 모르겠음.

누구나 100년 넘게 도전할 수 있었던 미해결 문제에 민간 기업이 최첨단 연구를 수행했다는 일을 지나치게 자극적으로 묘사함. LLM이 나오기 전부터 예상했던 일을 했다는 이유로 맥락을 지우고 기업을 악으로 그리면 실질적인 논의에 도움이 되지 않음.
특정 서사에 사건을 끼워 맞춰도 이후 불가피하게 벌어질 일은 해결되지 않음. OpenAI와 Anthropic에 수학 연구를 멈추라고 압박하면, 기술을 따라잡고 나쁜 여론도 신경 쓰지 않는 다른 기업이 이어받을 것임. Musk가 Grok으로 그 기회를 잡을 때 순수 수학 연구자들을 특별히 배려할 것 같지는 않음.

OpenAI가 NS를 풀었다고 발표한 뒤 몇 주 만에 기업가치 추정치가 약 2,300억 달러 상승함. 그중 발표의 기여분은 알 수 없지만 상당 부분일 것이라고 봄.

최첨단 모델로 수학 연구가 크게 달라지는 상황을 황폐화라고 부르는 것은 말이 되지 않음. 동력 직기가 섬유 분야를 황폐화했다고 하는 것과 같음.

결국 수학자들이 모델에 계속 질문하고 증명을 명확히 하도록 피드백을 주길 바라는 것임. 그 결과를 학술지에 정리해 발표하고 AI 사용도 명시하게 한 뒤, 모델이 읽기 쉽고 이해 가능한 증명을 내놓으면 규모 확장 법칙에 따른 능력의 ‘발현’ 이라고 하게 될 것임.

Simons Foundation, Anthropic, OpenAI가 총 1,500만 달러의 자금과 자원을 제공하고, 재단이 공개 공모 등을 통해 배분함. AI 보조 연구 결과 평가, 새 도구 학습·활용, 관점 공유, 공동 사용 기준 수립을 위한 워크숍과 활동을 지원하는 계획임.
재단은 1994년 설립됐으며, Wikipedia에 따르면 2022년 자산이 50억 달러를 넘는 미국 최대급 자선단체 중 하나임. 설립자 Jim Simons는 헤지펀드 Renaissance Technologies를 세웠음.

Simons Foundation은 arXiv도 상당히 지원하고, 수학과 과학 전반에 걸쳐 수많은 개별 연구비를 제공함. 여기에 특별한 숨은 의도가 있다고 보지는 않음.

AI 연구소들이 최근 수학계의 상황을 만들었고, 많은 최상위 수학자들이 그 방식을 비판하며 쏟아낸 결과물을 보이콧하자고까지 했음. 그런데 대응책이 1,500만 달러로 가난한 학자들을 매수하는 것인가? 그것도 대부분 AI 토큰이라니, 섬뜩한 아이러니로 느껴짐.

그렇게 자선적이라면서 ‘ClosedAI’, ‘Misanthropic’과 이런 사업을 시작함. 재단 안에 극단적인 가속주의자나 트랜스휴머니즘 신봉자가 있을 것 같음. Quanta magazine은 선전 조직이라고 봄.

AI 시대 적응을 위한 자금 지원을 받는 집단은 처음 들어봄. 적응해야 하는 다른 집단도 많은데 왜 수학자들인가? 집단 구성원들이 직접 돈을 받는 구조가 아니라는 것은 알고 있음.

과학자들이 AI 시대에 적응하도록 내가 도울 방법은 모델 학습용 데이터 제공을 끄는 것임.
ChatGPT에서는 Settings → Data controls → “Improve model for everyone”을 끄면 됨. Claude에서는 Settings → Privacy → “Help improve our AI models”를 끄면 됨. 연구 결과는 출판한 뒤에 수집해 가라고 하면 됨.

1,500만 달러는 큰 지원 규모가 아님. 대학이 절반을 가져가면 남는 돈이 많지 않아, 연구 그룹 10곳도 지원하기 어려울 수 있음.