OpenAI, 수학 논문 3편 철회

이런 오류를 짚어낼 활발한 수학 공동체가 없었다면 잘못된 채로 남았을 것임. Tao가 지적했듯 수학 자동화는 그 공동체를 위협함.

누군가 오류를 지적한 링크가 있는지? 아직 형식 증명을 진행 중인 듯하니, 그 과정에서 문제를 발견했을 가능성이 커 보임.

자동화할 수 있다면 필요하지 않고, 꼭 필요하다면 완전히 자동화되지 않을 것임. 꽤 간단히 해볼 수 있는 실험이니 수학 ‘공동체’도 좀 참아주길 바람. Darwin도 자랑스러워할 것임.

정수 곱셈에서 O(n log n)보다 빠르다는 논문도 꽤 수상하게 느껴짐. 확신은 없지만 너무 좋아서 믿기 어렵고, 미묘한 결함이 있을 것 같음.
논문에 등장하는 작은 수치들이 그냥 마음에 들지 않는 것일 수도 있지만, 틀린 듯하고 심지어 부자연스럽게 느껴짐. 빛의 속도를 아주 조금 넘을 수 있다는 물리학 논문에도 비슷하게 회의적일 것임. n log n이 자연스러운 한계여야 할 이유는 없지만 이를 뒷받침하는 직관은 몇 가지 있으니, 우아한 형태로 표현할 수 없는 다른 결과는 몹시 ‘비수학적’으로 느껴짐.

논문은 읽지 않았지만, 실제 곱셈을 수행해서 추가로 확인할 수도 있지 않은지? 아니면 비구성적 증명이었는지?

이런 식으로 대량 공개하려면 전부 형식화해야 함. 사람이 일일이 검토하기에는 분량이 너무 많고, AI가 쓴 글이라 사람이 쓴 것보다 읽기도 어려움.

수학자는 아니지만, 내가 연구하는 문제를 AI도 풀고 있다면 결함이나 공백이 있더라도 최대한 일찍 알고 싶을 것임. 정보를 덜 아는 게 내게 무슨 이득인지?

설명문이 읽기 몹시 어려울 정도로 엉망이라고 함. 적어도 AI로 어느 정도 다듬을 수는 있었을 듯함. 이제라도 글쓰기 능력에 더 투자할지도 모르겠음.

수학보다는 마케팅용 마감 일정에 더 신경 쓰는 것처럼 보임.

틀렸을지도 모르는 내용으로 체계를 뒤덮으면 검증 과정 전체가 손상되고, 정치처럼 사람들이 아예 관심을 끄게 됨. International Mathematical Union이라면 평판에 타격을 입을 테니 비슷한 실수를 저지르지는 않을 듯함. 하지만 모델은 자기 평판을 신경 쓰지 않음.

새로 추가한 6개도 제목에 넣으면 좋겠음.

새 증명이 아니라 기존 증명을 새로 형식화한 것으로 보임.

약 400개 중 오류 3개라면, 현재까지는 꽤 좋은 적중률임.

마음이 복잡함. AI 출력물을 검증하는 데 막대한 무급 인력을 투입하고 나면 최종 오류 수를 알게 될 것임. 그게 수학의 미래라면 조금 슬픔.
거대 기술 기업이 버려진 프로젝트를 좋게 포장하려고 오픈소스로 공개하는 모습이 떠오름. “소스는 여기 있으니, 이제 문제는 여러분이 알아서 고치면 됨”이라는 식임.

2025년에 사람이 쓴 보통의 수학 논문보다 오류율이 낮을 것이라고 봄.

그렇지 않다고 봄. 수학자가 평생 논문을 2편 넘게 철회해야 한다면 이미 경력에 큰 타격임.

증명들이 맞을 수도 있지만, 사람들이 정확성을 확인하는 데 많은 시간을 쓰지 않는 것일 수도 있음. OpenAI는 이 과정을 다루는 방식 때문에 수학계에서 이미 평판이 꽤 나쁨. 수학 발전보다는 IPO를 위한 홍보 서사를 만드는 데 더 관심이 있어 보임.

나머지는 너무 엉망이라 사람이 따라갈 수조차 없다는데, 과연 ‘반증’할 수는 있는지? 수백 명의 수학자가 저질 결과물을 뒤질 게 아니라, 옳다는 것을 입증할 책임은 OpenAI에 있어야 하지 않는지?

결국 에너지와 시간만 낭비하는 작업이 될 것임. 수학계는 거리를 두고 싶어 할 것임.

권위에 의존한 증명은 인간 수학자가 실제로 코드를 실행하기 전까지만 통함. 다시 프롬프트 엔지니어링으로 돌아갈 차례임.

이 논문들에는 누구 이름이 올라가 있는지?

꾀를 내어 회사 이름을 저자로 올림.

Good Will Hunting을 리메이크해서 Will이 AI라고 상상해보길 바람. 수학 공식을 정확히 푸는 대신 말도 안 되는 내용을 대량으로 쏟아내고, 교수들이 전부 검토하며 틀린 곳을 짚어야 함.
교수들은 AI Will이 소문만큼 똑똑하지 않다는 걸 알지만 연구비가 거기에 달려 있음. 쉽게 입증할 수 있어도 실제로 입증하면 경제 전체가 무너져 불황이 올 수 있음. 역사상 가장 멍청한 대통령이 집권하고 있기 때문임.