속보: OpenAI의 Navier–Stokes에 대한 해법이 Lean 검증과 일치하지 않다.

오늘 읽어야 할 가장 중요한 기사는 OpenAI가 생성한 700개의 AI 수학 논문 중 하나가 아니다.

진짜는 이 다른 논문이며, 깊고 우려스러운 지점을 제기하고 있다:

Lean으로 검증된 증명이 자연어로 작성된 증명을 자동으로 유효하다고 입증하지 않으며, 형식적 진술이 의도한 정리를 포착한다는 의미도 아니다.

번역 과정에서 AI는 가정을 변경하거나, 진술을 약화시키거나, 논거 자체를 완전히 대체할 수 있다.

심지어 다른 정리를 환각(hallucinate)처럼 만들어낼 수도 있다.

Lean은 결과를 정확하게 검증한다.
하지만 증명된 결과가 논문이 주장하는 것과 더 이상 일치하지 않을 수 있다.

이는 일반적인 문제이다. 상황이 복잡해지는 것은 저자들이 OpenAI가 제안한 Navier–Stokes 해법을 검토하면서 발생했다.

그들은 작성된 중간 결과와 그에 대응하는 Lean 버전 사이에 최소 두 가지 불일치를 발견했다:

첫 번째 추정치는 네 개의 추가 입력 도함수만으로 충분하다고 주장한다. 하지만 Lean 버전은 다섯 개를 요구하며, 이는 더 약한 결과이다.

압력-플럭스 추정치는 다른 경계를 통해 얻어졌고, 다른 논거를 통해 증명되었다.

이러한 불일치들이 전체 증명을 무효화하는지는 명확하지 않다.
하지만 이들은 중요한 문제를 제기한다.

OpenAI는 우리에게 혁명적인 돌파구를 주장하며 쏟아내고 있다. 그러나 아무도 그 증명이 정확한지, 혹은 자신이 증명한다고 주장하는 것을 실제로 증명하고 있는지 알지 못한다.

규모화된 지식론(Epistemia at scale).
*
논문은 첫 번째 답글에 있음