AI가 급격히 발전함에 따라 수학자들이 경고를 보내다

인공지능 (AI)이 분야를 가리지 않고 세력을 확장함에 따라, 연구자들은 이것이 각 학문의 미래에 무엇을 의미하는지를 두고 고심해 왔습니다. 수학자들만큼 이러한 압박을 절실히 느낀 공동체는 거의 없을 것입니다. 그들은 AI가 무서울 정도로 빠르게, 그리고 무서울 정도로 똑똑해지는 과정을 속수무책으로 지켜봐 왔습니다.

오늘, 16명의 수학 전문가들이 그러한 불안감을 공공의 도움 요청이자 행동 촉구로 전환했습니다. 경고이자 선언문인 11페이지 분량의 '인공지능과 수학에 관한 라이덴 선언 (Leiden Declaration on Artificial Intelligence and Mathematics)'은 통제되지 않은 자동화가 수학이 실천되는 방식뿐만 아니라, 이 학문이 지향하는 가치까지 위협한다고 경고합니다. 또한 이 선언문은 AI가 학문을 침식하기보다는 지원하는 방식으로 사용될 수 있도록 하는 원칙들을 제시합니다.

수년 동안 AI 연구자들은 자신들의 모델을 검증하기 위한 시험장으로 수학을 사용해 왔습니다. 수학 문제의 특성상 채점이 용이하고 사실상 무제한의 훈련 풀을 제공하며, 정리를 증명할 수 있는 AI 모델을 구축하는 것은 더 높은 성능을 가진 추론 시스템 (reasoning systems)으로 나아가기 위한 디딤돌로 널리 간주됩니다. 하지만 AI는 이제 단순한 기술적 기교에만 국한되지 않습니다. 지난달, OpenAI는 자사의 최신 범용 추론 모델 중 하나가 80년 된 유명한 추측 (conjecture)을 독립적으로 해결했다고 보고했습니다. 이는 AI를 해당 분야의 최전선으로 밀어붙이는 일련의 돌파구 중 가장 최근의 성과일 뿐입니다.

그러나 선언문은 수학이 단순히 정답을 만들어내는 기계 그 이상이라고 주장합니다. 저자들은 수학이라는 학문이 창의성, 이해, 협업, 그리고 지식 그 자체를 위한 탐구 위에 세워진 깊이 있는 인간적 노력이라고 믿습니다. 이러한 가치들은 종종 AI 발전을 추진하는 동기들과 충돌합니다. 컬럼비아 대학교 (Columbia University)의 선언문 공동 저자인 마이클 해리스 (Michael Harris)는 The New York Times와의 인터뷰에서 "기술 산업은 상업적 논리에 따라 진행되며, 이는 수학의 가치와 상충됩니다"라고 말했습니다.

저자들은 그 결과가 이미 가시화되고 있다고 경고합니다. AI가 생성한 논문들이 저품질의 작업물로 피어 리뷰 (peer-review, 동료 검토) 시스템을 압도할 수 있으며, 발견에 대한 적절한 공로를 인정하기 어렵게 만들고, AI 도구에 의존하지 않기로 선택한 연구자들에게 불이익을 줄 수 있습니다. 또한 저자들은 수학자들의 작업이 군사 및 감시 목적으로 AI 시스템을 훈련하는 데 사용되는 것에 대한 윤리적 우려를 제기합니다.

해당 분야의 선도적인 글로벌 기구인 국제수학연맹 (International Mathematical Union)이 지지하는 이 선언문은 현재 전 세계 개인 및 단체의 서명을 기다리고 있습니다. 또한 이 내용은 다음 달 필라델피아에서 열리는 국제수학자대회 (International Congress of Mathematicians)에서도 논의될 예정이며, 이는 정부들 또한 AI 시스템의 발전에 더 큰 관심을 갖기 시작하는 시점에 이루어집니다. 예를 들어, 오늘 도널드 트럼프 (Donald Trump) 대통령은 연방 공무원들이 가장 유능한 AI 모델이 공개되기 전에 미리 접근할 수 있도록 하는 행정 명령에 서명했는데, 이는 부분적으로 기관들이 AI가 초래할 수 있는 보안 위협에 대비할 수 있도록 하기 위함입니다.

Ray Rothrock & family의 지원을 받는 Science의 과학 분야 AI 보도 이니셔티브 (AI in Science Reporting Initiative)입니다.