AI 생성 수학의 책임 있는 공개에 관하여

책임 있는 AI 생성 수학의 공개

2026년 9월 29일

현재 일부 선도적인 AI 연구소들은 광범위한 과학계가 접근할 수 없는 독점 모델(proprietary models)을 사용하여 고급 수학 문제를 테스트하고 있습니다. 우리의 권고 사항은 이러한 실제적 맥락을 염두에 두고 작성되었습니다. 하지만 이상적으로는 그렇지 않아야 합니다. 우리는 처음부터 분명히 밝히고자 합니다: 우리는 이러한 관행을 지지하지 않으며, 그들에게 독점 모델에서 고급 수학 문제를 테스트하는 것을 중단해 줄 것을 요청합니다.

1. 배경

수학계에는 결과의 전파와 동료 검토(peer review)에 관한 오랜 규범들이 존재해 왔습니다. 이러한 규범들은 수학적 작업의 신뢰성, 신뢰도, 그리고 효과성에 필수적이었습니다. 수학에서 가장 중요한 학문적 규범 중 하나는 논문의 저자가 그 논문의 수학적 주장을 이해하고, 스스로 그 정확성을 검증하며, 내용에 대한 전적인 책임을 져야 한다는 것입니다. 더욱이, 수학계에서는 해당 분야를 크게 발전시킨 작품의 저자들이 다른 기관에서 정기적으로 세미나를 열고 학회에서 발표를 하며, 자신들의 새로운 개발 내용을 설명하고 동료들로부터 질문에 답하는 것이 일반적입니다. 이 모든 것은 수천 년간 인류 발전의 정점 중 하나인, 수학에 대한 가능한 가장 깊은 인간 이해를 발전시키는 방향으로 작용합니다.

하지만 이제는 AI가 프롬프트를 제공한 인간이 그 주장을 이해하거나, 검증하거나, 책임을 질 수 없는 상황에서도 수학적 주장을 출력할 수 있게 되었습니다. 우리는 수학에 대한 인간의 이해가 여전히 가장 중요한 중요성을 가진다고 믿습니다. 이 새로운 시대에, 책임 있는 학문적 결과물(responsible scholarly output)의 일부로서 수학에 대한 인간의 이해를 포함하는 새로운 패러다임으로 어떻게 나아갈 수 있을까요?

AI 연구소들이 수학적 결과를 책임감 있게 공개하는 것이 무엇을 의미할지에 대해 수학계에 피드백을 요청했고, 600개 이상의 답변을 받았습니다. 이러한 응답들을 바탕으로, 우리는 수학에 중대한 영향을 미칠 가능성이 있는 모델을 가진 모든 AI 연구소를 대상으로 하는 일련의 권고안을 마련했으며, 이는 명확한 다수의 응답자들의 지지를 받고 있습니다. 이 권고안들의 근간이 되는 포괄적인 원칙들은 다음과 같습니다.

만약 AI 연구소들이 중요한 수학적 결과를 산출한다면, 본 문서에 개략적으로 설명된 바와 같이 가능한 한 빨리 해당 결과를 책임감 있게 공개해야 합니다.
즉각적인 인간의 이해를 동반하지 않고 상당한 양의 수학적 결과물을 공개하는 AI 연구소는, 이후 인간의 이해가 뒤따르도록 보장할 책임을 져야 합니다. 특히, AI 연구소들은 이러한 이해를 발전시키는 데 도움을 주기 위해 자금 지원을 포함한 상당한 지원을 제공해야 합니다.
인간의 이해 발전은 유기적이고 커뮤니티 주도적으로 이루어져야 하며, 비록 연구소들이 결과를 산출했더라도 AI 연구소에 의해 지시되어서는 안 됩니다.

우리는 섹션 2에서 권고안 자체를 제시하고, 섹션 3에서는 강력한 모델 접근성에 대한 몇 가지 의견을 제시합니다.

2. AI 연구소가 생성한 결과의 책임감 있는 공개

결과물에 동반되는 인간 이해의 수준에 따라 두 가지 가능한 조치 방안을 권장합니다.

2.A. 인간이 이해하는 논문

내용을 완전히 이해하고 책임질 수학자가 있는 논문의 경우, 학계 수학 커뮤니티의 전통적인 규범을 따르는 것이 좋습니다. 해당 수학자(들)는 프리프린트를 게시하고, 저널에 동료 검토를 위해 논문을 제출하며, 다른 수학자들에게 작업을 설명하기 위한 강연을 해야 합니다.

2.B. 아직 아무도 이해하지 못하는 논문

아래 권고 사항은 AI 시스템을 프롬프트한 사람들에게 그 수학적 결과가 이해되지 않는 실험실에 해당합니다. 이 내용은 두 부분으로 나뉩니다. 첫 번째 부분은 AI 생성 수학의 공개를 위한 일련의 기술적 규범(technical norms) 제안입니다. 두 번째 부분은 AI 연구소들이 인간이 자신들의 AI 생성 수학적 결과를 이해하고 흡수하며, 그 가능한 응용 분야를 식별하는 데 필요한 추가적인 수학 활동에 대한 지원을 제공해야 한다는 권고 사항입니다.

1단계: 초기 공개

LLM의 도움으로 AI가 생성한 결과물의 초안(initial written version)을 상당 부분 개선하기는 쉽습니다. 다음 조치들은 수학자들이 나중에 처리할 것이 아니라, AI 연구소들이 수행해야 합니다.

(a) 발표된 결과의 증명에 포함된 아이디어와 관련된 모든 아이디어를 문헌 조사(literature scoured)를 통해 찾아야 합니다. 설령 AI 연구소의 모델이 그러한 아이디어를 독립적으로 발견했더라도, 표준 수학적 관행을 따르고 해당 아이디어가 처음 소개된 논문을 인용해야 합니다.

(b) 그 증명 각각에 대해 전통적인 수학 논문의 관례를 따르는 스타일로 작성된 버전을 생성하도록 모델 또는 다른 모델에게 프롬프트를 제공해야 합니다. 이 버전들은 친근한 서론과 정확한 정리 진술 및 증명을 포함해야 하며, 거의 이해할 수 없게 만드는 장황한 추론이나 비표준 용어로 가득 차서는 안 됩니다.

LLM의 현재 능력으로는 우리가 수학자들에게 기대하는 수준의 출처 표기(attribution)나 설명의 질을 재현하지 못할 수도 있습니다. 따라서 이 표준에 도달하기 위해 발표 이후 수학자들이 더 중요한 작업을 수행해야 할 필요가 있을 수 있으며, 이 경우 2단계에서 설명한 바와 같이 지원되어야 합니다. 하지만 높은 표준에 도달하지 못한다는 사실이 AI 연구소들이 위의 두 가지 지점에 대해 모델을 사용하여 최선을 다해야 하는 책임으로부터 면제된다는 의미는 아닙니다.

결과가 발표될 때는 적절한 학술 저장소에 시의적절하게 예치되어야 합니다. 이 저장소는 어떤 AI 연구소도 통제해서는 안 되며, 제출된 자료가 영구적으로 인용 가능한 식별자(persistent citable identifier)를 가지고 있고 이후 수정 사항이 적절하게 기록됨을 보장해야 합니다. AI로 생성된 결과의 경우, 해당 저장소가 논문에 대한 댓글 기능을 허용한다면 특히 유용할 것입니다.

AI 연구소들은 수학적 결과를 모델 홍보를 위한 마케팅 수단으로 취급하는 것을 삼가해 주기를 강력히 권고합니다. 이러한 관행은 수학계에 상당한 부정적 외부 효과(negative externalities)를 초래한다는 점을 간과해서는 안 됩니다.

결과가 발표될 때마다, AI 연구소는 사용된 모델의 이름, 프롬프트, (요약된) 사고 과정(chain of thought), 소요 시간, 그리고 계산 비용 추정치를 공개해야 합니다. 위 (1)에서 권장한 것처럼, 결과를 생성하는 과학적 과정에 대한 통찰력을 제공하는 초기 LLM 출력물 등 추가 자료를 공개하는 것이 강력히 장려됩니다.
가능한 한, AI 연구소에 의해 발표된 증명은 형식화(formalized)되어야 합니다. 형식화 아티팩트는 저작권 헤더, 비교기용 도전 파일(challenge file for comparator), 그리고 formalization.yaml을 포함하여 커뮤니티 표준을 충족해야 합니다. 자연어 아티팩트와 형식적 아티팩트를 상호 연관시키는 기계 판독 가능 메타데이터를 포함하는 것이 도움이 될 것입니다. 형식화가 용납할 수 없는 지연을 초래하는 경우에는, 해당 논문의 형식화 상태를 명확하게 명시해야 합니다. 예를 들어, 커뮤니티에서 받아들여지는 표준 결과에 대해서는 이미 형식화되었을 수도 있습니다.
문제에 대한 해결책이 공개될 때마다, 해당 특정 문제에 AI가 정확히 어떻게 사용되었는지 명확하게 문서화해야 합니다. 만약 여러 결과가 한 번에 공개된다면, 결과 자체 외에도 모든 공개된 결과를 참조하고 모델들이 시도했지만 해결하지 못한 유사한 난이도의 다른 문제의 개수와 문제가 어떻게 선택되었는지를 설명하는 추가 문서를 작성하여 공개해야 합니다.

2단계: 인간 이해 지원

우리의 원칙 중 하나는 AI 연구소(AI labs)가 자신들이 발표하는 AI 수학적 결과에 대한 인간의 이해 발전을 위한 자금 지원을 포함한 지원을 제공할 책임이 있다는 것입니다. 여기서는 그러한 지원이 무엇에 사용될 수 있는지 더 자세히 설명하지만, 어떤 특정 노력이 지원되어야 하는지에 대한 궁극적인 결정은 이 그룹이나 AI 연구소에서 이루어져서는 안 되며, 자금을 분배하는 프로세스를 이미 확립하고 있는 별도의 기존 비영리 기관에서 이루어져야 합니다. 적절한 수준의 지원 범위는 공개된 AI 결과의 중요성과 복잡성에 따라 달라져야 하는데, 이러한 특징들이 결과에 대한 인간 이해를 지원하는 데 필요한 작업량을 결정하기 때문입니다.

지원될 수 있는 활동의 몇 가지 예시는 다음과 같습니다.

매우 복잡한 증명이나 많은 새로운 연구 방향을 열 수 있는 결과를 가진 경우, 분석과 증명 이해를 위한 학회나 여름 학교가 중요할 수 있으며, 이는 향후 수학적 발전에 적용될 수 있도록 합니다.
다른 결과의 경우에는 보다 목표 지향적인 워크숍이나 장기적인 워킹 그룹이 필요할 수 있습니다. 장기적인 작업을 위해서는 박사 후 연구원(postdocs)이나 학생이 지원하는 경우가 있을 수 있으므로 자금 지원이 필요합니다.
일부 결과의 경우, 전문가들이 책을 쓰거나 긴 설명 기사를 작성하도록 지원하는 것이 유용할 것입니다.

이러한 지원을 수학 공동체가 수용한다고 해서 AI 연구소의 관행에 정당성을 부여하는 것은 아닙니다. 오히려 이는 AI 연구소들이 자신들의 AI 결과물에 대한 인간 이해 발전에 기여할 책임 있는 역할을 수행하도록 적절하게 공헌해 줄 것을 요청하는 것입니다.

3. 광범위한 접근성 보장

AI 연구소들이 독점적인 내부 모델을 사용하여 수학적 연구를 수행하는 것은, 해당 연구소들이 학계의 나머지 부분보다 앞서나가면서 수학 공동체를 그들 자신의 학문 분야로부터 효과적으로 소외시키는 이원화된 시스템을 만들 위험이 있습니다.

공개적으로 이용 가능한 모델에 관해서는, 경제적 및 기타 요인으로 인한 불평등한 접근성이 수학계 전반에 걸쳐 다단계 계층 구조를 형성하고, 제도적 부와 기술적 특권에서 발생하는 기존의 불평등을 크게 악화시킬 위험이 있습니다.

따라서 우리는 AI 연구소들이 글로벌 수학 공동체에게 그들의 공개적으로 이용 가능한 모델에 광범위하고 공평한 접근성을 부여할 것을 권고합니다. 이는 진전을 가속화하는 동시에, 그것에 대한 폭넓은 접근성을 보장하는 방법입니다. 수학은 주로 집단적 검증(collective verification), 개념적 종합(conceptual synthesis), 그리고 공유된 직관을 통해 발전하며, 이 중 어느 것도 최첨단 결과를 생성하는 일부 도구가 소수에게만 접근 가능할 때 번성할 수 없습니다.

1설문조사에서는 OpenAI가 세부 정보를 제공하지 않은 채 많은 결과의 존재를 발표한 특정 상황에 대해 질문했습니다.