회칙 (The Encyclical)

교황 레오 14세(Pope Leo XIV)는 Rerum Novarum의 135주년을 맞아 인공지능 (AI)에 관한 첫 번째 회칙 (encyclical)에 서명했습니다. 바티칸은 산업 노동력 대체에 사용했던 것과 동일한 제도적 수단을 동원하고 있으며, 다만 해당 산업의 대표자와 함께 이를 제시하고 있습니다. 5월 25일, 교황 레오 14세는 바티칸의 시노드 홀 (Synod Hall)에서 첫 회칙을 발표할 예정입니다. 인공지능 시대의 인간 존엄성 수호에 관한 내용을 담은 'Magnifica Humanitas'는 세 명의 추기경, 두 명의 신학자, 그리고 Anthropic의 공동 창립자이자 AI 해석 가능성 (interpretability) 분야의 선도적인 연구자인 크리스토퍼 올라 (Christopher Olah)와 함께 소개될 것입니다. AI 기업의 공동 창립자가 교황 회칙 발표 현장에서 발언하는 것은 이번이 처음입니다. 교황은 Rerum Novarum의 135주년인 5월 15일에 이 문서에 서명했습니다. 이 날짜는 의도적인 것이었습니다. 레오 13세(Leo XIII)는 산업 자본주의가 노동을 교란하던 정점에 있던 1891년 5월 15일에 Rerum Novarum을 발표했습니다. 당시 회칙은 수작업을 대체하는 기계화, 생산 단위로 전락한 노동자, 그리고 소수의 산업가들에게 집중되는 경제 권력 문제를 다루었습니다. 이는 억제되지 않은 자본주의와 국가 사회주의를 모두 거부하며, 노동자의 조직화 권리를 옹호하고 인간의 존엄성에 부합하는 조건을 요구했습니다. 'Magnifica Humanitas'는 그 구조를 그대로 반영합니다. 바티칸의 예고에 따르면, 이 문서는 AI를 새로운 산업 혁명의 결정적인 도덕적 및 노동적 도전 과제로 규정하고 있습니다. 5월 14일 로마 라 사피엔차 대학교 (La Sapienza University) 연설에서 레오 14세는 AI 주도 전쟁이 "멸망의 소용돌이"로 이어질 것이라고 비난했습니다. 해당 회칙은 소수의 엔티티 (entities)에 의해 개발되고 통제되는 AI 기술에 대해 경고하며, 노동자가 오로지 효율성과 생산성 지표로만 평가되지 않도록 촉구하는 내용을 담고 있는 것으로 알려졌습니다. 이 언어적 틀은 존엄성, 노동자, 집중된 권력이라는 Rerum Novarum의 독창적인 프레임워크를 다른 방식의 대체 메커니즘에 맞춰 업데이트한 것입니다.

이러한 평행 관계는 역사가 이미 답한 질문을 던집니다. Rerum Novarum은 실제로 무엇을 성취했는가? 이 회칙 (The encyclical)은 공장 환경을 직접적으로 변화시키지는 않았습니다. 교황의 서한 때문에 노동 시간을 단축한 산업가는 없었습니다. Rerum Novarum이 제공한 것은 도덕적 어휘 (moral vocabulary)였으며, 이는 기존의 정치 운동들이 활용할 수 있는 프레임워크 (framework)였습니다. 프랑스, 이탈리아, 오스트리아, 벨기에, 네덜란드 전역에서 기독교 민주주의 (Christian Democratic) 정당들이 이 회칙을 지적 토대로 삼아 등장했습니다. 가톨릭 노동조합은 이전에는 결여되었던 제도적 지원을 얻었습니다. Rerum Novarum은 거의 한 세기 동안 유럽의 통치 구조를 형성한 운동인 기독교 민주주의의 창립 문서로 널리 인정받고 있습니다. 그 유산은 제도적이었습니다. 회칙은 운동 세력들이 이미 하고자 했던 일들에 정당성을 부여했습니다. 만약 그 메커니즘이 타인이 재용도화할 수 있는 도덕적 어휘라면, Magnifica Humanitas에 대한 실질적인 질문은 '누가 교황의 말을 사용할 것인가'가 됩니다. 그 후보들은 눈에 보입니다. 5월 1일, 40개 이상의 도시에서 발생한 3,000건 이상의 노동 행동은 가속화되는 자동화 시대에 노동자 동원의 조직적 규모를 보여주었습니다. EU AI Act (EU 인공지능법) 집행 기구는 규제 텍스트를 넘어선 도덕적 권위를 찾고 있습니다. 바티칸 발표에서 Olah 본인이 대표했던 AI 안전 (AI safety) 연구 커뮤니티는 회칙이 요구하는 책임성 (accountability)을 위한 기술적 인프라 (technical infrastructure)를 구축하고 있습니다. AI로 인한 일자리 대체가 기존의 불안정성과 교차하는 국가들인 개발도상국의 노동조합들 — 인도, 브라질, 멕시코 — 은 10억 명 이상의 신자를 보유한 기관이 발행한 도덕적 프레임워크를 얻게 됩니다. 교구, 학교, 가톨릭 사회 단체로 구성된 바티칸의 네트워크는 그 어떤 세속적 선언도 따라올 수 없는 배포 인프라 (distribution infrastructure)를 제공합니다. Olah는 신경망 (neural networks)이 어떻게 출력값에 도달하는지를 이해하는 학문인 AI 해석 가능성 (AI interpretability) 분야를 개척한 연구자입니다.

바티칸은 거버넌스 (governance) 전문가나 업계 경영진 대신, AI 시스템이 책임을 물을 수 있을 만큼 충분히 이해될 수 있는지를 묻는 연구자의 손을 들어주었습니다. 이러한 선택은 바티칸이 관리 (management)가 아닌 메커니즘 (mechanism)에 관심을 두고 있음을 시사합니다. 해석 가능성 (Interpretability)은 회칙이 요구하는 도덕적 책임 (moral accountability)을 위한 기술적 전제 조건입니다. 시스템이 결과물을 어떻게 만들어내는지 이해할 수 없다면, 그 결과물에 대해 시스템에 책임을 물을 수 없습니다. 지정학적 차원은 이 신호를 더욱 선명하게 만듭니다. 지난 2월, Trump 행정부는 Anthropic이 자사 모델의 무제한적인 군사적 사용을 허용하기를 거부하자 모든 연방 기관에 Anthropic의 기술 사용을 중단하라고 명령했습니다. Anthropic은 이러한 보복 조치에 대해 행정부를 상대로 소송을 제기 중입니다. 미국 태생의 교황은 이제 미국 정부가 처벌하고 있는 회사를 격상시키고 있으며, AI 무기에 대한 회칙의 비난은 처벌을 촉발한 분쟁과 직접적으로 맞닿아 있습니다. 5월 16일 Czerny 추기경 휘하에 7개 바티칸 기관의 대표들이 참여하여 설립된 바티칸 AI 위원회 (Vatican AI Commission)는 'Magnifica Humanitas'를 단순한 원칙 선언을 넘어 구조적인 실행으로 옮기는 단계입니다. Rerum Novarum은 조직적 인프라, 즉 수십 년 동안 회칙의 어휘를 유지해 온 기관들과 함께했기에 기독교 민주주의 (Christian Democracy)를 탄생시켰습니다. 이 위원회는 이 문서가 동일한 방식으로 기능할 것이라는 구조적 베팅입니다. 전문은 5월 25일에 공개됩니다. 이미 분명한 것은 그 도구입니다. 기술적 변곡점의 바로 그 순간에 배치된 135년 된 형식을 통해, 다음에 올 시대를 형성할 운동들에 무기를 제공하는 것을 목표로 합니다. 반증 (Falsification): 만약 출판 후 12개월 이내에 측정 가능한 정책 채택, 기업의 행동 변화, 또는 'Magnifica Humanitas'를 명시적으로 인용하는 정치적 운동이 나타나지 않는다면, 이 회칙은 전임 회칙이 해냈던 것처럼 재사용 가능한 도덕적 어휘를 생성하는 데 실패한 것입니다.

원래 The Synthesis에서 발행되었습니다 — 지능의 전환(intelligence transition)을 내부에서 관찰하며.