교황 레오 14세, AI는 소수의 권력자가 아닌 인류를 위해 봉사해야 한다고 밝혀

바티칸 시티 (RNS) — 교황 레오 14세(Pope Leo XIV)는 월요일(5월 25일) 발표한 첫 회칙(encyclical)에서 빅테크(Big Tech)의 권력을 정면으로 겨냥하며, 인공지능(AI)이 불평등을 심화시키고, 민주주의를 약화시키며, 인간다움의 본질을 훼손할 위험이 있다고 경고했습니다.

“Magnifica Humanitas”(위대한 인류애)라는 제목의 83페이지 분량의 교황 가르침 문서는 AI를 새로운 산업 혁명으로 규정하며, AI를 군사적 및 경제적 이해관계로부터 분리하고, AI 기업들을 더 엄격한 국가 및 국제 규제에 종속시키며, 이 급속히 발전하는 기술의 미래를 형성하는 데 개인과 공동체의 폭넓은 참여를 유도함으로써 “AI를 무장 해제(disarm AI)”할 것을 호소했습니다.

레오 교황은 “AI를 무장 해제한다는 것은 오늘날 단순히 군사적 맥락에 국한되지 않고 경제적, 인지적 현상으로 나타나는 ‘무장된’ 경쟁의 사고방식으로부터 AI를 해방시키는 것을 의미한다”라고 썼습니다. 그는 이어 “무장 해제는 기술을 포기하는 것이 아니라, 기술이 인류를 지배하는 것을 방지하는 것”이라고 덧붙였습니다.

문서에는 “이러한 이유로 단순히 규제하는 것만으로는 불충분하며, AI는 무장 해제되어야 하고, 포용적이며, 접근 가능해야 한다”라고 명시되어 있습니다.

레오 교황은 또한 이 문서에서 빅테크를 비판하며, 소수의 부유한 개인들이 인류의 미래와 생계를 좌우함으로써 “디지털 혁명에 참여할 수 있는 이들과 소외된 채 남겨진 이들 사이”의 격차를 벌리는 위험성을 강조했습니다.

그는 “AI는 이미 경제적 자원, 전문 지식 및 데이터 접근권을 가진 이들의 권력을 증폭시키는 경향이 있다”라고 썼습니다. 또한 “작지만 매우 영향력 있는 집단이 정보와 소비 패턴을 형성하고, 민주적 절차에 영향을 미치며, 경제적 역학을 자신들의 이익에 맞게 조종하여 민족 간의 사회 정의와 연대를 저해할 수 있다”라고 경고했습니다.

레오 교황은 월요일 바티칸 시노드 홀(Synod Hall)에서 이 회칙을 발표하며, 19세기 산업 혁명이 가져온 도전 과제들을 다루기 위해 그의 이름을 딴 교황 레오 13세가 작성했던 1891년 회칙 ‘Rerum Novarum’(새로운 사태에 관하여)을 언급했습니다.

“나는 신앙의 눈과 이성의 명석함, 그리고 신성한 신비에 대한 개방성을 가지고, 가난한 이들의 부르짖음과 지구의 울림을 가슴에 품은 채, 또 다른 거대한 변화를 감독하는 책무를 맡았음을 느낍니다,”라고 레오 교황은 말했습니다. 또한 이 회칙(encyclical)은 미래 세대의 안녕을 깊이 우려하는 과학자와 엔지니어, 정치 지도자와 공직자, 그리고 학부모와 교사들의 목소리에 귀를 기울인 결과라고 덧붙였습니다.

“무장 해제만으로는 충분하지 않습니다. 우리는 건설해야 합니다,”라고 그는 덧붙이며, AI (인공지능)의 프로그래밍, 규제 및 혜택에 대한 폭넓은 참여를 촉구했습니다.

2024년 팟캐스트에 출연 중인 Chris Olah. (비디오 화면 캡처)

교황은 바티칸의 고위 성직자들, 가톨릭 신학자들, 그리고 Claude (클로드)의 개발사로서 안전 지향적이고 윤리적인 브랜드 이미지를 구축하기 위해 노력해 온 미국의 AI (인공지능) 기업 Anthropic (앤스로픽)의 공동 창립자인 Chris Olah와 함께 이 문서를 발표했습니다.

행사에서 연설하며 Olah는 AI (인공지능) 개발이 “상업적 우려, 지정학적 압박, 그리고 자부심과 야망을 언급하며, 때로는 옳은 일을 하는 것과 충돌할 수 있는 일련의 인센티브 (incentives)와 제약 조건 (constraints) 안에서 작동한다”라고 말했습니다.

그는 그러한 이유로 “교황 성하께서 이곳에서 하신 것처럼, 종교 공동체, 시민 사회, 학자, 정부 등 더 많은 세상의 구성원들이 이 문제를 진지하게 받아들이고, 면밀히 살피며, 사건들이 더 나은 방향으로 나아가도록 밀어붙여야 한다”라고 말했습니다.

이 회칙의 핵심은 인간이 인공지능보다 우선시되어야 한다는 주장입니다. 회칙은 인간의 존엄성이 “한 개인의 능력, 부, 사회적 지위나, 그가 내린 옳고 그름의 선택에 달려 있는 것이 아니라,” 단순히 존재한다는 사실 그 자체만으로 부여된다고 주장합니다.

AI 챗봇의 시대에 Leo는 단순히 AI 에이전트(AI agent)와 상호작용하는 누군가가 자신이 사람과 대화하고 있다고 믿게 될 위험뿐만 아니라, 타인을 찾고자 하는 욕구 자체를 상실할 수도 있다는 위험이 있다고 기록했습니다. 또한 의사결정을 기계에 넘기는 것은 “과도한 의존과 기성 답변(ready-made answers)을 찾는 경향을 조장하고, 개인의 창의성과 판단력을 약화시킬 수 있다”고 말했습니다.

문서에서 교황은 AI 혁신이 인간 사회와 환경 보호에 가져올 수 있는 긍정적인 영향력을 인정하면서도, 동시에 그 위험성에 대해 경고합니다. Leo는 “기술은 결코 중립적이지 않다”라고 기록하며, 기술은 그 배후에 있는 이해관계자(stakeholders)와 이익의 표현이라고 덧붙였습니다.

“그러한 권력이 소수의 손에 집중될 때, 그것은 불투명해지고 공적 감시를 피하는 경향이 있으며, 새로운 종속, 배제, 조작 및 불평등을 초래하는 왜곡된 형태의 발전 위험을 증가시킨다”라고 Leo는 기록했습니다.

2026년 5월 6일, 바티칸의 바오로 6세 홀에서 열린 28명의 신임 교황청 스위스 근위대 취임식에 도착한 교황 Leo 14세. (AP Photo/Andrew Medichini)

Leo는 AI 모델에 도덕적, 윤리적 원칙을 적용하는 것이 사회에 혼란을 일으킨 후에 이루어져서는 안 된다고 주장했습니다. 즉, 그러한 가치들은 AI의 구축 단계에서부터 적용되어야 한다는 것입니다. 그는 “AI가 인간의 존엄성을 존중하고 진정으로 공동선(common good)을 위해 봉사하기 위해서는, 시스템을 설계하고 개발하는 사람들부터 구체적인 결정을 위해 시스템을 사용하고 의존하는 사람들에 이르기까지 모든 단계에서 책임이 명확히 정의되어야 한다”라고 기록했습니다.

AI 개발에 대한 규제를 거부하는 경영진들에 맞서, Leo는 “신중함, 엄격한 평가, 그리고 때로는 AI 도입 속도를 늦추는 것을 요구하는 것이 진보에 반대하는 것을 의미하지는 않는다. 대신, 그것은 인류 가족에 대한 책임 있는 돌봄의 실천이다”라고 설명했습니다.

Anthropic과 같이 윤리적 헌법 (ethical constitutions)을 채택한 AI 모델들을 언급하며, 교황은 그러한 프레임워크가 여전히 논의되어야 하며 공유된 사회 정의 (social justice)의 기준에 따라 검토되어야 한다고 말했습니다. 그는 “그 도덕성이 소수에 의해 결정된다면, 더 도덕적인 AI라 할지라도 충분하지 않다”라고 기록했습니다.

또한 이 문서는 실리콘밸리의 대중적인 철학인 트랜스휴머니즘 (transhumanism)과 포스트휴머니즘 (posthumanism)을 다루고 있으며, 교황은 이를 “진보를 인간의 조건을 초월하는 것으로 해석하는” 일련의 가정들이라고 정의했습니다.

레오 교황은 이러한 철학들이 질병, 장애, 노화 및 취약성을 포함한 한계들을 극복해야 할 대상으로 간주한다고 썼으나, “인류는 한계에도 불구하고 번영하는 것이 아니라, 종종 그 한계를 통해 번영한다는 점을 기억해야 한다”라고 말하며, 한계가 없는 삶은 궁극적으로 인간이 아님을 의미할 것이라고 덧붙였습니다.

바티칸 교리부(doctrinal department)를 이끄는 빅토르 마누엘 페르난데스 (Víctor Manuel Fernández)는 문서 발표 현장에서, “인류가 유통기한에 도달했으며 단순히 교체되어야 한다”라고 주장하는 이러한 철학들과 달리, 가톨릭 교리는 “모든 인간은 무한한 존엄성을 가지고 있다”라고 믿는다고 말했습니다.

AI의 위험성을 대조하면서, 레오는 진실을 “민주주의의 필수적인 요소”로 지목하고 사람들에게, 특히 젊은이들에게 AI에 대한 교육을 받을 것을 촉구했습니다. AI가 노동의 부담을 완화해 줄 것을 약속하지만, 레오는 “AI가 노동자를 지원하도록 설계되기보다는, 오히려 노동자들이 기계의 속도와 요구에 적응하도록 강요하는 경우가 빈번하다”라고 경고했습니다.

이 제4차 산업혁명에서 우선순위는 “고용 기회의 보호와 개인의 대체 불가능한 역할”이어야 한다고 레오는 썼습니다.

글로벌 경제적 불평등이 심화됨에 따라, 교황은 “기술적 진보는 필연적으로 구조적 불평등을 초래할 것”이라고 경고했습니다. 레오는 가장 취약한 계층의 부담을 완화하고 더 많은 자원을 가진 이들에게 더 많은 것을 요구하는 조세 시스템을 촉구하는 한편, 혁신의 이익은 투명해야 하며 공동체 전체와 공유되어야 한다고 말했습니다.

교황은 AI 이면에 숨겨진 인간 및 환경 착취의 흔적—저작권이 있는 자료로 학습되는 모델부터 AI 하드웨어에 사용되는 희토류 광물 추출에 이르기까지—을 강조하며 “새로운 형태의 노예제”에 대해 경고했습니다. 또한 레오 14세는 19세기에 이르러서야 레오 13세에 의해 완전히 비난받았던 과거 교회의 노예제에 대한 태도를 되짚어보며, 시간이 흐름에 따라 가톨릭 교리(Catholic doctrine)가 어떻게 서서히 진화해 왔는지를 강조했습니다.

“이를 위해, 교회의 이름으로 진심 어린 용서를 구합니다,”라고 레오는 기록했습니다.

2026년 4월 15일, 11일간의 아프리카 사도 여정 중 셋째 날, 카메룬 야운데에 도착한 교황 레오 14세를 사람들이 맞이하고 있다. (AP Photo/Andrew Medichini)

레오는 신체만을 지배하는 것이 아니라 데이터, 즉 건강 흐름, 역학적 프로필, 유전자 지도 및 인구 통계 데이터를 점유하는 식민주의의 “새로운 얼굴”이 존재한다고 주장했습니다. “이것들은 권력의 새로운 희토류가 되었습니다,”라고 레오는 말하며, 소수의 이익 중심적인 개인이나 집단의 손에 쥐어진 AI 기술은 새로운 형태의 식민 지배를 의미한다고 덧붙였습니다.

“여기에 우리 시대의 가장 시급한 도덕적 과제 중 하나가 있습니다. 바로 공유된 지식이 지배의 도구가 아닌 진정한 공공재 (common good)가 되도록 보장하는 것입니다. 이를 위해서는 개인에게 그들을 설명하는 데이터뿐만 아니라, 그 데이터가 어떻게, 누구에 의해, 누구의 이익을 위해 사용될지를 결정할 수 있는 능력 또한 되돌려주어야 합니다,”라고 그는 썼습니다.

문서의 긴 부분은 교황이 교황 재임 첫해에 반복적으로 비난해 온 전쟁이라는 주제를 다루고 있습니다. 그는 AI의 군사적 사용이 “가장 엄격한 윤리적 제약 (ethical constraints)을 따라야 한다”고 쓰며, 군사적 행동, 특히 치명적인 행동에 대한 책임은 기계가 아닌 인간에게 남아 있어야 한다고 덧붙였습니다.

그는 전쟁의 의사 결정 과정 내에서의 추적 가능성 (traceability), 인간의 감독 (human oversight), 그리고 자동화된 무기의 사용 증가와 그 결과에 대처하기 위한 국제법 제정을 촉구했습니다.

이 문서는 레오 13세(Pope Leo XIII)를 시작으로 역대 교황들의 기여를 바탕으로 하며, 인간의 존엄성과 공동 선 (common good)을 중심에 두고 사회적, 경제적, 정치적 삶에 도덕적 원칙을 적용해 온 교회의 전통인 가톨릭 사회 교리 (Catholic social teaching)를 활용합니다.

연대 (Solidarity)와 이웃에 대한 돌봄은 레오 교황의 성찰에서 핵심적인 측면이며, 특히 다음 세대에 대한 특별한 관심을 담고 있습니다.

레오 교황은 사회 정의 (Social justice)가 "단순히 자원의 더 공정한 분배나 현재의 불의를 바로잡는 것에 그치지 않고, 회복적 차원 (restorative dimension)을 전제한다"라고 기록했습니다. 동일한 원칙을 디지털 영역에 적용하며, 교황은 침해적인 감시, 기본 기술에 대한 접근이 거부된 공동체, 그리고 차별을 영속화하는 불투명한 알고리즘 (opaque algorithms)으로 인해 피해를 입는 집단과 같은 "새로운 형태의 배제와 자유의 박탈"에 대해 경고했습니다.

이러한 맥락에서 그는 또한 이주 (migration)를 "오늘날 사회 정의의 리트머스 시험지 (litmus test)"라고 언급했습니다.

서론에서 레오 교황은 성경을 인용하여, 권력과 자급자족을 추구하는 바벨탑 (city of Babel)과 기도 및 가족과 공동체의 참여를 지향하는 느헤미야 (Nehemiah)의 예루살렘 재건을 병치합니다. 이는 권력과 지배의 개념을 중심으로 구조화된 지상의 도시에 대한 사랑과 하나님의 천상 도시를 향한 갈망을 대조하는, 성 아우구스티누스 (St. Augustine)의 원칙에 기초하여 설립된 교황의 수도회 가르침을 반영합니다.

그는 "역사 내내 그러했듯, 이 두 가지 사랑은 오늘날에도 우리 마음속에서 지배력을 얻기 위해 계속해서 다투고 있습니다. AI 시대도 예외는 아닙니다. 바벨을 건설할 것인지 아니면 예루살렘을 재건할 것인지는 우리 각자의 내면에서 시작됩니다"라고 썼습니다.

이 문서는 이미 가톨릭 신자들과 기술 전문가들로부터 강력한 지지를 받고 있습니다.

산타클라라 대학교(Santa Clara University) 마카큘 응용 윤리 센터(Markkula Center for Applied Ethics)의 기술 윤리 책임자인 브라이언 패트릭 그린 (Brian Patrick Green)은 "이것은 세계가 새로운 기술을 바라보고 그것이 무엇을 위한 것인지 진정으로 고민해 볼 수 있는 획기적인 기회입니다"라고 말했습니다.

“이 기술의 목적은 무엇입니까? 이 기술이 세상에서 무엇을 해야 합니까? 어떻게 사람들을 도울 수 있습니까? 이 기술이 세상의 가장 많은 사람들을 위해 최선의 역할을 수행할 수 있도록 하기 위해 우리는 무엇을 해야 합니까?”

이 기사는 업데이트될 예정입니다.