교황 Leo XIV의 AI에 관한 회칙에 관한 노트

교황 Leo XIV의 AI에 관한 회칙에 관한 노트

2026년 5월 25일

오늘 아침 바티칸에서 발표되었습니다: 인공지능 시대에 인간의 존엄성을 수호함에 관한 교황 Leo XIV 성하의 회칙, Magnifica Humanitas. 이것은 매우 흥미로운 문서입니다. AI를 현대 사회에 통합하는 윤리에 대해 제가 본 글 중 가장 명확한 글 중 하나입니다.

교황 Leo XIV는 1891년

첫째, 이러한 시스템들이 발전하는 놀라운 속도를 고려할 때, AI에 관한 그 어떤 진술도 빠르게 구식이 되어버립니다. 둘째, 이를 설계하는 사람들을 포함한 우리 모두는 AI의 실제 작동 방식에 대해 제한적인 이해만을 가지고 있습니다. 실제로,

현재의 AI 시스템은 '만들어진(built)' 것이라기보다 '경작된(cultivated)' 것에 가깝습니다. 개발자들이 모든 세부 사항을 직접 설계하는 것이 아니라, 지능이 '성장'할 수 있는 프레임워크를 생성하기 때문입니다. 그 결과, 이러한 시스템의 내부 표현(internal representations) 및 계산 과정(computational processes)과 같은 근본적인 과학적 측면들은 현재로서는 미지의 영역으로 남아 있습니다.

저는 발전(development)과 존엄성(dignity) 사이의 관계를 설명한 제83절의 내용이 마음에 들었습니다:

개인뿐만 아니라 국가에게도 발전은 의무이자 권리입니다. 모든 개인과 민족이 의존 상태에 머물거나 필수적인 재화에 대한 접근에서 배제되지 않고, 그들의 존엄성에 따라 번영할 수 있도록 하기 위해서는 최소한의 조건이 필요합니다. 발전이 부의 축적이 아닌 사람을 중심에 두고, 개인뿐만 아니라 민족을 고려할 때 비로소 진정으로 인간적입니다. 정의는 사회의 권리와 민족의 권리를 인정할 것을 요구하며, 미래 세대에 대한 책임을 포함합니다.

만약 발전이 일부의 소비를 늘리는 동시에 비용과 부담을 타인에게 전가하거나, 특정 지역 전체를 종속적인 역할로 격하시켜 그들이 잠재력을 온전히 실현하는 것을 방해한다면, 그것은 진정으로 인간적인 발전이라고 할 수 없습니다.

문화적 편향(cultural biases)과 아첨(sycophancy)에 대한 언급은 제100절에 나옵니다:

개인적 사용에 있어서는 특히 세 가지 측면을 주의 깊게 고려해야 합니다: 결과물을 얻는 용이성, 객관성이라는 인상, 그리고 인간적 소통의 시뮬레이션(simulation)입니다. 정보, 복잡한 분석, 미디어 콘텐츠 및 실질적인 도움에 접근할 수 있는 속도와 간편함은 의심할 여지 없이 삶을 더 편리하게 만들어 줍니다. 그러나 이는 과도한 의존과 기성 답변(ready-made answers)을 찾는 경향을 조장할 수 있으며, 개인의 창의성과 판단력을 약화시킬 수 있습니다.

이러한 시스템이 제공하는 응답과 제안의 외견상 객관성은, 그것들이 설계되고 훈련된 이들의 문화적 가정(cultural assumptions)을 반영하고 있으며 그에 따른 강점과 한계를 모두 지니고 있다는 사실을 간과하게 만들 수 있습니다. 조언, 공감, 우정, 심지어 사랑과 같은 긍정적인 인간적 소통을 인위적으로 모방하는 것은 매력적이며 때로는 진정으로 도움이 될 수도 있습니다. 하지만 식별력이 낮은 사용자들에게는 실제 인격적 주체와 관계를 맺고 있다는 환상을 만들어내어 오해를 불러일으킬 수 있습니다. 말이 시뮬레이션될 때, 그것은 진정한 관계를 구축하는 것이 아니라 단지 관계의 외양만을 구축할 뿐입니다. 배려나 지지를 인위적으로 모방하는 것은 실제 관계와 정서적 유대가 결여된 맥락에 들어설 때 특히 위험해질 수 있습니다.

101절은 환경적 영향에 대해 다룹니다:

현재의 AI 시스템은 막대한 양의 에너지와 물을 필요로 하여 이산화탄소 배출에 상당한 영향을 미치며, 천연자원에 큰 부담을 줍니다.

시스템의 복잡성이 증가함에 따라, 특히 거대 언어 모델(large language models)의 경우, 컴퓨팅 파워와 저장 용량에 대한 필요성도 커지며, 이는 기계, 케이블, 데이터 센터 및 에너지 집약적인 인프라의 광범위한 네트워크를 요구합니다. 이러한 이유로, 환경적 영향을 줄이고 우리의 공동의 집(common home)을 보호하는 데 도움이 되는 더 지속 가능한 기술적 솔루션을 개발하는 것이 필수적입니다.

102절은 알고리즘 시스템이 "자비, 긍휼, 용서" 없이 사람들의 삶에 영향을 미치는 결정을 내릴 때 발생하는 위험을 다룹니다:

AI (인공지능)의 사용은 결코 순수하게 기술적인 문제만이 아닙니다:

AI가 사람들의 삶에 영향을 미치는 프로세스에 진입할 때, 그것은 권리, 기회, 지위 및 자유와 맞닿게 됩니다. 고용, 신용, 공공 서비스에 대한 접근성 또는 개인의 평판과 관련된 중요하고 민감한 결정들이 “자비, 긍휼, 용서, 그리고 무엇보다도 사람들이 변화할 수 있다는 희망”을 알지 못하는 자동화된 시스템에 완전히 위임될 위험이 있으며, 이로 인해 새로운 형태의 배제가 발생할 수 있습니다.

105절은 이러한 시스템이 적용되는 방식에 있어 인간의 책임성 (accountability)의 필요성을 강조합니다:

AI가 인간의 존엄성을 존중하고 진정으로 공동 선 (common good)에 기여하기 위해서는, 모든 단계에서 책임이 명확하게 정의되어야 합니다:

이러한 시스템을 설계하고 개발하는 사람들부터, 이를 사용하고 구체적인 결정을 위해 시스템에 의존하는 사람들까지 포함됩니다. 그러나 많은 경우, 결과로 이어지는 내부 프로세스가 불투명하게 남아 있어 책임을 할당하고 오류를 수정하는 것을 더 어렵게 만듭니다. 바로 이 지점에서 책임성 (accountability)이 매우 중요해집니다. 즉, 누가 결정에 대해 “책임”을 지고, 이를 정당화하며, 모니터링하고, 필요할 때 그 결정에 이의를 제기하며 발생한 피해를 구제해야 하는지를 식별할 수 있는 가능성입니다.

그리고 108절은 AI가 자원을 가진 이들의 권력을 증폭시키는 방식에 대해 다룹니다:

사실, 모든 주요한 기술적 변화와 마찬가지로,

AI는 이미 경제적 자원, 전문 지식 및 데이터 접근성을 보유한 이들의 권력을 증폭시키는 경향이 있습니다. 공동 선과 재화의 보편적 목적 (universal destination of goods)의 관점에서 볼 때, 이는 심각한 우려를 불러일으킵니다. 작지만 매우 영향력 있는 집단이 정보와 소비 패턴을 형성하고, 민주적 절차에 영향을 미치며, 경제적 역학을 자신들의 이익을 위해 조종함으로써 사회 정의와 민족 간의 연대를 저해할 수 있기 때문입니다. 이러한 이유로, 특히 AI가 공공재와 기본권에 영향을 미칠 때, 참여와 보충성의 원리 (subsidiarity)에 기반한 명확한 기준과 효과적인 감독에 의해 AI의 사용이 인도되어야 합니다.

동일한 섹션에서는 데이터를 공공재 (public good)로 간주해야 한다고 명시적으로 언급하고 있습니다:

[...] 또한,

데이터의 소유권은 오직 사적인 손에만 맡겨져서는 안 되며 적절히 규제되어야 합니다. 데이터는 많은 기여자들의 산물이며, 매각되거나 소수의 선택된 이들에게 위탁되는 대상으로 취급되어서는 안 됩니다. 성 요한 바오로 2세 (Saint John Paul II)가 공동재 (collective goods)에 대해 이미 제안했던 것처럼, 참여의 정신에 따라 데이터를 공동의 또는 공유된 자산으로 관리하기 위해서는 창의적인 사고가 필요합니다.

또 다른 2026년 예측의 실패

올해 1월 6일, 저는 Oxide and Friends의 2026년 예측 팟캐스트 에피소드에 참여하여 2026년, 2029년, 그리고 2032년에 대한 예측에 대해 이야기했습니다. 저는 저의 예측을 이곳에 작성했는데, 지나고 보니 그것들은 충분히 야심차지 못했습니다. LLM (Large Language Models)이 좋은 코드를 작성한다는 것은 이미 부정할 수 없는 사실이 되었고, 샌드박싱 (sandboxing) 기술은 엄청난 발전을 이루었으며, 뉴질랜드의 카카포 (kākāpō)는 정말로 훌륭한 번식기를 보냈습니다.

해당 에피소드 중 제가 글에 포함시키지는 않았지만, 가볍게 편집된 녹취록 형태로 여기서 제공하지 않을 수 없는 부분이 하나 있습니다:

Bryan Cantrill:37:13
AI가 스스로에게 실질적인 대중적 인식 문제를 야기했다고 생각합니다. 그리고 올해 프런티어 모델 (frontier model) 기업 중 한 곳이 AI의 확산이 어떻게 모두의 번영을 의미하는지를 설명하는 백서 (white paper)를 발표할 것이라고 생각합니다. 그들은 일종의 경제적 논거를 만들려고 시도할 것입니다. 왜냐하면 이것은 2026년 선거 이슈가 될 것이기 때문입니다. 우리가 이러한 것들을 어떻게 생각하고 어떻게 규제할 것인가에 대한 문제는 매우 혼란스럽습니다. 이 논쟁에는 통찰 (light)보다 논란 (heat)이 더 많습니다.

Simon Willison:38:05
그 말에 덧붙이고 싶은 것이 있습니다. 그것은 그들이 기존의 신뢰할 수 있는 전문가들을 통해 그 내용을 세탁할 수 있을 때만 가능할 것이라고 생각합니다. Sam Altman과 Dario는 이 문제에 대해 끊임없이 에세이를 발표하고 있지만, 아무도 그들이 하는 말을 한 마디도 믿지 않습니다. 만약 이러한 입장 표명서 중 하나에 Barack Obama의 서명을 받을 수 있다면,

어쩌면 사람들이 조금씩 신뢰하기 시작할 만한 무언가를 얻게 될지도 모릅니다.

Adam Leventhal:38:27그렇지 않으면, 그건 마치 Exxon이 "유연 휘발유가 몸에 좋습니다"라고 말하는 것과 다를 바 없습니다.

Bryan Cantrill:38:31제 말은, 네. 세상에. Obama라... 그걸로 가죠. 아주 좋은 예시네요. 만약 Bill Clinton 같은 사람이라면 모두가 눈을 굴리겠지만(비웃겠지만), 이것이 광범위한 기반을 갖게 될 것이라고 말할 때 진정한 신뢰성 (credibility)을 가진 사람이어야 하니까요... 만약 그들이 그런 사람을 섭외한다면, 그것 또한 약간은 부정직한 일이라는 게 드러나게 될 거라고 생각합니다.

Simon Willison:38:57교황은 어때요?

Bryan Cantrill:39:01교황은 이런 분야에 아주 관심이 많죠! 정말 멋진 예측입니다. 대박을 터뜨렸군요. 교황이 LLM (Large Language Models)과 그것이 세계 경제에 미칠 영향에 대해 의견을 내놓다니 말이죠.

Simon, 만약 교황이 이것이 경제적 황폐화를 가져올 것이라고 믿으며 의견을 낸다면, 당신에게 모든 공을 돌리겠습니다.

Leo XIV와 Leo XIII의 관계를 고려하면 제 예측은 훨씬 통찰력이 부족해 보이네요. 에피소드를 녹음할 당시에는 그 사실을 몰랐거든요!