교황과 다이너모

월요일, 교황 레오 14세(Pope Leo XIV)는 인공지능 (AI)에 관한 42,300단어 분량의 문서를 발표했습니다. 영어 텍스트는 90페이지에 달하며, 그 명칭은 'Magnifica Humanitas'입니다. 그는 서명 날짜를 5월 15일로 정했는데, 이는 노동, 자본, 그리고 산업 혁명에 관한 1891년 회칙인 Rerum Novarum의 135주년 기념일입니다.

AI가 이제 종교 지도자들이 의견을 내야 할 필요성을 느낄 정도의 지점에 도달했다는 사실이 저는 믿기 힘들 정도로 흥ет미롭습니다. 교황은 전쟁에서의 AI를 우려하고 있으며, 실제로 마지막 장은 정의로운 전쟁 (just-war) 전통이 명시적으로 폐기될 만큼 그 부분에 대해 매우 직설적입니다. 하지만 제가 그 문서를 읽어본 결과(여러분이 읽지 않아도 되도록? 하지만 읽어야 할지도?) 제가 얻은 결론은 그게 전부가 아니었습니다.

구체적으로 말하자면, 더 적절한 용어가 없어서 그러는데, '1891년의 문제'가 다시 돌아왔습니다. 가톨릭 교회는 그 문제를 고민할 수 있는 135년이라는 시간을 가졌음에도 불구하고, 당시 내린 답은 지금 내릴 답과 같은 형태를 띠고 있습니다.

1891년의 실제 내용은 무엇이었나

Rerum Novarum은 전력과 증기 구동 제조 기술이 인류 역사상 유례없는 방식으로 생산 수단을 중앙 집중화했던 세상에 발표되었습니다. 과거에는 자신의 도구와 노동의 계절적 가치를 소유했던 노동자가, 이제는 보일러, 직기, 다이너모 (dynamo), 그리고 이 세 가지를 모두 포함하는 건물을 타인이 소유한 공장 현장으로 출근하게 된 것입니다. 1891년의 질문은 "기술이 좋은가"가 아니었습니다. 당시에는 기술 (technology)이라는 개념이 거의 존재하지 않았고, 그저 "더 빨리 일하게" 해주는 "물건들"이었기 때문입니다. 1891년의 질문은 누가 다이너모를 소유하는가, 그리고 개인이 결코 감당할 수 없는 자산에 의해 노동이 매개되는 사회에서 나머지 사회 구성원들이 그 노동자들에게 무엇을 해줘야 하는가에 관한 것이었습니다.

레오 13세 (Leo XIII)의 답변은 구체적이었으며, 당시로서는 반골적인 것이었습니다. 그는 사회주의자들에 맞서 사유 재산을 옹호했고, 자유방임주의 (laissez-faire) 진영에 맞서 노동자 협회를 옹호했으며, 어느 쪽도 인정하고 싶어 하지 않았던 국가의 역할을 강조했습니다. 또한 그는 가족, 교구, 그리고 지역 직업 단체가 모두 기업으로 흡수되거나 파편화된 개인으로 분해되어서는 안 될 고유한 기능을 가지고 있다고 주장했습니다. 그 전통을 보충성의 원리 (subsidiarity)라고 부릅니다. 이 개념은 의사결정이 가장 작고 역량 있는 단위에서 이루어져야 하며, 권한은 더 작은 단위가 업무를 수행할 수 없을 때에만 상위 단계로 이동해야 한다는 것입니다.

모든 것을 컴퓨터 과학 (computer science)으로 연결하려는 것은 아니지만, 보충성의 원리는 우연히도 제대로 작동하는 분산 시스템 (distributed system)을 구축하는 데 핵심적인 부하 분산 (load-balancing) 원리와 맞닿아 있습니다. 의사결정은 데이터가 있는 곳, 맥락 (context)이 있는 곳, 그리고 그 결정의 영향을 받는 사람들이 실제로 살고 있는 곳에서 이루어져야 합니다. 지역에 머물러야 할 권한이 한 단계 위로 밀려 올라가면 아무도 원하지 않는 무언가로 경직되는 경향이 있으며, 일단 권한이 위로 올라가면 무언가를 망가뜨리지 않고서는 다시 아래로 내려올 수 없습니다.

이 지점에서 저는 주의를 기울이고 싶습니다. 왜냐하면 교황을 당신이 이미 점유하고 있는 어떤 입장의 마스코트로 만들기 쉽기 때문입니다. 회칙 (Encyclical)은 'Distributed Thoughts' 블로그 포스트가 아닙니다. 그것은 13억 명의 가톨릭 신자들을 위해 작성된, 제도적 목적을 지닌 도덕적이고 신학적인 문서이며, 트랜스휴머니즘 (Transhumanism)과 배아의 존엄성에 대해 다루는 부분은 제가 요약할 자격이 있는 영역이 아닙니다.

제가 요약할 자격이 있는 부분은 아키텍처 (Architecture) 담론과 연결되는 부분이며, 회칙 자체도 그러한 연결을 권유하고 있습니다. 교황 레오 14세는 "에이전트 (Agents)"에 대해 쓰지 않습니다. 그는 알고리즘 시대의 보충성의 원리 (Subsidiarity)에 대해 씁니다. 그는 "데이터 주권 (Data sovereignty)"이라는 단어를 사용하지 않습니다. 하지만 그는 AI 인프라를 소유한 사람들과 그 인프라에 의해 노동이 점점 더 매개되는 사람들 사이의 비대칭성이, 레오 13세가 1891년에 식별했던 동일한 구조적 문제를 발생시킨다고 약 만 단어에 걸쳐 논증합니다. 그는 그것이 그렇다는 결론을 내리며, 왜 그런지에 대해 한동안 설명을 이어갑니다.

출시 행사에 참석한 사람들

5월 25일에 열린 발표회에는 Anthropic에서 해석 가능성 (interpretability) 연구를 이끌고 있으며 회사의 공동 창립자 중 한 명인 Chris Olah가 참석하여 기자 회견에서 발언을 했습니다. 그의 발언은 대략 다음과 같았습니다. 연구소들은 옳은 일을 하는 것과 충돌할 수 있는 유인 (incentives)과 제약 (constraints) 안에서 운영되며, 이러한 유인 밖에 있는 사람들은 세심한 주의를 기울여야 하고 기꺼이 정직한 비판자가 되어야 한다는 것입니다. 그는 교황이 그러한 비판자 중 한 명이 되어준 것에 대해 감사를 표했습니다. 그는 자신의 팀이 프런티어 모델 (frontier models) 내부에서 발견하고 있는 것들에 대해 "불안한 (unsettling)"이라는 단어를 사용했습니다.

잠시 이 내용을 곱씹어 보십시오. Anthropic은 해석 가능성 (interpretability) 책임자를 로마로 보내 교황의 곁에 서서 "우리는 우리 자신을 신뢰성 있게 감독할 수 없기 때문에 외부의 감시가 필요합니다"라고 말하게 했습니다. 이에 대해 어떻게 생각하든 간에, 이는 지난 3년 동안 어떤 연구소도 보여주지 못한 가장 신학적으로 소양 있는 행보였습니다. 다른 연구소들도 이를 주목했습니다. Washington Post의 보도는 Anthropic의 등장을 백악관으로부터 의도적으로 멀어지고 바티칸을 향해 정렬 (alignment)하는 모습으로 프레임화했습니다. 이는 의도가 무엇이었든 간에, 현재 이 논쟁의 도덕적 우위가 실제로 어디에 있는지를 가장 명확하게 설명하는 방식입니다.

2026년의 1891년 처방

연구소들은 안전(safety)에 대해서는 매우 기꺼이 이야기하려 합니다. 하지만 다이너모(dynamo)를 누가 소유하는지에 대해서는 매우 꺼려합니다. 교황은 두 번째 질문이 바로 핵심 질문이며, 첫 번째 질문은 그 자체만으로는 아무런 유용한 결과도 얻을 수 없다는 내용의 90페이지 분량의 글을 막 작성했습니다. 여러분은 가능한 한 가장 안전한 모델을 구축할 수 있지만, 시장의 나머지 참여자들은 체결할 수 없는 Glasswing-class contract 하에 11개의 거래 상대방에게 모델을 넘겨줄 수도 있습니다. 그렇게 한다면 진지한 도덕적 프레임워크(moral framework)가 해결하라고 요구했을 질문들 중 그 어떤 것도 해결하지 못한 것이 됩니다. 여러분은 그중 단 하나의 질문에 대한 절반 정도만을 해결했을 뿐입니다.

저는 Magnifica Humanitas의 모든 내용에 동의하는 것은 아닙니다. 그럴 필요도 없습니다. 핵심은 중앙 집중식 인프라(centralized infrastructure)의 물결에 대한 제도적 대응이 형성되고 있다는 점입니다. 향후 10년 동안 가장 일관된 지적 작업을 수행하게 될 프레임워크가 방금 한 70세의 아우구스티누스 학파(Augustinian) 학자에 의해 발표되었으나, 중앙 집중화를 책임지고 있는 사람들은 한 가지 주목할 만한 예외를 제외하고는 이를 읽지 않았습니다.

그들은 읽어야 합니다. 진단은 훌륭합니다. 그 진단은 이미 1891년에도 훌륭했습니다. 처방은 그때와 동일합니다. 즉, 지역적으로 보유되지 않은 권위는 아무도 요청하지 않았고 아무도 떠날 수 없는 무언가로 경직(ossify)되는 경향이 있다는 것입니다. 연구소들은 정확히 그러한 형태의 인프라를 구축했습니다. 전력망 요금은 올라가고 있습니다. 데이터 센터 모라토리엄(moratoriums, 일시 중단)이 확산되고 있습니다. 모델에 의해 작업이 점점 더 매개되는 사람들은 모델에 대해 투표할 수도 없고, 모델을 떠날 수도 없으며, 점점 더 모델이 소비하는 전력을 감당할 여력이 없어지고 있습니다.

결정을 아래로 내려보내십시오. 컴퓨팅(compute)을 아래로 내려보내십시오. 교구(parish)가 볼 수 있을 만큼 다이너모를 가까이 두십시오.

그것이 1891년에 실제로 밝혀낸 것입니다. 교황은 그것을 기억해 낸 유일한 사람입니다.

지능형 데이터 파이프라인(intelligent data pipelines)이 어떻게 AI 비용을 줄일 수 있는지 알고 싶으신가요? Expanso를 확인해보세요. 아니면 하지 마십시오. 제가 감히 당신에게 무엇을 하라고 말할 처지는 아니니까요.

참고: 저는 현재 머신러닝 (Machine Learning)을 위한 데이터 준비 과정에서 발생하는 운영, 컴플라이언스 (Compliance), 그리고 비용 측면의 실제적인 문제들을 바탕으로 책을 집필하고 있습니다. 여러분의 의견을 듣고 싶습니다!

원문은 The Pope and the Dynamo에 게시되었습니다.