AI에 대해 이야기해 봅시다. 하지만 다른 관점에서 말이죠.

제가 보지 못하고 있는 AI에 관한 대화가 하나 있습니다. 일상적인 솔직한 토론, 도구가 업무에 미치는 실제적인 영향, 시스템 아키텍처(Architecture)에서 무엇이 변하고 무엇이 변하지 않는지에 대해서는 저 나름의 인지와 형성된 의견이 있습니다. 하지만 이 모든 것은 아래층에서 일어나는 일입니다. 제가 분명히 존재한다고 느꼈지만 결코 틀에 맞춰 정의할 수 없었던 위층이 하나 있습니다.

작년에 Varoufakis의 _Technofeudalism_을 읽었고, 그 이후로 그 내용이 머릿속 한구석에서 계속 맴돌았습니다. 즉각적으로 결론이 나지는 않지만 숙취처럼 여운이 남는 그런 독서 말입니다. 어느 날 새벽, 불면증으로 X(구 트위터)를 배회하다가 교황 레오 14세가 막 발표한 교황 회칙 Magnifica Humanitas에 관한 스레드를 우연히 발견했습니다. 저는 비실천적 가톨릭 신자이며, 아마도 그렇기 때문에 현재의 교황이 AI에 대해 무엇을 말하고 있는지 단순히 성당 안의 대화로 치부하지 않고 확인하고 싶었을 것입니다. 저는 곧바로 텍스트를 읽었고, 교황의 글은 마침내 제가 다른 시각으로 그리스(Greek)를 다시 바라보게 만들었습니다.

두 저자 모두 각자의 방식으로 불편하고 편향적이지만, 함께 모였을 때 이름 붙일 수 없어 저를 괴롭히던 무언가를 설명해 줍니다.

그 실타래를 한번 풀어보려 합니다.

메커니즘: Varoufakis가 본 것

Varoufakis의 논지는 우리가 배워온 방식의 자본주의는 죽었다는 것입니다. 혁명으로 끝난 것도, 사회주의로 대체된 것도 아닙니다. 다른 무언가로 변했습니다. 그는 이를 테크노봉건주의(Technofeudalism)라고 부르는데, 이는 주요 이윤이 더 이상 시장에서 오는 것이 아니라 지대(Rent)에서 발생하는 구조를 의미합니다. 봉건적 의미에서의 지대, 즉 토지 소유주에게 지불하는 통행료와 같은 것입니다. 차이점은 이제 토지가 디지털이라는 점입니다. Amazon은 시장이 아니라 봉건 영지(Feud)입니다. Google Search는 시장이 아니라 봉건 영지입니다. 판매하고 싶거나, 광고하고 싶거나, 존재하고 싶은 이들은 플랫폼 소유주에게 조공을 바칩니다. 그리고 그의 모델에서 사용자들은 cloud serfs, 즉 무료로 가치(데이터, 콘텐츠, 모델 학습)를 생산하여 영주에게 돌려주는 '클라우드 농노'입니다.

그 메커니즘에 대한 설명이 중요하며, 그것이 어떤 정치적 어조로 포장되어 있는지는 중요하지 않습니다. Varoufakis는 클라우드 자본 (cloud capital)이 고전적인 시장 논리에 따라 작동하지 않는다고 말하고 있습니다. 왜냐하면 '시장'이 플랫폼으로 대체되었고, 그 플랫폼은 영주의 사유 재산이기 때문입니다. 봉토 (feudo) 내부에는 진정한 의미의 경쟁이 존재하지 않습니다. 그리고 전통적으로 자본을 규제할 수 있는 상대역이었던 국가는, 클라우드 자본 자체를 부양한 완화적 통화 정책으로 인해 2008년 이후 금융적으로 포섭되었습니다. 그 결과, 규제 기관의 밑으로는 빠져나가고 소비자 위로는 군림하는 형태의 경제적 권력이 탄생했습니다.

이것은 금융 자본주의에 대한 오래된 비판이 아닙니다. Varoufaks는 게임의 강도가 아니라 성격이 변했다고 말하고 있습니다. 그리고 그의 체계 안에서 AI는 인지적 능력 (cognitive capacity)을 에워싸는, 차세대 울타리 (enclosure)입니다.

인류학: 회칙이 목격한 것

회칙 (encíclica) 또한 다른 측면에서 동일한 영역에 도달합니다. Leo XIV는 과거에는 국가가 거대한 혁신을 주도했으나, 오늘날 그 동력은 많은 정부보다 더 큰 자원과 영향력을 가진, 종종 초국가적인 민간 행위자들임을 명시적으로 기술합니다. 이러한 권력에 대한 진단은 Varoufakis의 진단과 유사합니다. 회칙이 추가하는 것, 그리고 그 어떤 경제학 텍스트도 제공할 수 없는 것은, 위협받고 있는 대상에 대한 구체적인 방어입니다.

교회의 사회 교리(Social Doctrine of the Church)는 존재론적 존엄성(ontological dignity)과 생산적 존엄성(productive dignity)을 구분합니다. 전자는 당신이 존재한다는 사실만으로 가치가 있다는 것이며, 후자는 당신이 무엇을 제공하느냐에 따라 가치가 있다는 것입니다. 사회가 이 두 가지를 모두 지탱할 의지가 있는 동안에는 이 두 개념이 마찰 없이 공존하지만, 기술적 인프라가 선택을 강요할 때 먼저 무너지는 것은 존재론적 존엄성입니다. 점수 시스템(Score system), 알고리즘 랭킹(algorithmic ranking), 선택적 자동화(selective automation) 등은 모두 가치가 효용(utility)의 함수라고 가정하며 작동합니다. 회칙은 이를 정면으로 공격하며, 인간의 취약성이 기술을 통해 수정해야 할 결함이라는 생각인 트랜스휴머니즘(transhumanism) 또한 공격합니다. 회칙의 관점에서 유한성(finitude)은 버그(bug)가 아니라, 우리가 방어하고자 하는 것의 구성적 특성입니다.

Varoufakis가 강력하게 파고드는 지점에서 회칙은 약해지고, 그 반대도 마찬가지입니다. Varoufakis는 가치가 어떻게 추출되고 있는지를 설명합니다. 회칙은 우리가 무엇을 박탈당하고 있는지를 설명합니다. 이 둘은 함께 읽어야 합니다. 인류학적 측면이 없다면 경제적 논증은 단순한 분배에 대한 불만으로 전락하고, 경제적 측면이 없다면 인류학적 논증은 메커니즘 없는 탄식에 불과하기 때문입니다.

내가 현장에서 인지하는 평행 이론

나는 금융 시장을 위한 인프라(infrastructure) 분야에서 일합니다. 나는 매일 자본의 흐름을 중개하고 그 안에서 스프레드(spread)를 징수하는 기계의 일부를 구축합니다. 나는 테크노 봉건주의(technofeudalism)의 패턴을 볼 때 그것을 알아차리는데, 왜냐하면 그것은 내가 구축하는 것의 사촌 격이기 때문입니다. 하지만 주의 깊게 살펴볼 만한 두 사촌 사이의 차이점이 있으며, 이는 왜 이 새로운 체제가 이전의 체제보다 더 나쁜지를 설명하는 데 도움이 됩니다.

금융 시장은 이미 존재하던 자본을 중개합니다. 은행은 돈을 창조한 것이 아니라, 서비스를 제공하는 대가로 수수료를 받으며 자본을 조직하고 이동시켰습니다. 클라우드 자본 (Cloud Capital)은 다른 방식을 취했습니다. 그것은 새로운 투입 요소(API를 통해 확장된 인지 능력)를 창조했으며, 태생부터 그 소유권을 가졌습니다. 이는 기존의 자원을 중개하는 것이 아니라, 이전에는 분산되어 있던 자원(추론 능력)을 포획하여 수익성 있는 제품으로 변환하는 것입니다. 멀티 테넌트 (Multi-tenant) 시스템을 설계해 본 사람이라면 정보 비대칭 (Informational Asymmetry)이 어떻게 구조적 이점 (Structural Advantage)으로 변하는지 이해할 것이며, 이 배열은 정확히 그것이 문명적 규모로 작동하고 있는 모습입니다.

중개하는 것과 창조하여 포획하는 것 사이의 차이는 실질적인 결과를 초래합니다. 금융 시장은 규제 기관이 무엇이 중개되고 있는지, 그리고 흐름이 어디에 있는지를 이해하고 있기 때문에 좋든 나쁘든 규제될 수 있습니다. 반면 클라우드 자본은 규제 기관이 무엇이 포획되고 있는지, 그것이 얼마만큼의 가치가 있는지, 혹은 누가 무엇에 대한 권리를 가져야 하는지조차 아직 알지 못하는 영역에서 작동합니다. 그 결과는 플랫폼 소유자와 상황의 균형을 맞출 수 있는 모든 기관 사이의 거대한 정보 비대칭입니다. 이는 이론이 아닙니다. 유럽의 규제 기관들이 무엇이 "고위험 AI 모델"인지 정의하려다 허우적거리는 동안, Microsoft, Google, OpenAI가 정부와 다년 계약을 협상하는 모습에서 목격되는 현실입니다. 게임은 제도권이 따라잡을 수 없는 규모와 속도로 진행되고 있습니다.

오전 9시, Cursor에 앉아 있는 개발자

이것이 엔지니어로서 저에게 구체적으로 어떤 영향을 미칠까요?

저는 오랫동안 AI가 대체재가 아닌 승수 (Multiplier)라고 주장해 왔습니다. 브룩스 (Brooks)의 관점에서, AI는 우연한 복잡성 (Accidental Complexity)을 공격하고 본질적인 복잡성 (Essential Complexity)은 그대로 유지한다는 것입니다. 병목 현상이 코드를 작성하는 것에서 시스템을 이해하는 것으로 이동했다는 점도 말입니다. 저는 이 모든 것이 여전히 사실이라고 생각합니다. 하지만 이 두 가지 해석은 제가 다루지 못했던 한 층의 레이어를 보게 해주었습니다.

본질적인 복잡성 (Essential complexity)은 여전히 저의 몫입니다. 제가 시스템을 설계할 때, 무엇을 모델링할지 결정할 때, 경계를 어디에 둘지, 테넌트 (Tenants) 간의 컨텍스트를 어떻게 격리할지를 결정할 때, 이것은 여전히 저의 작업이며 AI가 저 대신 해주지 않습니다. 다만, AI가 점점 더 능숙하게 해결하고 있는 우발적 복잡성 (Accidental complexity)이 포위되었습니다. 주인(Owner)이 생겼습니다. 통행료가 생겼습니다. 저는 이 승수 (Multiplier)를 사용하기 위해 매달 비용을 지불합니다. 제 팀이 지불하고, 제 회사가 지불합니다. 그리고 통행료를 징수하는 자는 도구뿐만 아니라, 현재의 속도로 제 업무를 가능하게 만드는 인지적 인프라 (Cognitive infrastructure)의 주인입니다.

한쪽에는 시스템 엔지니어, 다른 한쪽에는 AI 운영자가 있는 고전적인 분기점은 이런 관점에서 새로운 레이어를 얻게 됩니다. 단순히 한쪽은 대체 가능하고 다른 한쪽은 그렇지 않다는 문제가 아닙니다. 둘 다 동일한 클라우드 자본 (Cloud capital)의 임차인이라는 점입니다. 기술적 판단력을 가진 AI 사용자가 시장이 요구하는 속도로 그 판단력을 발휘할 수 있는 이유는, 인지적 자본 (Cognitive capital)을 소유한 자로부터 인프라를 빌려 쓰기 때문입니다. 우리는 실제 게임이 임대 (Leasing)인 상황에서 대체 (Substitution)에 대해 논하고 있습니다.

제가 답할 수 없는 반론

제 해석에 대한 가장 근본적인 반론은 이것입니다: 만약 현재의 AI가 너무 뛰어나져서 인프라의 소유자가 누구인지와 상관없이 엔지니어를 불필요하게 만든다면 어떻게 될까요? 이 논증에 대해 저는 답할 수 없으며, 할 수 있는 척하지도 않겠습니다. 그럴 수도 있습니다. 어쩌면 이번에는 프로그래밍의 종말에 대한 지난 60년간의 빗나간 예측들의 패턴이 깨질지도 모릅니다. 저는 알 방법이 없으며, 이를 안다고 말하는 사람은 강의나 주식을 팔고 있는 것입니다.

제가 할 수 있는 일은 제가 가진 정보를 바탕으로, 지금 이 자리에서 제가 바라보는 문제의 관점을 제시하는 것입니다. 제가 보는 바는 다음과 같습니다. 이전 세대의 도구들은 안정적인 권력 구조 내에서의 우연한 복잡성 (accidental complexity)을 해결하려 했습니다. CASE 도구는 프로그래머 팀이 같은 건물에 머물던 기업들에게 엔터프라이즈 소프트웨어 공급업체에 의해 판매되었습니다. 수익 구조는 변했지만, 게임의 방식은 동일했습니다. 지금 변하고 있는 것은 단순히 도구의 능력만이 아닙니다. 도구가 전례 없는 권력 구조와 결합되어 나타나고 있다는 점입니다. 저에게 중요한 질적 차이는 토큰 (token)에 있는 것이 아니라, 토큰 공장을 누가 소유하고 있느냐에 있습니다.

따라서 제가 제시하는 것은 이번에는 다르지 않을 것이라는 확신이 아닙니다. 무엇이 달라지고 있는지에 대한 또 다른 해석입니다. 엔지니어가 사라질 수도 있습니다. 하지만 만약 사라진다면, 그것은 도구가 똑똑해졌기 때문이 아니라, 권력 구조가 그 없이 운영하는 것이 더 저렴하다고 결정했기 때문일 것입니다. 이는 서로 다른 원인이며 서로 다른 함의를 갖습니다. 어떤 시나리오가 실현될지는 시간이 말해줄 것입니다. 다만 저는 현재의 공적 담론에서 사용되는 어휘들이 이 두 가지 중 어느 쪽도 제대로 바라보는 데 도움이 되지 않는다고 생각할 뿐입니다.

바벨(Babel)과 오픈 소스(open source)가 말하는 것

이 회칙은 고유한 굴절을 통해 살펴볼 가치가 있는 두 가지 성경적 이미지를 사용합니다. 바벨은 획일화의 프로젝트입니다. 레오 14세는 이를 신학적 은유로 사용했지만, 엔지니어로서 저는 이를 아키텍처 (architecture)의 관점에서 읽습니다. 현재의 AI는 산업계가 목격한 가장 공격적인 기술적 단일 재배 (monoculture)입니다. 지배적인 아키텍처 (transformer), 프런티어 모델 (frontier models)을 보유한 3~4개의 연구소, 동일한 스케일링 (scaling) 패러다임, 동일한 벤치마크 (benchmarks), 동일한 방향성. 산업 전체가 이 정도로 수렴할 때, 역사는 그 결과가 강건함이 아니라 시스템적 취약성 (systemic fragility)임을 보여줍니다. 메인프레임 대 PC, 모놀리스 (monolith) 대 마이크로서비스 (microservices), 방송 대 스트리밍, 이 모든 전환은 이전의 단일 재배가 고갈되었을 때 시작되었습니다.

또 다른 이미지는 예루살렘의 성벽을 재건하는 느헤미야입니다. 그는 유배에서 돌아와 폐허가 된 도시를 목격했을 때, 위에서부터 해결책을 강요하는 대신 성벽의 구역을 가족, 집단, 직업군별로 나누어 배분했습니다. 각자가 자신의 구역을 돌보았고, 전체는 그 조정(coordination)을 통해 나타났습니다. 기술적인 관점에서 이는 분산된 하드웨어 (distributed hardware)에서 실행되는 전문화된 모델들의 연합 (federation of specialized models)을 설명하며, 검사 가능한 가중치 (inspectable weights)와 다원적 거버넌스 (plural governance)를 수반합니다. 이것은 유토피아가 아니라, 오픈 소스 (open source)가 이미 나아가고 있는 방향입니다.

중국 모델들, 로컬에서 실행되는 소형 모델들, 특화된 변체(variants)들은 틈새 시장이 아닙니다. 이것은 현재 구축되고 있는 기술 봉건주의 (technofeudalism)로부터 벗어날 수 있는 유일하게 가시적인 전략입니다. 토큰 (token) 가격이 0에 가까워질 때 — 그리고 반드시 그렇게 될 것입니다 — 경쟁 우위는 언제나 그랬듯 판단력, 맥락, 그리고 누구에게도 외주를 줄 수 없는 도메인 이해력 (understanding of domain)의 영역으로 돌아올 것입니다. 하지만 이것이 단순한 약속이 아닌 실제적인 탈출구가 되려면, 인지적 인프라 (cognitive infrastructure)가 다원적이어야 합니다. 당신이 제어하는 하드웨어에서, 당신이 운영하는 네트워크에서, 당신이 검사할 수 있는 가중치로 실행되는 모델들이 필요합니다. 그렇지 않다면 그것은 단지 봉건 영주를 다른 영주로 교체하는 것에 불과할 것입니다.

이것이 나를 어디로 이끄는가

AI는 여전히 내 업무의 실질적인 승수 (multiplier)입니다. 브룩스 (Brooks)는 본질적 복잡성 (essential complexity)에 대해 여전히 옳습니다. 직업은 사라지는 대신 더욱 정제되고 있습니다. 이와 관련하여 내가 항상 주장해 온 모든 것들은 여전히 유효합니다.

변화하는 것은 내가 바라보는 지점입니다. 나는 내 책상 수준에서의 도구를 바라보고 있었습니다. 하지만 바루파키스 (Varoufakis)와 레오 14세 (Leão XIV)는 각자의 방식으로 내가 그 윗단계, 즉 도구를 가능하게 만드는 인프라의 소유자가 누구인지, 그리고 그것이 내가 당연하게 여겨왔던 기관들에 어떤 영향을 미치는지 바라보도록 강요했습니다.

그래서 저는 확신이 아닌 의견을 가지고 있습니다. 저는 오픈 소스 (open source)가 엔지니어를 타인의 인지 자본 (cognitive capital)의 세입자가 아닌, 엔지니어로서 유지할 수 있는 유일한 도박이라고 생각합니다. 도메인 컨텍스트 (domain context, 즉 사람의 머릿속에 존재하며 시스템에는 거의 존재하지 않는 것)는 클라우드 자본 (cloud capital)이 포위할 수 없는 유일한 것이기에, 바로 그 점 때문에 가장 가치 있는 자산이 될 것이라고 생각합니다. 그리고 이 대화는 문제를 해결책으로 팔고 있는 기업들의 마케팅 어휘로 이루어지는 것을 멈춰야 한다고 생각합니다.