동영상: Claude AI 공동 창립자가 발표한 가까운 미래에 대한 4가지 주요 주장: 분석
채널: AI Explained
길이: 22분 13초
출처: 자막 (자동 생성, 영어)

내용:
완전히 혁신적인 AI가 향후 12년 내에, 혹은 적어도 2030년 이전에는 도착할 것이라는 자신의 믿음에 대해 상당히 일관된 태도를 보여온 AI 연구소 CEO가 있습니다. 2030년조차 50개월도 채 남지 않았다는 사실을 생각하면 기이한 느낌이 듭니다. 어쨌든, 그가 이끄는 연구소인 Anthropic은 최근 Claude Code와 Claude Co-work의 제작자이기도 하며, 당연히 이들을 구동하는 Claude 4.5 Opus 및 Sonic 모델의 제작자이기도 합니다. 저는 CEO인 Dario Amodei가 향후 12년에 대해 독특한 통찰력을 가지고 있다고 느낍니다. 이는 Amodei가 상황이 좋아지든 나빠지든 향후 흐름이 어떻게 될지에 대해 거의 20,000단어에 달하는 에세이를 발표한 지난 48시간의 상황으로 저를 이끕니다. 네, 저는 전통적인 방식으로 그 에세이 전체와 그 안에서 인용된 여러 논문들을 읽었습니다. 그의 지난 에세이인 'Machines of Loving Grace'는 한동안 실리콘밸리의 몰두 대상이 되었습니다. 그래서 저는 여러분이 2026년에 일어날 대화들에 대해 거대한 선점 효과를 가질 수 있도록 돕고자 합니다. 이 영상에서 저는 그가 우리의 가까운 미래에 대해 내놓은 4가지 주요 주장으로 내용을 나누어 분석했습니다. 이러한 예측들은 LLM(Large Language Models)의 어려운 사춘기, 즉 이 기술의 청소년기를 헤쳐 나가는 과정이라는 범주 아래에 있습니다. 첫째, 그는 Claude Code와 같은 도구들이 코드 작성과 같은 개별 작업을 자동화하는 수준을 넘어 소프트웨어 엔지니어링과 같은 직업 범주 전체를 자동화할 것이라고 예측합니다. 그는 또한 법률 및 금융 분야를 언급하며, 최근 Excel에 통합된 기능이 현재는 개별 작업을 도와줄 수 있을지 모르지만, 그는 그것이 당신이 하고 있는 직업 전체를 수행하게 될 것이라고 예견합니다. 이 예측의 근저에 있는 엔진은 스케일링 법칙 (Scaling Laws)의 매끄럽고 단순한 외삽입니다. 그의 표현을 빌리자면, AI 시스템이 우리가 측정할 수 있는 본질적으로 모든 인지적 기술에서 예측 가능하게 더 나아진다는 사실입니다.

더 많은 데이터와 연산 (compute)을 투입하면 AI의 인지 능력은 매끄럽고 굴하지 않는 증가를 보여줍니다. 이는 AI가 한계에 부딪히거나 거품이라는 헤드라인을 무시하고 본질에 집중하라는 그의 메시지입니다. 물론 단기적으로 특정 도구들이 과대평가될 수 있고 특정 기업들이 파산할 수도 있지만, 근본적인 곡선은 강력하고 일관적이며 예측 가능합니다. 그는 핵심적인 주장을 다시 한번 강조하는데, 그것은 바로 이러한 흐름이 개별 작업의 자동화를 넘어 직업 전체의 자동화로 우리를 이끌 것이라는 점입니다. 제가 다른 맥락을 추가하기 전에 그의 논리를 조금 더 들어보겠습니다. 우선, 그는 자신의 저서 'Machines of Love and Grace'에서 이미 이와 유사한 내용을 예측했다고 말합니다. 즉, 강력하고 변혁적인 AI가 불과 12년 내에 도래할 수 있다는 것입니다. 음, 2024년 10월의 그 에세이로 돌아가 보면, 엄밀히 말해 그는 그것이 이르면 2026년에 올 수 있다고 예측했습니다. 따라서 01년 내에 도래할 것이라고 예측한 것에 더 가깝습니다. 이 새로운 에세이에서도 그는 자신의 예측이 약간 뒤로 밀려났다는 사실을 완전히 인정하지 않은 채 이러한 언급을 몇 번 반복합니다. 물론, 모든 예측이 그렇듯 그는 항상 강력한 단서(caveats)를 붙입니다. 그는 Anthropic에서 근무하는 가장 유능한 엔지니어들, 그리고 아마도 가장 높은 급여를 받는 이들 중 일부가 현재 자신의 코딩 작업 거의 전부를 AI에게 넘기고 있다는 놀라운 증거를 인용합니다. 하지만 주의할 점은 그것이 그들의 '코딩'이지, '직업 전체'는 아니라는 점입니다. 그 차이가 무엇일까요? 글쎄요, 저는 거의 매일 Claude Code를 사용하는데, 가장 훌륭한 제안들은 제가 생각해내지 못했을 천재적인 수준입니다. 반면 가장 형편없는 제안들은 당신이 만든 거의 모든 앱을 망가뜨릴 수도 있습니다. 하지만 기억하십시오, 우리가 직면해야 할 두 번째 외삽 (extrapolation)이 있습니다. 그의 생각으로는 단순히 모든 코딩이 이루어지는 단계를 넘어, 소프트웨어 엔지니어링 전체가 수행되는 단계를 지나, 소프트웨어 엔지니어링에서 다른 모든 화이트칼라 직종으로 넘어갈 것이라는 점입니다. 그의 표현을 빌리자면, 그 기본적인 지수적 성장 (exponential)이 계속되는 한, AI가 본질적으로 거의 모든 면에서 인간보다 뛰어나게 되기까지는 불과 몇 년 이상 걸리지 않을 것입니다.

오히려 그는 AI가 AI 연구 업무를 자동화하기 시작함에 따라 지수적 (exponential) 성장이 가속화될 수 있다고 생각합니다. 그는 이것이 피드백 루프 (feedback loop)를 생성할 것이라고 말하는데, 이는 달마다 탄력을 받고 있으며 현재 세대의 AI가 다음 세대의 AI를 자율적으로 구축하는 지점까지 불과 12년밖에 남지 않았을 수도 있습니다. 그는 이 모든 것이 12년 안에 일어날 가능성이 높으며, 그렇지 않더라도 2030년 이전의 향후 몇 년 안에 일어날 가능성이 매우 높다고 말합니다. 기억하십시오, 이것은 매년 10배의 매출 성장을 감독해 온 실험실 리더로부터 나온 이야기입니다. 실리콘 밸리(Silicon Valley)에서조차 그의 규모를 가진 회사에게 이는 전례 없는 성장입니다. 하지만 이 네 가지 예측 중 첫 번째에 대해서는, 제가 두 가지 주의 사항 (caveats)을 덧붙이고 그 후 DemsSarbis가 세 번째를 추가하도록 하겠습니다. 저의 첫 번째 주의 사항은 그가 코딩 (coding) 발전 속도를 약간 과장하고 있다고 생각한다는 점입니다. 예를 들어, 그는 지난 2년 동안 AI 모델이 단 한 줄의 코드도 겨우 완성하던 수준에서 엔지니어와 Anthropic을 포함한 일부 사람들을 위해 코드의 전부 또는 거의 전부를 작성하는 수준으로 발전했다고 말했습니다. 글쎄요, 제가 2022년 11월에 ChatGPT에서 했던 첫 번째 실험 중 하나는 코드를 작성하게 하는 것이었는데, 그것은 제가 정말 놀랍고 멋지다고 느꼈던 소형 피트니스 앱을 만들어냈습니다. 즉, 그것은 단 한 줄의 코드도 작성할 수 있었습니다. 사실, 저는 2022년 11월의 초기 ChatGPT를 보고 코더들이 "세상에, 우리 모두 자동화될 거야"라고 말하던 바이럴 영상들을 기억합니다. 그것이 불과 3, 4년 전의 일입니다. 그리고 코드의 전부 또는 거의 전부를 작성한다는 이 모든 이야기 말입니다. 최근 OpenAI 엔지니어로부터 들은 추정치에 따르면, Claude Code와 크게 다르지 않은 그들의 모델 Codex는 코드의 약 20%를 자동화하고 있다고 합니다. Karpathy에게는 약 80%입니다. 따라서 설령 여러분이 Claude Code와 Anthropic에 집중하더라도, 아마도 100%라기보다는 코드 자동화의 80~90% 정도를 이야기하게 될 것입니다. 저의 두 번째 주의 사항은 소프트웨어 엔지니어링 (software engineering)에서 금융, 컨설팅, 법률 분야의 직업으로의 그러한 외삽 (extrapolation)에 관한 것입니다.

저는 그러한 직업들이 더 어렵다고 말하는 것이 아니라, 피드백 루프 (feedback loops)가 더 길다고 생각합니다. 법률 계약서에서 무언가를 간과하면, 소프트웨어 엔지니어링 (software engineering)의 유닛 테스트 (unit tests)에서 3초 또는 3분 만에 문제가 발생하는 것과 달리, 예를 들어 3년 후에 문제가 되어 돌아올 수 있습니다. 만약 McKinsey나 Bain과 같은 곳을 위한 컨설팅 보고서를 작성하면서 AI 모델이 인원수 (headcount)를 분석할 때 미세한 뉘앙스를 놓친다면, 그 부정적인 파급 효과는 중기적 (medium-term)인 시점이 되어서야 나타날 수도 있습니다. 다시 그 엔진 이야기로 돌아가서, 더 많은 컴퓨팅 자원 (compute), 더 많은 학습 태스크 (training tasks)를 투입하는 것이 AI의 인지 능력 (cognitive capabilities)을 매끄럽게 증가시켜 왔다는 그 스케일링 법칙 (scaling laws)에 대해 말하자면, 그는 현재 이러한 증가가 계속해서 매끄럽게 이어지고 있다고 생각하는 몇 안 되는 AI 연구소 CEO 중 한 명이라고 할 수 있습니다. 그것이 Anthropic이 코딩에 훨씬 더 집중하기 때문인지는 모르겠습니다만, 여기 Google DeepMind의 CEO Demis가 동일한 스케일링 법칙 (scaling laws)에 대해 언급한 내용이 있습니다.

스케일링 법칙 (Scaling laws)은 매우 잘 진행되고 있습니다. 따라서 우리는 더 많은 컴퓨팅 자원 (compute), 더 많은 데이터 (data)를 투입하고 모델을 전반적으로 더 크게 만듦으로써 능력이 향상되는 것을 확실히 목격하고 있습니다. 그러한 추세는 계속되고 있습니다. 음, 몇 년 전만큼 빠르지는 않을 수도 있습니다. 그래서 수익 체감 (diminishing returns)에 대한 이야기가 좀 있습니다. 하지만 수익이 전혀 없는 것과 지수적 (exponential)인 것 사이에는 큰 차이가 있습니다. 제 생각에 우리는 매우 좋은 수익이 발생하고 있으며 그럴 만한 가치가 있는, 그 중간 어디쯤에 와 있는 것 같습니다. 게다가 범용 인공지능 (AGI, artificial general intelligence)에 완전히 도달하는 측면에서 본다면, 기존 아이디어들을 스케일링 (scaling up)하는 것 외에도 여전히 한두 가지의 큰 혁신이 필요할 수도 있고, 어쩌면 누락되어 있을 수도 있습니다.

두 번째 거대 예측 (mega prediction)은 그가 인구의 최대 50%에 달하는 실업자 또는 매우 저임금인 하층 계급 (underclass)이 생겨날 것을 예견한다는 것입니다. 여러분은 영구적인 하층 계급 (underclass)에서 벗어나기 위해 단 몇 달의 시간밖에 남지 않았다는 내용의 수많은 바이럴 게시물들을 Twitter나 X에서 보았을 수도 있고, 보지 못했을 수도 있습니다.

다소 이상하게도, 그는 이것이 지적 능력이 낮은 사람들에게 영향을 미칠 것이라고 생각하며, 이들의 능력을 변화시키는 것이 다른 이들보다 더 어렵다고 말합니다. 솔직히 말해서, 저는 이것이 18세나 20대 청년들에게 전달하기에는 잠재적으로 상당히 독성이 있는 메시지라고 생각합니다. 왜냐하면 그들이 향후 12년 내에 임금을 벌기 위해 모든 것을 서둘러 처리해야 한다는 점을 암시하고 있기 때문입니다. 장기적인 관점은 잊어버리고, 모든 것을 내려놓은 채, 아마도 암호화폐(crypto)에 투자하거나 자신만의 첫 번째 AI 퍼스트 스타트업을 시작하라는 식입니다. 다만, 제가 영구적인 하층 계급(underclass)이 생기는 것이 불가능하다고 말하는 것은 아니라는 점을 유념하십시오. 하지만 이 주제가 나올 때마다 이러한 일종의 건강 주의보를 덧붙이는 것이 우리 모두의 의무라고 생각합니다. 개인적으로 저에게 가장 현명한 방법은 역량(capabilities)의 급격한 도약 가능성을 과소평가하지 않는 것입니다. 실제로 Claude Code나 Claude Co-work와 같은 도구들을 적극적으로 활용하여, 그것들이 얼마나 뛰어난지 그리고 여전히 어떤 실수를 저지르는지를 직접 확인해 보십시오. 하지만 그 임박한 특이점(singularity)에 당신의 미래를 전부 걸지는 마십시오. 왜냐하면 설령 향후 14년 내에 이런 일이 일어날 확률이 1/3이라 할지라도, 일어나지 않을 2/3의 확률은 어떻게 하겠습니까? 다른 모든 사람들이 인지하지 못할 때 특이점이 다가오는 것을 보고 있다고 해서 당신이 남들보다 더 똑똑해지는 것은 아니라고 생각합니다. 다시 말하지만, 저에게 가장 현명한 방법은 이를 하나의 가능성으로 고려하되, 모든 것을 거는 도박은 하지 않는 것입니다. 예상하시겠지만, 저 또한 이 메타 예측(meta prediction)에 두 가지 주의 사항을 더 추가하고 싶습니다. 첫째는, 그가 모든 신입 화이트칼라(white-collar) 일자리의 절반이 대체되는 시점을 향후 15년 이내로 보고 있다는 점에 다시 주목하십시오. 하지만 Axios를 통해 보도된 약 9개월 전 그의 예측 또한 향후 15년이었습니다. 그가 이제 와서 0~4년이라고 말하는 것이 아닙니다. 아마 당신도 눈치챘겠지만, 그는 이 에세이에서 자신의 타임라인에 맞춰 타임라인을 업데이트하지 않은 모습이 두 번이나 나타납니다. 에세이에는 그가 이런 행동을 하는 곳이 한 군데 더 있습니다. 저는 Amade가 혼자가 아니라는 점을 지적하고 싶습니다.

Anthropic의 또 다른 공동 창립자 중 한 명은 지금으로부터 23년 안에 이론 물리학자 (theoretical physicists)들조차 대부분 AI로 대체될 확률이 50%라고 언급했습니다. 그가 바로 Jared Kaplan입니다. 이것이 똑똑한 사람들보다 덜 똑똑한 사람들에게 더 큰 영향을 미친다는 점과 어떻게 정확히 부합하는지는 잘 모르겠지만, 일단 그렇다는 것입니다. 하지만 몇 단락 위에서 언급된 또 다른 연관된 제안은 이것이 1020%의 지속적인 연간 GDP 성장률로 이어질 수 있다는 것입니다. 저는 이 문장에서 그가 사용하는 언어에 대해 언급하지 않을 수 없습니다. 여러분은 아마 제가 기술적인 부분에 집중하기를 원하시겠지만, 이 점을 짚고 넘어가지 않을 수 없습니다. 첫째, 그는 "제안합니다 (I suggest)", 둘째는 "일지도 모릅니다 (may be)", 셋째는 "가능할 수도 있습니다 (possible)"라고 말합니다. 이것은 제가 가능하다고 생각하지 못했던 수준으로 언어를 통해 헤징 (hedging, 위험 회피적 표현)을 하고 있습니다. 그냥 1020%의 성장률이 가능하다고 말하거나, 1020%의 성장률이 발생할 수도 있다고 예측하면 되지 않을까요? 한 가지 주의할 단어는 "확실히 (surely enough)"입니다. 어쨌든, 여러분은 아마 이런 언어적 논의에는 관심이 없으실 겁니다. 그래서 저는 지난 6070년 동안의 실제 수치에 집중하겠습니다. 1960년대 이후의 세계 GDP 성장률 차트입니다. 6%까지 치솟는 모든 스파이크(spikes)를 주목해 보십시오. 하지만 더 규칙적으로는 4% 내외이며, 때로는 2% 또는 심지어 마이너스 성장까지 떨어지기도 합니다. 인터넷 혁명이나 세계화, 무역 장벽의 붕괴, 소프트웨어 또는 스마트폰의 영향이 보이십니까? 이것이 1020%의 성장률이 불가능하다는 것을 단정적으로 말하는 것은 아닙니다. 하지만 Dario Amodei와 같은 과학자라면, 10~20%가 가능할 수도 있다는 것을 시사하기 위해서라도 꽤 설득력 있는 증거를 제시해야 할 것이라고 생각합니다. 참고로, 저의 최근 영상 중 일부는 LLM (대규모 언어 모델)과 관련된 생산성 통계에 대해 더 깊이 있게 다루었습니다. 그는 에세이의 이 부분을 노동에 미칠 영향이 전례 없는 규모의 단기적 충격이 될 것이라는 말로 끝맺습니다. 그가 내놓은 세 번째 거대 예측은 AI가 곧 전체주의적 악몽 (totalitarian nightmares)을 가능하게 할 것이라는 점입니다.

실제로 그는 중국 내에서는 그것이 기본값(default outcome)이 될 수 있다고 생각하지만, 미국에서도 그러한 위험이 있다는 암시를 충분히 주고 있습니다. AI 기반의 대중 감시 (mass surveillance)를 예견하기 위해서 초지능 (super intelligence)을 믿을 필요조차는 없습니다. 저는 제 Patreon에서 이와 동일한 주제인 인공 감시 (artificial surveillance)에 관한 다큐멘터리 전체를 제작하기도 했습니다. 물론 중국만의 문제는 아닙니다. 하지만 그의 시나리오는 한 단계 더 나아가, 완전히 자율적인 무기 (fully autonomous weapons)와 수백만 또는 수십억 대의 완전히 자동화된 무장 드론 군집 (swarms)을 묘사합니다. 이 드론들은 강력한 AI에 의해 국지적으로 제어되며, 훨씬 더 강력한 AI에 의해 전 세계적으로 전략적으로 조정됩니다. 그는 이것이 무적의 군대가 될 수 있다고 말합니다. 또한 그는 이것이 모든 시민을 따라다님으로써 반대 의견 (descent)을 억압할 수도 있다고 덧붙입니다. 예를 들어, 여러분이 WhatsApp이나 다른 암호화된 도구 (encrypted tool)를 사용하고 있다면 안전할 것이라고 생각했다면, 안타까운 소식을 전해드려야겠군요. Pegasus가 배포되었...