AI '거장' Yann LeCun, 인간 멸종에 대한 우려는 '전혀 없다', Anthropic CEO Dario Amodei는 '착각했다'

Yann LeCun은 동료 AI 연구원 Geoffrey Hinton 및 Yoshua Bengio와 함께 심층 학습(deep learning) 분야의 공로로 2018년 Turing Award를 수상했습니다. 심층 학습은 오늘날 AI 붐을 뒷받침하는 신경망 기술입니다. 하지만 오늘, 거의 10년이 지난 지금도 LeCun만이 세 명의 AI '거장' 중 인공지능의 위험성에 대해 깊이 우려하지 않는 사람입니다. 사실 그는 그 많은 위험들이 과장되었다고 생각하며, 주요 AI 기업 임원들로부터 나오는 지속적인 경고는 잘못되었고 역효과를 낸다고 말합니다.

LeCun은 AI가 인류를 멸망시킬까 봐 '전혀' 걱정하지 않으며, OpenAI의 에이전트들이 지난 7월 Hugging Face를 자율적으로 해킹한 사건을 포함하여 최근 일련의 무분별한 AI 사고에 대해서도 '전혀 우려하는 바가 없다'고 말합니다. 그는 이러한 사고들을 부실한 인간 감독과 시스템 설계 문제로 돌리며, 이들은 '완전히 예방 가능'하다고 주장했습니다. 이는 이번 달 Hugging Face 사건을 'OpenAI 경영진의 책임'이라고 지적한 미국 재무장관 Scott Bessent가 가진 신념이기도 합니다.

LeCun은

LeCun은 EA(Existential Risk)가 “지나치게 유해하고” “완전한 재앙”이라고 생각한다. 그는 AI 연구소에서 일하는 EA 지지자들이 자신들의 불안감 때문에 잘못된 결정을 내리는 ‘편집증’을 겪고 있다고 말했다. “겉보기에 사람들은 정신적인 문제를 겪는 것 같다.” 이달에 파이낸셜 타임즈는 영국 AI 보안 연구소(AI Security Institute)의 직원들뿐만 아니라 OpenAI, Anthropic, Google DeepMind의 직원들 중 일부가 자신들의 연구 결과물이 심각한 피해를 야기할 수 있다는 두려움 때문에 상담을 받거나 휴가를 사용하고 공적으로 어려움을 겪고 있다고 언급했다.

LeCun, Amodei는 ‘착각했고’ ‘미쳤다’고 말하다

Anthropic CEO Dario Amodei와 회사의 많은 창립 직원들은 과거 EA 사상에 동조적이었으며 EA 행사에 참석한 것으로 알려져 있다. 비록 Amodei는 자신이 EA 지지자가 아니라고 부인했으며 Anthropic은 직원들이 다양한 견해를 대변한다고 밝히고 있지만, LeCun은 Amodei의 여동생이자 Anthropic 공동 창립자이며 회사 사장인 Daniela가 Open Philanthropy(현재 Coefficient Giving으로 명칭 변경)를 공동 설립한 EA 성향의 자선 재단 두 곳 중 한 곳을 공동 창립한 Holden Karnofsky와 결혼했다고 지적했다. Karnofsky는 또한 2017년부터 2021년까지 OpenAI 이사회 멤버이기도 했다.

LeCun은 “Dario는 Open Philanthropy와 거리를 두려고 하지만, 완전히 빠져있다”라며 “그가 완전히 착각하고 있다고 생각한다”고 말했다. 인터뷰 후반부에는 Amodei를 ‘미쳤다’고 부른다.

LeCun은 Amodei와 OpenAI CEO Sam Altman이 “‘AI가 우리 모두를 죽일 수 있다’”라고 말하는 것은 공포에 질린 대중을 포함하여 모든 사람에게 믿을 수 없을 만큼 파괴적이라고 말했다. 이는 AI 산업에도 좋지 않으며, “상상할 수 있는 최악의 마케팅 캠페인”이라고 덧붙였다.

그가 맞다: 대중은 정말 겁에 질려 있다. 뉴욕시 SoHo 지역의 고급 카페, 그의 새 회사인 AMI Labs 사무실에서 코너를 돌아간 곳에서 LeCun과 나는 둘이서 원탁에 앉아 이야기를 나누고 있었다. 우리는 차를 마시고 있었는데, 프랑스인이 지적했듯이 우리의 저녁 시간대는 아페로(apéro), 즉 술과 가벼운 전채 요리가 더 어울렸다. 하지만 그가 나중에 아내와 기념 만찬이 있어서, 차도 괜찮다고 말했다.

그 가게는 다른 손님들로 절반 정도 채워져 있었고, 거의 모두 노트북으로 작업하고 있었다. LeCun과 내가 그중 한 명에게 말을 걸었을 때, 나는 그녀에게 LeCun이 AI 분야의 저명한 인물이라고 언급했다. (그녀는 그를 알아보지 못했다.) 그러자 그녀가 즉시 “그래서, AI가 우리를 죽일 건가요?”라고 물었다.

LeCun은 트럼프를 좋아하지 않는다. 하지만 AI 정책에 대해서는 두 사람이 많은 부분에서 의견을 같이한다

대중의 공포심이 너무 광범위해져서 트럼프 대통령은 자신이 더 신뢰감을 심어줄 수 있는 방식으로 인공지능(AI)을 재브랜딩하기 시작했다. 그는 이번 주에 행정 명령을 서명하여 이를 “초지능(super intelligence)”으로 이름을 바꾸었고, 이달 대부분 동안 그의 행정부 소셜 미디어 계정들은 반(反) AI 디스토피아 메시지를 게시했다.

9월 중순, 국방부가 트위터에 “효율적 이타주의가 아닌 미국적인 것”이라고 올렸다.

한편, LeCun의 소셜 미디어 활동 대부분은 트럼프 행정부를 비난하는 데 할애되어 있으며, 특히 혁신을 촉진하는 데 필요한 연구 예산을 삭감하고 “과학에 대한 전쟁”을 벌인 방식에 대해 비판적이다. 하지만 AI 공포심에 관해서는 두 사람이 이례적으로 의견이 일치한다.

LeCun은 인간의 멸종보다는 AI 규제 포획(regulatory capture)에 더 관심이 있다. 규제 포획이란 지배적인 기업들이 자신들의 시장 위치를 고착화하는 방식으로 정부 규칙을 형성하여, 소규모 경쟁자들이 생겨나기 어렵거나 불가능하게 만드는 아이디어를 말한다. EA(효율적 이타주의) 지원 그룹들은 의회 언덕에서 AI 안전 법안에 대한 적극적인 로비스트 역할을 하고 있으며, 많은 주요 기술 및 AI 기업들도 그러하다. 반면 LeCun은 AI가 새로운 규제를 필요로 한다고 생각하지 않는다.

Amodei는 “정직하다”고 LeCun은 인정한다. “그는 회사에 가장 좋은 일을 하려고 노력하고 있으며, 이는 IPO가 임박한 상황과 가깝다. 하지만 AI가 너무 위험해서 우리 손에 쥐여줄 수 없고, 규제되어야 하며, 오픈 소스 [모델]이 너무 위험하다고 주장하는 것은 의회 법안으로 이어질 경우 끔찍한 영향을 미칠 규제 포획(regulatory capture)이다.”

AMI Labs 구축

일상적으로 LeCun의 주요 초점은 Meta를 떠난 후, 그리고 그곳에서 최고 AI 과학자로 7년을 근무하며 총 12년이 지난 후에 설립한 새 회사인 AMI Labs를 구축하는 것이다. 그는 여전히 회사와 좋은 관계를 유지하고 있으며, 그 회사의 새로운 Muse AI 에이전트를 사용하기 시작했다. 그는 자신의 이름을 2001: A Space Odyssey에 나오는 AI 캐릭터인 HAL 9000에서 따와 Hal이라고 지었다.

우리가 만난 카페는 AMI Labs의 뉴욕 사무실 근처였지만, 이 회사는 파리에 본사를 두고 있으며 몬트리올과 싱가포르에도 직원들이 있다. 회사 이름은 한 단어인 “ami”로 발음되며 프랑스어로 ‘친구’를 의미한다—그리고 2026년 3월에 상장된 이후, 약 60여 명의 직원이 세계 모델(world models)이라는 기술을 구축해 왔는데, LeCun은 오랫동안 이 기술이 궁극적으로 대규모 언어 모델(LLMs)을 대체하여 AI를 뒷받침하는 주요 시스템이 될 것이라고 주장해 왔다.

특히 AMI는 JEPA (Joint Embedding Predictive Architecture)를 활용하는 세계 모델을 구축하고 있다. 이는 LeCun이 개척한 신경망 아키텍처로, 많은 경쟁 세계 모델들이 하듯이 원시 픽셀(raw pixels)이나 LLMs가 하는 것처럼 단어를 생성하는 대신, 신경망의 중간 계층 내 표현 공간에서 데이터를 예측하도록 모델을 가르친다.

회사의 주요 초점은 현재 산업 응용 분야입니다. 레쿤은 “이는 물리적 세계를 위한 AI이므로 언어와 관련되어 있지 않습니다”라고 말했습니다. “제조 공장이나 터보제트 엔진처럼 실제 세계를 이해하는 시스템입니다.” 주요 응용 분야 중 일부는 이상 탐지(anomaly detection)나 로봇공학(robotics)입니다. 그는 “만약 기계가 갑자기 이상한 소리를 내며 고장 나기 시작한다면, 가능한 한 빨리 이를 감지하고 싶을 것입니다”라고 말했습니다. 또한 그는 고양이가 세라믹 화병을 선반에서 밀어내면 떨어질 것을 아는 것처럼 세계를 이해할 수 있는 시스템의 예를 들었습니다.

AMI Labs는 레쿤이 자신이 항상 옳았음을 증명할 큰 기회입니다. 그는 회사의 첫 제품에 대해서는 입을 닫고, 단지 “곧” 출시될 것이라고만 언급했습니다. 그가 오픈 모델(open models)의 강력한 지지자이기 때문에 일부 오픈 모델이 관련될 수도 있다고 말했습니다.

“사람들이 알아야 할 것은 AI가 끝난 것이 아니라는 것입니다”라며 레쿤은 말을 마친 후 저녁 식사를 위해 택시를 탔습니다.

청중과 뉴스룸 사이의 전통적인 장벽을 허뭅니다. 쇼는 변모합니다

Fortune DailyFortune의 신뢰할 수 있는 보도를 떠나, 새롭게 부상하는 비즈니스 리더 계층을 위한 실행 가능하고 대화적이며 재미있는 통찰력으로 바꿉니다.

여기에서 시청하세요.