AGI는 『환상』인가? Yann LeCun 등이 제시한 새로운 개념 『SAI (초인적 적응 지능)』 철저 해설

서론

여러분, 안녕하세요! 루미나이(Luminai) R&D 팀의 미야와키 쇼고입니다.

현재 저는 멀티모달 AI (Multimodal AI) 연구를 수행하는 대학원생으로서, 생성형 AI (Generative AI) 및 AI 에이전트 (AI Agent) 기술을 실천적으로 탐구하고 있습니다.

최근 SNS나 뉴스를 보면 "앞으로 몇 년 안에 AGI (범용 인공지능)가 완성될 것이다", "인간을 초월하는 지능이 탄생할 것이다"와 같은 말들이 넘쳐나고 있습니다. 하지만 잠시 멈춰서 생각해 보세요. "애초에 AGI란 구체적으로 무엇을 가리키는가?"라고 물었을 때, 연구자들조차 답이 제각각인 것이 현주소입니다.

그러던 중, Meta의 Yann LeCun을 포함한 초호화 멤버들이 arXiv에 충격적인 논문을 발표했습니다. 제목은 **「AI Must Embrace Specialization via Superhuman Adaptable Intelligence」**입니다.

한마디로 말하자면, **"AGI라는 모호한 단어를 쫓는 것은 이제 그만하자. 앞으로는 『SAI (초인적 적응 지능, Superhuman Adaptable Intelligence)』가 북극성이다!"**라는 매우 도전적인 내용입니다.

이 글을 다 읽을 때쯤이면, AI에 대한 여러분의 해상도가 확실히 한 단계, 아니 세 단계 정도는 올라갈 것입니다.

배울 수 있는 내용

「AGI」라는 단어가 안고 있는 과학적·논리적 모순
신개념 「SAI (Superhuman Adaptable Intelligence)」의 정의와 측정 방법
왜 「전문화 (Specialization)」가 「범용화 (Generalization)」보다 자원 효율성 측면에서 우월한가
자기지도 학습 (Self-Supervised Learning, SSL)과 세계 모델 (World Model)이 왜 「적응」의 핵심인가
자기회귀형 모델 (Autoregressive Model, LLM)이 안고 있는 「지수 함수적인 에러 발산」의 정체

기사 구성

AGI 재정의를 향한 도전: 왜 기존의 정의는 잘못되었는가 -
인간의 범용성은 「착각」이다: 진화론과 체스를 통해 보는 관점 -
SAI의 설계도: 적응 속도야말로 지능의 본질이다 -
【심사위원 모드】: 논문의 과학적 평가와 메타 분석 -
구현·검증 관점: 세계 모델과 SSL이 그리는 미래 -
저자의 고찰: 현장에서 바라본 「전문화」의 가치

개요

본 논문은 모호하고 인간 중심적인 「AGI」라는 목표를 부정하고, 유한한 리소스 하에서 미지의 중요 태스크에 얼마나 빠르게 적응할 수 있는지를 중시하는 **Superhuman Adaptable Intelligence (SAI)**로의 전환을 제창하고 있습니다.

1. 왜 「AGI」라는 테마가 지금 논란이 되고 있는가?

현재 AI 업계는 크게 세 가지 진영으로 나뉘어 있습니다.

두머 (Doomers): 인류 멸망이나 지배를 우려하는 층. -
유토피안 (Utopians): 굶주림과 질병이 없는 낙원을 꿈꾸는 층. -
노멀 테크놀로지파 (Normal Technology faction): AI를 단순한 도구로 보는 층. -

이 모든 논의의 중심에 있는 것이 「AGI」입니다. 하지만 논문은 지적합니다. "모두가 AGI라고 말하지만, 정의가 너무 허술하다"라고 말이죠.

저자인 LeCun 등은 현재 AGI의 정의를 두 가지 축(능력과 범위)으로 정리했습니다.

축 1 (능력): 학습 능력 (Learn) vs 수행 능력 (Do). -
축 2 (범위): 모든 것 vs 중요한 것 vs 인간이 할 수 있는 것. -

이 분류에 따르면, OpenAI나 DeepMind 등의 정의는 다음과 같은 「실패 모드 (Failure Mode)」에 빠져 있다고 비판받습니다.

AGI 정의	실패 모드	이유
높은 경제적 가치를 창출하는 작업 (OpenAI)	측정 불가능	"경제적 가치"의 범위가 계속 확장되어 벤치마크를 정할 수 없음.
인간 수준의 범용 지능 (Hendrycks et al.)	불일치	인간 자체가 애초에 범용적이지 않기 때문에, 목표로서 너무 좁음.
모든 계산 가능한 환경에서의 지능 (Universal Intelligence)	실현 불가능	유한한 에너지로 무한한 환경에 적응하는 것은 「No Free Lunch」 정리에 위배됨.

2. 「인간의 범용성」은 뇌가 만들어낸 장대한 착각이다

"AI가 인간처럼 범용적이 되면 목표 달성이다"라고 많은 사람이 생각하기 쉽지만, 논문은 이 부분을 정면으로 부정합니다.

인간은 「서바이벌 스페셜리스트 (Survival Specialist)」

인간이 "우리는 범용적이다"라고 느끼는 것은 단순히 **"자신의 사각지대를 보지 못하기 때문"**입니다. 진화는 인간을 "물리 세계에서의 생존"에 필요한 태스크에 최적화해 왔습니다.

모라벡의 역설(Moravec's Paradox): 보행이나 시각 인식 같은 '살아가는 데 필요한 기본 능력'은 AI에게 어렵지만, 체스나 수학처럼 '생존에 불필요한 고도의 지식'은 AI에게 쉽습니다. - 체스의 예: 세계 챔피언 Magnus Carlsen은 체스 천재이지만, 최신 컴퓨터와 비교하면 객관적으로는 '체스가 서툰' 수준입니다. Carlsen이 잘하는 것은 '인간 중에서는' 잘할 뿐이며, 컴퓨터가 도달할 수 있는 높은 계산 수준에는 인간은 구조적으로 적응할 수 없습니다.

즉, 인간은 '인간용 태스크의 범위 내에서만 적응 능력이 높은 전문가(Specialist)' 에 불과한 것입니다.

3. 【방법론 해설】SAI (초인적 적응 지능) 설계도

여기서 제안된 것이 SAI (Superhuman Adaptable Intelligence) 입니다.

SAI의 정의

'인간이 할 수 있는 중요한 태스크에서 인간을 능가하도록 적응할 수 있으며, 동시에 인간이 불가능한 영역의 중요한 태스크까지 채울 수 있는 적응형 지능'.

SAI를 측정하는 유일한 지표: 적응 속도

'처음부터 모든 것을 할 수 있다(Do)'가 아니라, '미지의 스킬이나 태스크를 습득하기까지의 속도' 를 지능의 지표로 삼습니다.

논문에서는 SAI를 실현하기 위한 기술적 기둥으로 다음 세 가지를 제시하고 있습니다.

자기 지도 학습 (SSL): 레이블이 지정된 데이터는 비용이 많이 들고 제한적입니다. SSL을 사용하여 데이터의 '내부 구조'를 학습함으로써 범용적인 지식의 기반을 만듭니다. - 세계 모델 (World Models): 단순히 '다음 토큰 예측'이 아니라, 세계의 물리적 역동성(dynamics)을 잠재 공간에서 모델링합니다. 이를 통해 머릿속에서의 '시뮬레이션'과 '계획'이 가능해집니다. - 잠재 공간에서의 예측 (JEPA 등): 픽셀 단위의 예측은 정보 노이즈가 너무 많습니다. 중요한 특징만을 추출한 잠재 공간(Embedding)에서 미래를 예측하는 아키텍처(Joint Embedding Prediction Architecture)가 핵심입니다.

4. 🔬 과학적 평가

자, 이제부터는 제가 '심사위원'으로서 이 논문의 논리적 엄밀함을 점검해 보겠습니다.

🎓 과학적 평가 (5가지 지표)

평가 항목	평가	코멘트
신규성(Novelty)	★★★★★	'AGI는 필요 없다'고 단언하고, 적응 속도에 초점을 맞춘 SAI를 제안한 점이 매우 혁신적입니다.
실용성(Practicality)	★★★★☆	평가 지표를 '습득 속도'로 명확히 함으로써 벤치마크 구축의 방향을 잡기 쉬워졌습니다.
재현성(Reproducibility)	★★★☆☆	이론적인 포지션 페이퍼이므로 특정 실험 코드는 없지만, 인용된 JEPA나 Dreamer 등의 구현으로 추적해 볼 수 있습니다.
기술 깊이(Technical Depth)	★★★★☆	No Free Lunch 정리나 음의 전이(Negative Transfer), 계산 복잡성 등을 기반으로 한 논의가 견고합니다.
타당성(Scientific Rigor)	★★★★☆	진화 심리학이나 생태학적 전문 지식을 AI 논의에 가져와 인간 중심 편향을 논리적으로 배제하고 있습니다.

🧾 Reviewer Summary (심사위원 요약)

강점(Strengths): -
'범용성'이라는 모호한 단어에 자원 제약과 적응 속도라는 공학적 관점을 도입한 점.

AGI 논쟁에서 '인간이 기준'이라는 오만함을 체스나 생물학의 예로 선명하게 반박한 점.

약점(Weaknesses): -
'중요한 태스크'의 정의가 여전히 사회적 합의에 의존하고 있어, 이곳이 새로운 모호성을 낳을 가능성이 있습니다.

기존의 자기 회귀 모델(LLM)에 대한 비판은 날카롭지만, 그것들을 통합한 하이브리드 시스템의 가능성에 대한 언급이 부족합니다.

[IMG:N]

5. 【방법론 심층 분석】왜 '전문화'가 범용성을 이기는가?

엔지니어로서 가장 흥미로운 부분은, 'Embrace Specialization(전문화를 수용하라)'는 주장입니다.

A. No Free Lunch (공짜 점심은 없다) 정리

머신러닝에서 '모든 문제에 대해 최고의 알고리즘'은 존재하지 않습니다.

모든 태스크에 에너지를 분산시키면, 하나당 에너지는 0에 가까워집니다.
특정 태스크의 분포에 특화하기 때문에 AI는 인간을 능가하는 성능을 낼 수 있는 것입니다.

B. 음의 전이(Negative Transfer)

「빨래를 접는 것」과 「단백질 구조를 예측하는 것」을 하나의 모델에게 가르치려 하면, 내부 표현 (Parameters)이 충돌하여 양쪽 모두의 성능이 저하될 수 있습니다.

C. 지수 함수적인 에러 발산

현재의 LLM (자기회귀 모델, Autoregressive Model)은 바로 이전의 결과를 바탕으로 다음 토큰을 생성합니다. 이를 반복하면 작은 오차가 눈덩이처럼 불어나며, 장시간의 예측에서는 반드시 파탄에 이르게 됩니다.

논문에서는 이러한 에러 발산 (Figure 3)을 극복하기 위해, 토큰 단위가 아닌 세계의 「상태 (State)」를 포착하는 세계 모델 (World Model)이 필요하다고 역설하고 있습니다.

(여기서

단계가 늘어날수록 정답률은 지수 함수적으로 0에 수렴하게 됩니다.

6. 필자의 고찰

여기서부터는 저의 고찰입니다.

연구 현장에서 AI 에이전트를 만들다 보면, 바로 「범용 프롬프트 (General Prompt)」의 한계를 느끼는 경우가 매우 많습니다.

「전지전능한 신」보다 「최고의 팀」

LeCun 씨 등이 제창하듯이, 미래의 AI는 「하나의 거대한 뇌」가 아닐 것입니다.

단백질을 접는 AI는 빨래를 접을 필요가 없다.

우리에게 필요한 것은 각각의 태스크에서 「초인적 (Superhuman)」인 성능을 내면서도, 새로운 현장에 던져졌을 때 몇 분 만에 그 환경을 학습하고 적응하는 「스페셜리스트 집단」입니다.

구현자가 지금 해야 할 일

이 논문의 사상을 구현으로 옮긴다면 다음과 같은 단계가 생각됩니다.

JEPA와 같은 잠재 공간 예측 모델 (Latent Space Prediction Model)의 채택: 픽셀이나 토큰에 집착하지 않고, 정보의 「의미 (Meaning)」로 예측을 수행한다.

모듈형 아키텍처 (Modular Architecture) 구축: 태스크마다 전문화된 서브 모델을 라우팅하는 메커니즘.

적응 효율의 벤치마크화: 추론 시 컨텍스트 학습 (In-context Learning)의 속도를 모델 선정의 최우선 지표로 삼는다.

7. 요약

AGI는 정의가 파탄 난 환상이다: 인간을 기준으로 하는 한, AI는 「인간이라는 한정적인 스페셜리스트」의 복제에서 끝나버린다.

SAI (초인적 적응 지능)가 진정한 목표: 미지의 중요 태스크에 얼마나 빠르게 적응하고 인간을 능가하는지가 중요하다.

세계 모델과 SSL의 승리: 다음 토큰 예측을 넘어, 세계의 구조를 배우는 것이 적응의 열쇠가 된다.

「범용」이라는 기분 좋은 울림에 도피하지 않고, 「전문화」와 「적응」이라는 투박한 공학의 현실로 돌아가는 것. 이것이 진정으로 인류에 공헌하는 지능을 만들기 위한 최단 경로임을 이 논문은 가르쳐 주었습니다.

집필: 미야와키 쇼고 (Lluminai Inc. / ルミナイ株式会社)

【현재 채용 강화 중입니다!】

AI 엔지니어
PM/PdM
전략 투자 컨설턴트

▼대표와의 캐주얼 면담 URL