MIT의 노벨상 수상 경제학자, AI가 인간의 지식을 파괴할 것이라는 수학적 증명 제시

MIT의 노벨상 수상 경제학자가 AI가 인간의 지식을 파괴할 것이라는 점을 수학적으로 증명했습니다.

그들은 AI가 인간의 인지 (cognition) 능력에 미치는 장기적인 영향을 모델링한 방대한 NBER 논문을 발표했습니다.

그리고 그들은 지금까지의 AI 문헌 중 가장 경고적인 결론을 찾아냈습니다.

그것은 바로 "지식 붕괴 (Knowledge Collapse)"라고 불립니다.

인간의 진보가 실제로 어떻게 작동하는지 설명하겠습니다.

당신이 복잡한 문제를 해결하기 위해 고군분투할 때, 당신은 두 가지를 생성합니다:

세상이 어떻게 돌아가는지에 대한 일반적인 지식 (General knowledge), 그리고 당신의 구체적인 문제에 대한 맥락 특화적 지식 (context-specific knowledge).

보통 인간은 이 두 가지를 동시에 습득합니다. 당신은 구체적인 문제를 해결하기 위해 힘든 작업을 수행하며, 그 과정에서 일반적인 원리를 배웁니다.

당신은 그 원리를 공유합니다. 그것이 인간의 지식이 성장하는 방식입니다.

그다음 에이전틱 AI (Agentic AI)가 등장합니다.

AI는 당신이 지금 당장 필요로 하는 정확하고 맥락 특화적인 정답을 제공하는 데 믿을 수 없을 정도로 뛰어납니다. AI는 해결책을 당신에게 은쟁반에 담긴 음식처럼 떠먹여 줍니다.

그래서 당신은 힘든 작업을 멈추게 됩니다.

그리고 당신이 작업을 멈추기 때문에, 사회가 의존하는 "일반적인 지식 (general knowledge)"의 생성도 멈추게 됩니다.

Acemoglu는 이를 "지식 붕괴 균형 (knowledge-collapse equilibrium)"이라고 부릅니다.

AI가 특정 정확도 임계값 (accuracy threshold)에 도달하면, 인간이 학습하려는 동기는 제로 (0)로 떨어집니다.

아무도 검증하지 않습니다. 아무도 탐구하지 않습니다. 아무도 새로운 근본적 진리를 발견하지 않습니다.

사회는 점점 더 정교한 자동화된 결과물을 얻게 되지만, 새로운 지식을 생성하는 우리의 실제 능력은 조용히 침식됩니다.

하지만 이 논문에서 가장 무서운 발견은 이것입니다.

복지 (Welfare)는 AI 정확도에 대해 "비단조적 (non-monotone)"입니다.

즉, AI가 더 정확해질수록 사회는 실제로 더 나빠진다는 것을 의미합니다.