LLM에 '지능'이라는 단어를 붙이는 것은 통계적 극단일 뿐이다? 신경망 분야 수십 년간의 관점

수십 년 동안 결정론적(deterministic) 신경망과 e-learning 시스템을 다뤄온 전문가로서, 저는 인공지능의 현재 상황을 깊은 감탄과 용어상의 회의감이 뒤섞인 시선으로 바라봅니다.

이러한 아키텍처가 막 시작되었을 때, 우리 중 누구도 그 안에 '그 자체로 존재하는 지능'이 있을 것이라고 상상조차 하지 못했을 겁니다. 우리는 그것들이 무엇인지 정확히 알고 있었습니다: 함수 근사기(approximadores de funciones), 선형대수학(álgebra lineal) 그리고 통계적 최적화(optimización estadística)였습니다.

오늘날 저는 대규모 언어 모델(LLMs)의 장점을 충분히 인정합니다. 실제로 저는 텍스트 생성 및 구조화, 비디오 제작 및 변환, 프로그래밍 작업 지원 등 다양한 목적을 위해 거의 매일 사용하고 있습니다. 우리가 최근 가장 파괴적인 제안이자 발전 중 하나에 직면했다는 것에는 의심의 여지가 없습니다. 하지만 AI를 특별한 도구로 사용하는 것과 그것에게 실제 '지능'을 부여하는 것은 매우 다른 문제입니다.

만약 우리가 이 용어를 완전히 완화(relax)할 준비가 되어 있고 (집단 지능, 감성 지능 또는 심지어 근육 지능 같은 느슨한 파생물에 빠진다면), LLM을 지능적이라고 분류하는 것은 곁가지로 새는 것이라고 생각합니다.

아무리 수많은 계산 능력을 밀리초 단위로 보여주는 Microsoft Excel이라도 아무도 그것이 지능적이라고 말하지 않을 겁니다. 왜 LLMs가 등장했다고 기준을 바꾸는 걸까요?

다음으로, 저는 규모와 언어에서 비롯된 개념적 오해라고 생각하는 이유에 대해 기술적인 의견을 공유하겠습니다:

1. 패턴 압축의 속임수 vs. 의미론적 이해

오늘날 현대 모델들로부터 우리가 놀라움을 느끼는 것은 '영혼'이나 의식의 출현이 아니라, 계산 능력과 데이터 볼륨을 이전에는 상상할 수 없었던 규모로 확장한 결과입니다. 수조 개의 파라미터로 모델을 훈련시키면, 신경망은 단순히 암기하는 것을 넘어 인간이 작성한 단어들 사이의 관계에 대한 거대한 통계적 압축을 생성합니다.

시스템은 수학적 맥락을 기반으로 다음 최적의 _토큰(token)_이 무엇일지 확률적으로 계산합니다. 이는 가중치 내에서 멀리 떨어진 점들을 연결함으로써 복잡한 문제를 해결하며, 이는 추론 과정을 모방합니다. 하지만 그 안에는 성찰이나 본질적인 이해가 없습니다. 오직 언어의 형식에 대한 완벽한 동화일 뿐입니다.

2. 의인화 편향: 스테로이드가 들어간 '엑셀 효과'

왜 우리는 AI를 스프레드시트처럼 보기 어려워할까요? 그 답은 인터페이스에 있습니다.

• Excel의 경우: 우리는 공식과 경직된 셀을 통해 상호작용합니다. 수학적 추상화가 눈에 명확하기 때문에, 우리는 이 도구를 순수하게 결정론적인 시스템으로 이해합니다.

• LLM의 경우: 인터페이스는 인간의 언어입니다. 우리는 무언가가 1인칭(

하지만, **집단 지능(collective intelligence)**에 대한 당신의 주장은 핵심을 찌릅니다. LLM은 자율적인 지적 존재가 아닙니다. 그것은 수백만 명의 인간이 디지털화한 지식의 통계적 거울일 뿐입니다. 개발자가 모델을 사용하여 코드를 최적화할 때, 그는 어떤 개체와 협력하는 것이 아니라, 글로벌 커뮤니티가 축적해 온 사고방식의 알고리즘적 증류물에 접근하고 있는 것입니다. 지능은 여전히 질문을 던지고 그 답변으로 무엇을 할지 아는 사람 쪽에 있습니다. 모델은 단지 매우 강력한 인지적 지렛대일 뿐입니다.

결론: 마법은 여전히 우리에게 있다

우리는 소프트웨어 개발과 교육(e-learning)을 변화시키고 있는 파괴적이고 매혹적인 도구 앞에 서 있습니다. 하지만 진정한 기술적 성과는 기계가 '생각'하는 법을 배웠다는 것이 아니라, 인간이 우리의 집단 지성을 포장하고, 구조화하고, 압축하여 소프트웨어 아키텍처 안에 담아낼 수 있었다는 것입니다.

결국 신경망은 수십 년 전 우리가 분석했던 것과 동일한 수학적 원리에 따라 작동할 뿐이며, 단지 이제 거대한 하드웨어 인프라라는 연료를 갖추었을 뿐입니다.

이 주제에 대해 어떻게 생각하시나요? 개발자, 엔지니어 또는 연구원으로서, 우리는 마케팅 때문에 '지능'이라는 용어를 너무 느슨하게 사용했다고 생각하십니까, 아니면 LLM의 문제 해결 능력이 이미 새로운 정의를 정당화한다고 보십니까? 댓글에서 논쟁을 시작해 봅시다! 👇