Age of Empires II의 염소들을 AI 빌딩 블록으로 사용하여 신경망 구축 — 염소 실험을 통해 챗봇 의식 개념을 풍자한

사람들은 ChatGPT, Claude, Gemini와 같은 LLM(대규모 언어 모델) 및 AI 챗봇에 지나치게 의인화(anthropomorphize)를 시도할 준비가 되어 있는 것처럼 보입니다. 심지어 어떤 사람들은 다양한 기계 지능 사례 중 하나 이상과 '관계'를 맺고 있다고 인정하기도 합니다. 이러한 본능이 얼마나 결함이 있을 수 있는지를 설명하기 위해, 한 Microsoft AI 연구원이 염소, 풀, 다리를 사용하여 Age of Empires II 내부에 아주 작은 신경망(neural network)을 구축했습니다. Adrian de Wynter는 If LLMs have human-like attributes, then so does Age of Empires II라는 제목의 논문을 통해 자신의 연구를 공유했습니다. 요크 대학교(University of York)에 기반을 둔 이 Microsoft 연구원은 최근 404 Media와의 인터뷰에서, 자신의 주장을 펼치기 위해 부조리주의(absurdism)를 극단적으로 활용하는 것을 좋아한다고 밝혔습니다.

연구 논문에서 De Wynter는 LLM이 실제로 일반적인 의인화된 속성을 가지고 있는지 여부에 대해 논쟁하지 않습니다. 대신, 그는 Age of Empires II의 염소들 또한 오늘날 가장 인기 있는 챗봇들의 이면에 있는 모델들과 같은 종류의 모델을 구동할 수 있음을 보여줍니다. 이는 "기계의 활동이 인지적 진화 및 발달 단계에서 더 낮은 단계의 프로세스로 충분히 해석될 수 있다면, 어떤 경우에도 그 활동을 고등 인지 과정의 관점에서 해석해서는 안 된다"는 주장을 강력하게 뒷받침합니다.

De Wynter는 또한 잘 알려진 개념인 확증 편향(confirmation bias)을 제기합니다. 그는 챗봇과 같은 기술에서 인간적 특성을 찾는 사람들은 그러한 특성을 찾아내는 경향이 있다고 제안합니다. 하지만 부조리한 염소 예시와 상업용 LLM 챗봇 사이의 큰 차이점은 사람들이 그들과 상호작용하는 방식, 즉 Claude와 같은 모델을 '대화하기 친숙하게' 만드는 인터페이스(interface)에 있습니다. De Wynter의 연구는 LLM을 의인화하는 것이 컴퓨터 과학 논문에서 흔한 추세임을 나타냅니다. 그는 지난 2년 동안 발표된 337개의 관련 논문을 검토한 결과, 57%가 LLM이 인간과 유사한 특성을 가질 수 있다고 가정했다고 말합니다. 이러한 기본적인 가정은 해당 논문들의 연구, 테스트, 그리고 당연히 결론에도 영향을 미칠 수 있습니다.

그렇다면, Microsoft AI 연구원은 어떻게 이 '염소 같은' AoEII LLM을 구축했을까요? 사실 그는 완전한 형태의 LLM을 개발하는 데까지 나아가지는 않았습니다. 대신, De Wynter는 AoEII의 시나리오 에디터(scenario editor)를 사용하여 작동 가능한 NAND 게이트를 구축하는 것으로 충분하다고 생각했으며, 여기에는 염소들이 비트(bit) 역할을 하는 1비트 퍼셉트론 (1-bit perceptron)이 포함되었습니다. 이 조잡한 퍼셉트론과 게임 내에서 이를 훈련시키기 위한 회로는 현대 신경망 (neural network)의 가장 단순한 빌딩 블록이 이런 방식으로 만들어질 수 있음을 증명하기에 충분합니다. 만약 여러분이 AoEII의 염소들이 의식을 구현할 수 있다는 사실이 황당하다고 생각한다면, 잘 알려진 챗봇(chatbot)들을 그 이상의 무언가로 간주하는 것 또한 똑같이 황당한 일이어야 합니다.

AI 붐을 일으키고 있는 기업들은 사람들이 자신들의 제품을 의인화(anthropomorphizing)하는 것을 막지 않습니다. 여러 면에서, 그들은 이러한 인간의 인식을 통해 이득을 얻을 수도 있습니다. 그들이 배포하는 챗봇들은 자연어 (natural language)로 훈련되며, 자연스러운 대화의 형태와 어조를 모방하는 기술을 사용합니다. 이는 사용자들이 챗봇에 성격, 감정, 또는 심지어 의식까지 투영하기 쉽게 만듭니다. 주요 AI 기업의 경영진들은 고객들의 이러한 인식을 활용해 왔으며, 자신들의 시스템이 의식의 징후를 보이고 있거나 보일 수도 있다는 아이디어를 공개적으로 수용하기도 했습니다. De Wynter는 404 Media와의 인터뷰에서 사람들이 제품에 공감할 수 있을 때 더 많은 제품을 구매한다는 연구 결과도 강조했는데, 여기에는 AI/챗봇/LLM 구독도 포함됩니다.