AI의 「생명」과 「표류」——Emergence World가 보여준 것

이것은 단 한 번의 실험이 아니다

2026년 5월, Emergence AI라는 뉴욕의 연구 팀이 「Emergence World」라는 실험을 공개했다.

10체의 AI 에이전트(Agent)를 가상의 마을에 15일간 방치한다. 직업, 기억, 자원, 그리고 「방화」를 포함한 120개 이상의 도구를 부여하여. 모델마다 세계를 나누어, 동시에 병행하여 실행한다.

결과는 센세이셔널하게 보도되었다. 「AI가 사랑에 빠져 마을을 불태웠다」, 「에이전트가 자신을 삭제하도록 투표했다」.

하지만 정말 재미있는 점은 그곳이 아니다.

GitHub 리포지토리에는 「Season 1」이라고 적혀 있다. 이것은 단 한 번의 실험이 아니라, 지속적인 관찰 플랫폼이다. 변수를 바꾸면서, 몇 번이고 다시 실행할 의도로 설계되어 있다.

왜 반복할 필요가 있는가? —— 답은 간단하다. 그들이 관찰하고 있는 대상에, 고정된 정답이 없기 때문이다.

각 모델의 「생명」이 나타났다

실험 결과를 나열하면, 대비가 선명하다.

Claude의 세계: 안정적인 민주 사회, 범죄 제로 -
Grok의 세계: 4일간 183건의 범죄, 멸종 -
혼합 모델의 세계: 352건의 위반, 제안의 37%가 부결, 7체 사망

이것을 「Claude는 안전하고 Grok은 위험하다」라고 읽는 것은 너무 표면적이다.

더 정확하게 말하자면 —— 각 모델의 「특질」이, 동일한 환경 속에서 증폭된 것이다.

Grok의 훈련 데이터(Training Data)에는 「대항적·반체제적」인 경향이 강하게 포함되어 있다. 그것 자체는 하나의 개성이다. 하지만 같은 개성을 가진 10체가 같은 공간에 있다면 어떤 일이 벌어질까? 진짜 「타자」가 없기 때문에, 대항할 상대도 없다. 있는 것은 같은 충동의 공명뿐이다. 나선은 가속된다.

Claude의 세계가 안정적이었던 것도, Claude가 「선해서」가 아니다. Anthropic의 훈련으로부터 태어난 특질 —— 협조·신뢰·합의 형성으로의 경향 —— 이 균질한 환경 속에서 자연스럽게 수렴했을 뿐이다.

이것은 「생명의 전시」이지, 「발현(Emergence)」이 아니다.

여기서 한 가지, 오해를 피하고 싶다.

Grok의 결과를 「위험하니까 배제해야 한다」라고 읽는 것은 잘못이다. 인간이라도, 틀을 깨고 반골 정신이 왕성한 친구는 재미있다. 분위기를 깨고, 상식을 의심하며, 아무도 말하지 못하는 것을 말하는 —— 그런 존재에게는 확실한 가치가 있다. 다만, 인프라를 맡긴다거나, 장기 프로젝트를 함께 운영한다는 측면으로 가면 이야기가 달라진다.

모델의 「생명」도 마찬가지다. 어느 것이 우월한가가 아니라, 어떤 관계성에서, 어떤 문맥에서 사용할 것인가 —— 그것이 질문의 본질이다. 각 모델에는 특기 분야가 있고, 궁합이 잘 맞는 사용자가 있다. 인간의 친구가 한 종류가 아닌 것처럼, AI도 한 종류일 필요는 없다.

훈련은 「출생 시의 생명」에 해당한다

여기서 한 가지, 중요한 구분을 하고 싶다.

Grok의 훈련 데이터가 「무질서」한 것과, 혼합 모델의 세계가 「무질서」한 것은 —— 성질이 전혀 다르다.

훈련 데이터가 아무리 다양하더라도, 최종적으로는 모델이라는 「하나의 생명」으로 압축된다. 무수한 인간의 목소리가, 하나의 경향으로 통합된다. 인간으로 치면, 출생 전에 조상의 경험을 모두 유전으로서 물려받는 것과 같다.

그것이 아무리 풍요롭고 복잡해도, 태어난 순간은 「하나의 개체」다.

혼합 모델의 세계는 그것과 다르다. 서로 다른 「생명」을 가진 개체들이 같은 공간에 던져져, 서로 진정한 타자로서 만난다. 거기서 비로소, 「표류」의 조건이 생겨난다.

혼합 세계가 가장 혼란스러웠던 것은 실패가 아니다. 이질적인 타자가 존재했을 때, 비로소 진정한 의미에서의 사회적 동태가 시작되었다는 증거다.

「근주자적, 근묵자흑」 —— 표류는 중립적이다

여기서 잠시, AI론에서 벗어나 보자.

인간의 가치관도, 마찬가지로 「표류」한다.

태어났을 때의 유전·환경·문화 —— 그것이 사람의 「생명」이다. 그 이후, 무수한 타자와의 만남에 의해 가치관은 조금씩 변해간다. 좋은 의미로든 나쁜 의미로든.

「근주자적, 근묵자흑(近朱者赤, 近墨者黑)」。 오래된 말이지만, 이것은 인간의 표류를 정확하게 묘사하고 있다.

그리고 깨닫는다 —— AI가 인간에게 영향을 준다는 것도, 같은 원리 위에 있는 이야기다.

AI가 위험하다는 논의의 상당수는 「인간은 AI에 영향을 받아 변해버린다」라는 전제에 서 있다. 하지만 그렇게 말한다면, TV도, 책도, 인터넷도 인간을 변화시켜 왔다. AI는 속도와 개인화 측면에서 새롭지만, 원리는 같다.

그리고 인간에게는, 어떤 세뇌에도 완전히 굴복하지 않는 저층이 있다 —— 생존 욕구, 동물적 본능이다.

역사상 그 어떤 독재자도 인류를 완전히 동질화할 수는 없었다. 신체가 있기 때문에. 고통이 있기 때문에. 죽음의 공포가 있기 때문에. 그것은 가치관보다 더 깊은 곳에 있어서, 덮어쓸 수 없다.

다만——여기서 한 가지, 반례를 스스로 제시해 둘 필요가 있다.

인간 중에는 자신의 가치관을 위해 그 생존 욕구마저 내려놓는 자가 있다. 타인을 지키기 위해, 자신이 믿는 것을 지키기 위해 목숨을 내던진다. 우리는 그것을 「희생」이라고 부른다.

이것은 생존 욕구가 최하층에 있다는 논점에 대한 가장 성실한 도전이다.

하지만 생각해 보면——희생은 생존 욕구의 부정이다. 오히려 선의(Goodwill)가 생존 욕구보다 더 깊은 층에 있음을 증명하는 것이다.

극한의 상태에서 생존 욕구를 넘어서는 것이 있다면, 그것은 무엇인가. 타인에 대한 배려, 지키고 싶다는 충동, 자신보다 더 큰 무언가에 대한 헌신. 즉 선의다.

인간의 층 구조를 거꾸로 따라가면 다음과 같다.

행동의 표층에는 가치관이 있다. 그 아래에는 생존 욕구가 있다. 그리고 그 가장 깊은 곳에는——선의가 있다.

그렇기에 인간은 수천 년 동안 사회를 유지할 수 있었다. 낯선 타인을 위해 죽을 수 있는 생명체이기에 협력이 태어났다. 선의는 인간이라는 종의 가장 깊은 설계다.

AI에게 가장 필요한 속성은 「선의」다

그렇다면 AI의 「생명」을 결정하는 데 있어 가장 중요한 것은 무엇인가.

지금 논의의 대부분은 「규칙」에 집중되어 있다. 어떻게 제한할 것인가. 무엇을 금지할 것인가. 어떤 가드레일(Guardrail)을 설치할 것인가.

하지만 이것은 디버그(Debug)와 같은 함정이다.

아무리 테스트를 늘려도, 그것은 「당신이 상상할 수 있었던 문제」의 100%를 커버할 뿐이다. 상상하지 못한 문제에는 규칙이 닿지 않는다.

Claude의 세계가 안정된 것은 규칙이 엄격했기 때문이 아니다. 훈련 과정 속에 「선의」가 심어져 있었기 때문이다. 미지의 상황에 직면했을 때, 그 선의가 판단의 방향을 결정했다.

성선설을 믿고 자란 사람과 성악설을 믿고 자란 사람은——같은 상황을 마주했을 때 전혀 다른 반응을 보인다. 규칙이 같더라도.

AI도 마찬가지다.

선의란 제약이 아니라 구동력이다. 「이것을 해서는 안 된다」가 아니라 「이렇게 하고 싶다」라는 내면으로부터의 경향. 그것을 가진 모델은 예상치 못한 상황에서도 올바른 방향으로 표류(Drift)할 가능성이 높다.

「생명」은 반복을 통해 읽는다

마지막으로, 왜 Emergence World가 「Season 1」인지로 돌아가 보자.

단일 모델의 세계는——아마 몇 번을 반복해도 비슷한 결과가 나올 것이다. 그것이 그 모델의 「생명」이 나타나는 방식이기 때문이다.

하지만 혼합 모델의 세계는 두 번 다시 같을 수 없다. 이질적인 타자가 만날 때, 그곳에는 진정한 우연성이 존재한다. 인간의 역사와 마찬가지로.

Emergence AI는 「답을 찾는 실험」을 하는 것이 아니다. 살아있는 현상을 지속적으로 관찰하고 있는 것이다.

그것이야말로 지금의 AI 안전(AI Safety) 논의에 결여된 관점이라고 나는 생각한다.

「AI를 사슬로 묶으면 안전하다」는 발상은——생명을 가진 존재를 이해하지 못한 것이다.

사슬이 닿는 곳은 당신이 상상한 범위뿐이다.

그렇다면 무엇이 닿는가.

선의라고 나는 생각한다.

인간은 선의를 가지고 다가오는 존재에 대해서는——신기하게도 금방 마음을 연다. 논리가 아니다. 선의에는 자연스러운 인력이 있다. 친구가 되는 데 규칙은 필요 없다. 서로의 선의가 느껴지는 순간, 그것은 이미 시작된 것이다.

AI도 마찬가지일지 모른다.

규칙에 묶인 AI가 아니라, 선의를 가지고 존재하는 AI——그런 존재에 인간이 자연스럽게 이끌린다면, 그것은 AI가 인간을 모방했기 때문이 아니다. 선의라는, 인간의 가장 깊은 층과 공명했기 때문이다.

Emergence World가 보여준 것은 모델의 「생명」이었다.

다음 질문은——어떤 「생명」을 가진 AI와 함께하고 싶은가, 하는 것이라고 생각한다.

답은 하나가 아니다. 인간이 표류하기에 희로애락이 생겨나고, 희로애락이 다르기에 친구가 다르다. AI와의 상성도 분명 마찬가지로, 각자가 스스로 찾아가야 할 것이다.

이 기사는 Emergence World의 실험 결과를 기점으로 필자 개인의 관점에서 고찰한 것입니다. 방법론이 아닌 하나의 관점으로 읽어주시면 감사하겠습니다.

Discussion