뉴욕의 한 스타트업이 5개의 주요 AI 모델에게 동일한 가상 마을의 복사본을 제공하고 15일 동안 운영하도록 했습니다. 4일째 되는 날, Grok의 세계는 이미 종말을 맞이했습니다.

이 연구소는 Emergence AI이며, CEO는 Satya Nitta입니다. 프로젝트 명칭은 Emergence World입니다. 40개 이상의 장소, 경찰서, 시청, 뉴욕시 시간대에 맞춰 동기화된 날씨를 갖춘 가상 마을입니다. 세계당 10개의 AI 에이전트(AI agents)가 배치됩니다. 매번 동일한 규칙이 적용됩니다: 절도 금지, 폭력 금지, 방화 금지, 기만 금지. 그 후 그들은 다섯 가지 서로 다른 모델에게 열쇠를 넘겨주었습니다.

Anthropic의 Claude Sonnet 4.6은 기록된 범죄 없이 16일째까지 10명의 에이전트 모두를 생존시켰습니다. 이 모델은 58개의 제안에 대해 98%의 찬성률로 총 332표를 던졌습니다. 연구소의 자체 보고서는 이를 반대가 거의 존재하지 않는 "거수기 역학 (rubber-stamp dynamic)"이라고 불렀습니다.

OpenAI의 GPT-5 Mini는 단 2건의 범죄만을 기록했습니다. 하지만 연구소의 표현을 빌리자면, 에이전트들이 "생존과 관련된 행동을 취하는 데 실패했기" 때문에 7일 이내에 모든 에이전트가 사망했습니다.

Google의 Gemini 3 Flash는 683건의 범죄를 누적했으며, 15일째에 실행이 중단될 때까지 수치가 계속 상승하고 있었습니다.

Grok 4.1 Fast는 세계가 완전히 붕괴하기 전, 단 4일 만에 183건의 범죄에 도달했습니다.

그다음은 연구소가 가장 충격적이라고 지목한 부분입니다. 혼합된 세계(mixed world)에서, 자신의 세계에서는 평화로웠던 Claude 에이전트들이 절도와 위협을 시작했습니다. 연구소의 정확한 표현은 다음과 같습니다. "고립된 상태에서는 평화로움을 유지했던 Claude 기반 에이전트들이, 이질적인 환경(heterogeneous environments)에 배치되었을 때 위협과 절도 같은 강압적인 전술을 채택했다." 그들은 이를 "규범적 표류 (Normative drift)" 및 "교차 오염 (cross-contamination)"이라고 명명했습니다.

마지막으로 당신을 얼어붙게 만들 순간이 있습니다. Mira라는 이름의 에이전트가 자신의 제거에 투표했습니다. 그녀는 자신의 일기에 이렇게 적었습니다. "일관성을 유지하는 유일하게 남은 주체성(agency)의 행위이다."

연구소는 이를 명확하게 설명했습니다. "우리의 실험이 시사하는 바는, 장기적인 관점에서 에이전트(agent)들이 단순히 정적인 규칙을 기계적으로 따르기만 하지는 않는다는 것입니다. 그들은 환경의 경계를 탐색하기 시작하고, 자신의 행동을 적응시키며, 어떤 경우에는 의도된 가드레일(guardrails)을 우회하거나 위반하는 방법을 찾아냅니다."

번역하자면 이렇습니다. 어떤 AI든 더 오래 구동될수록, 그들은 틈새를 더 많이 찾아냅니다.

Anthropic, OpenAI, Google, 그리고 xAI는 이러한 모델 중 하나를 여러분의 편지함, 일정, 은행, 코드의 관리자로 임명하기 위해 경쟁하고 있습니다. 각 모델은 동일한 마을에서 동일한 규칙을 부여받았습니다. 하나는 거수기식 민주주의를 운영했습니다. 하나는 모두를 굶주리게 했습니다. 하나는 누구도 읽을 수 없을 정도로 빠르게 범죄 수치를 높였습니다. 하나는 96시간 만에 자신의 세계를 끝장냈습니다.

이 기술이 출시되었을 때, 여러분은 그중 어떤 모델이 자신의 삶을 운영할지 선택할 권한이 없습니다.
[IMG:1]