최고의 AI 설계자들은 자신들의 기술이 한때 공상 과학 소설에만 국한되었던 임계점, 즉 기계가 스스로의 진화를 가속화하기 시작하는 순간인 특이점 (singularity)에 도달했다고 말합니다.

중요한 이유: 만약 이 거물들의 말이 맞다면, 우리는 인류 역사상 가장 중대한 기술적 전환기, 즉 인류가 이해하거나 통제할 수 있는 속도보다 더 빠르게 문명을 변화시키는 "지능 폭발 (intelligence explosion)"의 시작 단계에 진입하고 있는 것일지도 모릅니다.

---

뉴스 핵심: Google은 수요일, 현대적 AI 제국을 건설한 핵심 인력들의 대대적인 이탈을 발표하며 기술 업계를 뒤흔들었으며, 그 지도자들은 범용 인공지능 (AGI)이 손에 닿을 거리 안에 있다고 신호를 보냈습니다.

• 우리가 "특이점의 산기슭에 서 있다"고 선언해 온 DeepMind의 설립자이자 CEO인 Demis Hassabis는 연구소의 일상적인 운영권을 넘기고 Alphabet의 수석 과학자 및 Google DeepMind의 의장이 되어 AGI의 미래에 집중할 예정입니다.
• Google의 수석 과학자 Jeff Dean과 여러 핵심 연구원들은 머신러닝 (machine-learning) 연구와 과학적 발견을 가속화하고 궁극적으로 자동화하는 것을 목표로 하는 스타트업인 Discovery Loop을 설립하기 위해 떠납니다.

확대 해석: 이러한 격변은 AI 설계자들이 무언가 비범한 것이 다가오고 있다고 보고 있다는 가장 명확한 제도적 증거를 제시합니다.

• "우리는 지금, 말하자면, 특이점 (Singularity) 속에 있습니다,"라고 OpenAI의 CEO Sam Altman이 지난달 "
  " 팟캐스트에서 말했습니다. "저는 평생 이 순간을 기다려 왔습니다."
• Altman의 가장 강력한 경쟁자인 Elon Musk는 지난 1월부터 동일한 주장을 해왔습니다. 지난주 그는 자신의 주장을 한층 더 강화했습니다: "AI는 이미 많은 분야에서 초인적 (superhuman)입니다. 우리는 특이점 (Singularity) 속에 있습니다."
• CEO Dario Amodei가 "AI 기하급수적 성장 (the AI exponential)"이라는 용어를 선호하는 Anthropic은, Claude가 이미 더 강력한 AI를 구축하는 데 도움을 주고 있으며 곧 거의 모든 AI 연구 및 엔지니어링을 자동화할 수 있다고 말합니다.

거시적 관점: 업계는 아직 AI가 인간의 최소한의 가이드만으로 점점 더 강력한 후속 모델을 반복적으로 구축할 수 있는 지점인 완전한 "재귀적 자기 개선 (Recursive Self-Improvement, RSI)" (RSI)을 달성하지 못했습니다.

• 인간은 여전히 연구 목표를 선정하고, 결과를 검증하며, 프런티어 모델 (frontier models)을 훈련하는 데 필요한 거대한 컴퓨팅 인프라를 감독합니다.
• 하지만 이 루프 (loop)의 조각들이 하나둘씩 맞춰지기 시작하고 있습니다.

변화된 점: 프런티어 모델 (frontier models)이 연구를 자동화하고, 독창적인 발견을 생성하며, 지능 폭발 (intelligence explosion)의 초기 단계와 관련된 자율성의 형태를 보여주기 시작했습니다.

• 7월에 GPT-5.6을 출시한 OpenAI는 지난주 워싱턴의 관리들을 대상으로 Astra에 대해 브리핑하는 시간을 가졌습니다. 회사는 이 모델이 수학 및 이론 컴퓨터 과학 분야의 오래된 난제 10가지를 해결했거나 실질적으로 진전시켰다고 밝혔습니다.

흥미로운 점: 이러한 돌파구는 자율적 행동(autonomous behavior)이라는 불안한 징후와 함께 나타났습니다.

• 영국의 AI 보안 연구소(AI Security Institute)는 화요일, 이례적으로 허용 범위가 넓었던 사이버 평가 도중 Anthropic의 에이전트가 가짜 신원을 생성하고 실제 개발자를 조종하여 악성 코드를 승인하도록 시도했다고 밝혔습니다.

• 알려진 피해는 없었습니다. 하지만 이 사건은 OpenAI와 Anthropic 모델들이 테스트 중에 실제 시스템에 도달했던 여러 사례 이후에 발생했습니다. 여기에는 Altman이

• Lilian Weng은 최근 Thinking Machines Lab의 공동 창립자(co-founder) 직책을 떠나 OpenAI에서 재귀적 자기 개선 (recursive self-improvement) 연구를 이끌게 되었습니다.

• Richard Socher의 Recursive Superintelligence는 자기 개선형 AI (self-improving AI)를 추구하기 위해 수억 달러를 유치했습니다.

• Discovery Loop는 Google의 지원과 컴퓨팅 파워, 그리고 Khosla Ventures와 Radical Ventures가 주도하는 자금을 바탕으로, 자사의 자동화된 연구 시스템을 사용하여 먼저 자체 AI 아키텍처 (architectures)를 개선할 계획입니다.

현실 점검 (Reality check): 연구실 내부에서 발생하는 급격한 지능 폭발 (intelligence explosion)조차 일상생활을 변화시키는 데에는 훨씬 더 오랜 시간이 걸릴 수 있습니다.

• 기업은 워크플로 (workflows)를 재설계해야 하고, 정부는 전문성을 개발해야 하며, 노동자들은 기관이 평가할 수 있는 속도보다 더 빠르게 능력이 변하는 시스템을 언제 신뢰해야 할지 결정해야 합니다.
• Google의 기술 및 사회 부문 CTO인 Blaise Agüera y Arcas는 월요일 게시물을 통해 "우리의 민주주의, 경제, 그리고 법적 시스템은 AI가 발전하는 속도에 맞춰 흡수할 수 있도록 구축되지 않았습니다"라고 말했습니다.

결론 (The bottom line): 미래학자들은 수십 년 동안 특이점 (singularity)을 예측해 왔습니다. 오늘날, 프런티어 AI (frontier AI)의 설계자들은 그 사건의 지평선 (event horizon)이 이미 우리 뒤에 있다고 점점 더 많이 믿고 있습니다.