Demis Hassabis, Google DeepMind의 공동 창립자이자 CEO는 미국이 세계에서 가장 진보된 모델들을 심사할 권한을 가진 새로운 AI 감시 기구(watchdog)를 설립하고, 위험이 고조될 경우 업계 전반의 속도 조절을 조율할 것을 촉구하고 있습니다.

• Gemini의 노벨상 수상자인 Hassabis는 화요일 아침에 발표한 개인 선언문 "프런티어 AI를 위한 프레임워크와 새로운 시대의 서막(A Framework for Frontier AI and the Dawning of a New Age)"을 통해 이 계획을 제시했습니다.

중요한 이유: Axios와의 독점 인터뷰에서 Hassabis는 업계의 자금 지원을 받고, 세계적인 기술 전문가들로 구성되며, 미국 정부에 책임을 지는, 보다 "체계적인" AI 규제 (AI regulation) 접근 방식이 필요한 때가 왔다고 말했습니다.

---

런던 본거지에서 Hassabis는 오늘날의 AI 기반 사이버 리스크 (AI-driven cyber risks)가 "경고 사격"이라고 말했습니다. 그는 18개월 이내에 이러한 역량들이 훨씬 더 심각한 생물학적 및 핵 위협과 더불어, 정부의 통제를 벗어난 오픈 소스 모델 (open-source models) 내부에 존재할 수 있다고 경고했습니다.

• Hassabis는 리스크가 오픈 소스 모델뿐만 아니라, 주요 연구소들의 더욱 강력한 미래 독점 모델(proprietary models)에서도 발생할 것이라고 강조했습니다.
• 그는 선언문에서 "우리가 지금 공동으로 행하는 일이 문명의 다음 단계가 어떻게 펼쳐질지를 결정할 것"이라고 적었습니다.

비하인드 스토리: Hassabis는 대중에게 공개하기 전, 몇 달 동안 조용히 이 계획에 대한 지지를 구축하며 Trump 행정부, 동료 연구소 리더들, 그리고 유럽 관리들에게 브리핑을 진행해 왔습니다.

• AI의 대립하는 진영들 사이에서 보기 드문 존경을 받는 과학자인 Hassabis는 다른 주요 연구소 리더들도 높은 수준에서 다음과 같이 동의한다고 말합니다: "이것이 업계가 나아가야 할 방향입니다."
• 그의 일정은 공격적입니다. Hassabis는 이상적으로는 "연말 전"에 새로운 기구가 운영될 수 있도록 "수개월" 내에 이루어져야 한다고 말했습니다.

작동 방식: Hassabis는 SEC(미국 증권거래위원회)의 감독하에 월스트리트를 감시하는 민간 산업 자금 지원 감시 기구인 FINRA (금융산업규제기구)를 모델로 한 AI 표준 기구를 제안하고 있습니다.

• 프런티어 연구소(Frontier labs)들은 초기에는 위험한 사이버, 생물학적 및 "기만(deception)" 능력을 조사하는 안전 테스트를 위해 모델 출시 최대 30일 전까지 자발적으로 해당 기구와 모델을 공유하게 됩니다.
• Hassabis는 테스트 체계가 "효과적이고 강력함"이 입증되면, 공식화가 "신속하게 뒤따를 수 있다"고 기록했습니다. 이는 프런티어 모델들이 미국 시장에 배포되기 전에 반드시 테스트를 통과해야 함을 의미합니다.
• Hassabis는 산업계, 정부 및 오픈 소스 대표들과 더불어 Turing Award 수상자 및 기타 자격을 갖춘 전문가들로 구성된, 대다수가 독립적인 이사회를 구상하고 있습니다.

흥미로운 점: 이 규칙은 "출신 국가나 오픈 소스인지 폐쇄형(closed)인지에 관계없이" 모든 프런티어급 모델에 적용될 것이며, 역량이 진화함에 따라 자격 기준 벤치마크는 정기적으로 업데이트될 것입니다.

• Hassabis는 "프런티어" 지정이 명성을 가져다줄 것이라고 예측합니다. 테스트를 받는다는 것은 당신이 중요하다는 것을 의미하기 때문입니다. 그는 우리에게 "그것은 보유하기에 꽤 괜찮고 명망 있는 자산이라고 생각합니다"라고 말했습니다.

거시적 관점: Hassabis는 지난달 Anthropic의 Mythos 및 Fable 모델에 대한 Trump 행정부의 즉흥적인 단속은 "일종의 경종"이었다고 말했습니다. 이는 워싱턴이 임시방편적인 지침보다 더 견고한 무언가가 필요하다는 증거입니다.

• Anthropic은 수출 통제 명령에 의해 자사의 가장 강력한 모델들이 하룻밤 사이에 동결되는 상황을 겪었으며, 이후 확립된 규칙, 프로토콜 또는 플레이북(playbook)도 없는 상태에서 모델의 출시를 협상하는 데 2주 반을 소비했습니다.
• OpenAI는 동일한 운명을 피하기를 바라며, 출시 시 GPT-5.6을 정부의 검증을 거친 파트너들에게만 제한적으로 제공하기로 합의했습니다. 이는 상무부(Commerce Department)와의 협상 및 테스트를 거친 후 지난주에 공개적으로 출시되었습니다.

행간의 의미: Anthropic의 CEO Dario Amodei는 안전하지 않은 모델을 차단할 수 있는 권한을 가진 FAA(연방항공청) 스타일의 기관을 구상하며, 구속력 있는 규제에 대한 자체적인 촉구를 발표했습니다.

• Gemini와 Claude를 개발한 연구소 책임자들은 이제 워싱턴이 자신들을 규제해야 한다는 점에 동의하지만, 주로 누가 권한을 가질 것인지에 대해서는 의견이 갈립니다.

결론: Hassabis는 인간 두뇌의 모든 인지 능력을 갖춘 시스템인 AGI(인공 일반 지능)가 "아마도 불과 몇 년 남지 않았으며", 우리가 "특이점(singularity)의 초입"에 서 있다고 믿습니다.

• "우리는 본질적으로 모래가 생각하게 만드는 방법을 찾아냈습니다."라고 그는 씁니다. "그것은 기적적입니다."

게시글 읽기.