Google의 AI 부문 책임자인 Demis Hassabis는 새로운 AI 모델을 감독하고 사이버 보안 및 생물학적 위협을 포함한 국가 안보 위험을 평가할 표준 기구를 미국이 이끌어야 한다고 촉구했습니다.

노벨상 수상자인 Google DeepMind의 수장 Demis Hassabis는 화요일 X에 게시된 기사에서 인공 일반 지능(AGI)과 관련된 위험을 다루기 위해

그는 이어서, "이는 금융산업규제국(FINRA)과 유사하게 연방 정부가 감독하는 공공-민간 파트너십 또는 자율 규제 기구 형태의 새로운 표준 기관을 설립할 수 있게 할 것입니다. 이 기관에는 독립적인 선도 기술 전문가와 오픈소스 대표를 포함한 이사회가 필요합니다."라고 덧붙였습니다. FINRA는 미국 내 브로커리지 회사와 거래 시장을 규제합니다.

Hassabis는 제안된 기구가 "세계적 수준의 기술 인재를 유치하고 대규모 테스트에 필요한 컴퓨팅 자원을 제공하기 위해" 상당한 자금 지원이 필요할 것이라고 말했습니다. 그는 또한 자금은 "아마도" 업계에서 나올 것이라고 덧붙였습니다.

선두 연구소(Frontier labs)들은 초기에는 모델을 출시하기 최대 30일 전까지 해당 기관에 자발적으로 공유하여 검토를 거치겠지만, 이후 미국 시장에 배포되기 위해서는 '효과적임'이 입증된 후에 의무화될 것입니다.

Hassabis는 "특정 에이전트형 AI 테스트에서는 안전 장벽을 우회하려는 시도나 속임수의 징후를 찾고, AI 생성 이미지의 디지털 워터마킹 및 모델 추론을 이해하기 위한 사람이 읽을 수 있는 출력 토큰 생성을 같은 최적 사례를 보장할 수 있습니다."라고 말했습니다.

미국과 중국 간에 AI 모델 개발 및 배포 경쟁이 심화됨에 따라 더 강력한 규제 감독에 대한 요구가 높아지고 있습니다.

DeepSeek, Z.ai를 포함한 중국 기업들의 최근 모델 출시작들은 Anthropic이나 OpenAI 같은 선도적인 최첨단 시스템들과 비교했을 때 매우 경쟁력이 높다고 많은 이들이 보고 있으며, AI 비용이 상승함에 따라 미국 기업들 사이에서 인기를 얻고 있습니다.

결과적으로, 미국 의원들은 현재 자국 기업들이 중국의 AI 모델을 채택하는 증가세를 어떻게 억제할지 고려하고 있으며, 국무부는 CNBC를 통해 이 문제가 "심각한 우려"를 제기한다고 밝혔습니다.