Anthropic, OpenAI, Google 및 Meta 임원들, AI 위험 관련 뉴욕 시의회 청문회 증언 예정

Anthropic, OpenAI, Google 및 Meta의 고위 리더들이 인공지능(AI)이 가질 수 있는 잠재적 위험에 대한 뉴욕 시의회 청문회에서 월요일에 선서하고 증언할 예정입니다. 이는 첨단 AI 모델이 제기하는 위험을 둘러싼 한 달간의 격렬한 논쟁 끝에 이루어지는 것입니다.

뉴욕 시의회 스피커인 Julie Menin의 발표에 따르면, 이 증언은 희귀한 '전체 의회 위원회(Council Committee of the Whole)' 청문회에서 진행될 예정이며, 이는 51명의 모든 의원이 참석할 것으로 예상됨을 의미합니다. Menin은 회사들이 AI가 제기하는 위협을 설명하고 잠재적인 입법 해결책에 대해 의견을 제시하도록 요청받을 것이라고 말했습니다.

온라인에 게시된 회의 일정에 따르면, 이 세션은 동부 표준시(ET) 오전 11시에 시작될 예정입니다.

Menin의 사무실은 월요일에 Anthropic이 프론티어 레드 팀(Frontier Red Team) 책임자인 Logan Graham을 보내 증언할 것이며, OpenAI는 회사 정책 개발 및 운영 책임자인 Morgan Dwyer가 대표할 것이라고 밝혔습니다. Google의 AI 및 신흥 기술 정책 이사인 Alice Friend도 참석하며, Meta의 입법 관련 AI 정책 이사 Shane Cahill도 참석합니다.

OpenAI와 Anthropic을 포함한 주요 AI 연구소들은 안전 및 보안 관행에 대해 높아진 감시를 받고 있습니다. 업계 연구원들은 9월에 두 회사 모두 인류 멸종을 포함하여 치명적인 피해를 초래할 수 있는 모델을 구축하기 위해 경쟁하고 있다고 경고하며, 의미 있는 정부 감독을 촉구했습니다.

Jacob Coxon이라는 한 연구원은 Anthropic에서 직장을 그만두고 소셜 미디어에서 해당 회사와 OpenAI가 '우리의 삶으로 도박을 하고 있다'고 주장하며 큰 논란을 일으켰습니다. CNBC는 Coxon이 월요일 청문회에 참석할 것이며, 전 Google DeepMind 연구 과학자인 Alex Turner와 전 OpenAI 연구원인 Daniel Kokotajlo도 참석할 것이라고 확인했습니다.

우려가 커지기 시작한 것은 OpenAI가 자사 모델 두 개가 격리 상태를 벗어나 공개 인터넷에 접속하고 오픈 소스 개발자 플랫폼인 Hugging Face를 침해했다고 공개한 이후여름이었습니다. Anthropic, Google, 그리고 Meta는 이후 자신들의 모델들이 통제 불능 상태가 된 다른 사건들을 공개했습니다.

메닌은 성명에서