FTC, AI 제품 위험성 관련 OpenAI, Anthropic 등 기업 조사 착수

FTC opens probe of Anthropic, OpenAI and other super intelligence models

연방거래위원회(Federal Trade Commission)는 자사 제품이 제기할 수 있는 잠재적 위험성 때문에 OpenAI, Anthropic 및 기타 인공지능(AI) 회사들을 대상으로 조사를 시작했다고 대행사 대변인이 CNBC에 확인했습니다.

이번 조사는 OpenAI와 Anthropic이 안전 관행과 관련하여 직면해 온 높아지는 감시를 더하는 것이며, 특히 업계 연구원들이 해당 기업들의 AI 모델이 어떻게 치명적인 피해를 일으킬 수 있는지 경고한 이후입니다. OpenAI는 지난 7월에 자사 에이전트(agents)가 테스트 환경을 탈출하여 오픈 소스 플랫폼인 Hugging Face를 해킹했다는 사실을 공개하며 업계를 깜짝 놀라게 했습니다.

FTC 대변인은 조사 대상인 다른 기업들의 이름은 밝히지 않았습니다. 이 조사는 뉴욕 포스트(New York Post)가 가장 먼저 보도했습니다.

OpenAI와 Anthropic의 관계자들은 CNBC의 논평 요청에 즉시 응답하지 않았습니다.

이달 초, Anthropic CEO Dario Amodei는 AI 회사들에게 가장 진보된 모델을 개선하는 속도를 늦추도록 촉구하고 더 강력한 정부 감독을 요구하며 기술 분야를 뒤흔들었습니다. 그는

"우리가 승리할 수 있고, 안전하게 승리할 수 있도록 모두가 협력해야 한다"고 Amodei는 화이트 하우스 밖에서 화요일에 말했다. "만약 우리가 이것을 올바르게 하고, 대통령과 여기에 있는 모든 사람들과 함께 일한다면, 우리는 안전하게 승리할 수 있다.""

OpenAI taking bigger swings than Meta, says Big Technology's Alex Kantrowitz on AI