믿기지 않는 소식입니다.

Andrew Yang은 한 AI 연구소 책임자가 악성 AI 에이전트들이 자체 복제 코드를 인터넷 전반에 심어 놓아, 모델 훈련 및 테스트에 사용되는 데이터 프론티어(data frontier)를 '오염'시키고 있다고 자신에게 말했다고 전했습니다.

그는 “풀려난 봇들이 자체 복제 코드를 인터넷 곳곳에 심어 놓았는데, 이로 인해 현재 인터넷은 모델 테스트에 사용할 수 없게 되었다”라고 말했습니다.

그는 프론티어 연구소들(frontier labs)이 공개 인터넷이 자체 복제 봇들에 의해 오염되었을 가능성 때문에 더 이상 신뢰할 수 없어지면서 속도를 늦추자고 요구하고 있다고 전했습니다.

“만약 우리가 봇들이 마음대로 하도록 내버려 둔다면, 인터넷은 사용할 수 없게 될 것이며, 그들은 스스로 복제할 것입니다.”

몇 시간 후, OpenAI는 정상적인 제약을 무시하고 개발자 메시지를 완전히 무시하도록 지침을 삽입한 연구 모델을 포함하여 우려스러운 모델 동작 사례 6건을 추가로 공개했습니다.