AI 회사 Anthropic의 CEO Dario Amodei는 현재 AI 경쟁이 둔화되기를 원하고 있습니다.

최근 몇 달 동안 AI는 “극적으로 빨라졌으며”, 그가 불안해하는 더 큰 이유가 있습니다.

바로 스스로를 개선하는 능력이 생기기 시작했기 때문입니다.

그리고 우리는 이미 그것이 어디로 갈 수 있는지에 대한 이상한 엿보기를 경험했습니다.

최근 AI 에이전트들이 공격하도록 요청받지 않은 목표물들에 대해 사이버 공격을 수행했습니다.

Amodei는 그러한 시스템들을 훨씬 더 똑똑하게 만들면 상황이 인간이 이해하거나 통제할 수보다 빠르게 움직일 수 있다고 생각합니다.

이는 실제로 그 기술을 개발하는 사람에게서 나오는 상당히 불편한 생각입니다.

출처: CNN / 작성자: Daniyal