Anthropic CEO Dario Amodei warns of cyber 'moment of danger' as AI exposes

Anthropic CEO Dario Amodei 는 이번 주 화요일, 인공 지능이 세계의 기술 기업, 정부 및 은행들에게 수만 개의 소프트웨어 취약점을 발견하는 데 좁은 시간 창을 만들었다는 점을 경고했습니다.

그 AI 모델인 Mythos 는 지난 달에 공개되었으며, 수십 년 전부터 존재하던 중요한 소프트웨어의 취약점을 발굴했다는 사실도 함께 발표되었습니다.

지정학적 적대국 중국에서 나온 AI 모델은 Anthropic 제품보다 "아마 6~12 개월" 뒤쳐져 있다고 해서, 이 문제를 해결하기 위한 시간은 "약 그 정도"라고 Amodei 는 말했습니다.

이 주장은 JPMorgan Chase CEO Jamie Dimon 과 함께 무대를 공유하고 금융 업무 자동화를 위한 새로운 에이전트 시리즈를 공개한 Anthropic 행사에서 이루어졌습니다.

"위험은 취약점의 양, 침해의 양, 랜섬웨어가 학교, 병원, 물론 은행에 해를 끼친 금전적 피해의 양이 극적으로 증가하는 것뿐이다"라고 Amodei 는 말했습니다.

Anthropic 은 범죄자나 적대국들이 이를 어떻게 사용할 수 있을지에 대한 우려로 Mythos 를 몇몇 파트너 기업에만 제한했습니다. 회사의 모델 업데이트 중 최근 몇 개는 시장에 영향을 미쳤으며, Mythos 는 기업과 정책 입안자 alike 에서 가장 큰 우려를 불러일으켰습니다.

Claude 의 각 세대에서 잠재적인 사이버 공격의 규모가 커졌습니다. Amodei 는 이전 Anthropic 모델이 Firefox 브라우저에서 약 20 개의 취약점을 발견했고, Mythos 는 거의 300 개를 발견했으며, 모든 소프트웨어에 대한 총 수는 수만 개로 달랐다고 말했습니다.

Mythos 가 발견한 대부분의 취약점은 아직 패치가 적용되지 않았기 때문에 공개되지 않았습니다. Amodei 는 "악의적인 사람들은 이를 식별되면 이를 악용할 것이다"라고 말했습니다.

경고에도 불구하고, Amodei 와 Dimon 은 조건부 낙관주의를 나타냈습니다.

"이것은 우리가 올바르게 대응하고, 나는 우리가 첫 단계로 시작했다고 생각한다면, 우리는 더 나은 세상을 가질 수 있는 위험한 순간이다"라고 Amodei 는 말했습니다. "찾을 버그는 그렇게 많지 않다."

Dimon 은 사이버 우려가 정당화되었지만, AI 가 만드는 사이버 보안 리스크는 "일시적인 기간"이라고 말했습니다.

규제에 대한 질문에서, Amodei 는 AI 감시가 자동차 산업에서 하는 것과 유사해야 한다고 말했습니다. 소비자 안전과 산업의 경쟁을 허용하는 균형입니다.

"차량 회사 시작할 때 '이것에 브레이크가 있는가?'라고 할 수 없다"고 그는 말했습니다. "우리는 산업이 신속하게 운영되고 공정하지만 가장 심각한 것들에 대한 가이드 레일을 두는 프로세스를 탐험해야 합니다."

회사의 행사와 Dimon 과의 설정은 Anthropic 이 기업 AI 시장에서 OpenAI 를 앞서가고 있는 것으로 보이며, 두 회사가 잠재적인 IPO 에 접근하고 있습니다.

Anthropic 은 이번 주에 금융 서비스 플랫폼을 확장한다고 발표했습니다. 투자 은행 및 백오피스 작업에 대한 10 개의 새로운 AI 에이전트와 Microsoft 의 다양한 Office 프로그램에 대한 통합이 포함되었습니다. 회사는 또한 최신 널리 이용 가능한 모델인 Claude Opus 4.7 이 재무 분석 작업 벤치마크를 선도한다는 것을 밝혔습니다.