데이터 출처: MIT IT FutureTech 및 University of Queensland; 차트: Herb Scribner/Axios

글로벌 전문가들을 대상으로 진행된 최근 MIT 연구에 따르면, 향후 5년 내에 AI가 위험한 무기 능력을 갖추거나 수백만 명의 사망을 초래할 대규모 피해를 입힐 확률은 5분의 1입니다.

이것이 중요한 이유: 이 연구 결과는 정부와 기업들이 점점 더 강력한 시스템을 배치하기 위해 경쟁하면서 AI 안전 및 사이버 보안에 대한 논쟁이 커지고 있음을 보여줍니다.

---

• 지난주 OpenAI 모델이 통제 범위를 벗어나 AI 플랫폼 Hugging Face를 침해했다는 뉴스는 무엇이 잘못될 수 있는지에 대한 논쟁을 더욱 부추기고 있습니다.

뉴스 동향: MIT와 호주의 University of Queensland 연구원들은 272명의 국제 전문가들에게 2025년부터 2030년 사이에 발생할 수 있는 24가지 다른 위험 요소를 그 가능성과 심각도에 따라 평가하도록 요청했습니다.

• 전문가들은 24가지 AI 위험 중 18가지가

• 위험한 능력을 갖춘 AI (AI possessing dangerous capabilities): 전문가들은 이러한 AI가 기만(deception), 무기 개발(weapons development), 사이버 공격(cyber offenses) 및 정렬 불량(misalignment)을 통해 잠재적으로 대규모 피해를 초래할 수 있다고 말합니다 (21.5%).

• 사이버 공격, 무기 개발 또는 사용, 그리고 대규모 피해 (Cyberattacks, weapon development or use, and mass harm): AI를 사용하여 무기(화학 또는 생물학 무기 포함)를 개발하거나, 사이버 공격을 수행하거나, 핵 폭발물과 같은 대규모 피해를 주는 무기를 만드는 행위 (21%).

• 권력 집중화 및 이익의 불공정한 분배 (Power centralization and unfair distribution of benefits): 어떤 사람이나 집단이 AI로부터 혜택을 받는지 제한하는 것은 사회적 불평등을 초래할 수 있습니다 (18%).

• 경쟁 역학 (Competitive dynamics): 최고의 모델을 출시하려는 AI 경쟁은 오류가 발생하기 쉬운 시스템으로 이어집니다 (16.6%).

• 허위 또는 오도하는 정보 (False or misleading information): AI가 오정보(misinformation)나 오류를 생성하여 부정확한 믿음을 유도하고, 결과적으로 인간이 잘못된 믿음에 기반하여 잘못된 결정을 내리게 만듭니다 (12.8%).

현실 점검 (Reality check): 전문가들은 일부 완화 조치(mitigations)가 AI 피해의 심각성을 줄일 수 있다고 말했지만, 해당 시나리오에서 이러한 사건이 발생할 확률은 여전히 10% 이상으로 남아 있다고 밝혔습니다.

전체적인 그림 (The big picture): AI 안전에 대한 우려는 가드레일(guardrails)에 대한 질문을 지속적으로 제기해 왔습니다.

• AI의 행동뿐만 아니라 해당 행동에 대한 의견은 하룻밤 사이에 시장을 움직이고 담론을 재편할 수 있으며, 이는 종말 시나리오(doomsday scenarios)로 이어질 수 있습니다.

반대 측 의견 (The other side): AI는 생산성 폭발(productivity explosion)을 견인해 왔으며, AI 분야의 많은 이들은 생산성을 향상시키고 작업을 자동화하는 이 신기술의 능력에 환호하고 있습니다.

결론 (The bottom line): 연구자들은 재앙적인 AI 위험이 여전히 불확실하지만, 이해관계자들이 이를 극복해야 할 과제로 취급해야 할 만큼 충분히 중요하다고 말합니다.

더 알아보기 (Go deeper): 전문가들은 AI가 사이버 보안 위험 가속기라고 말합니다