인공지능(AI)은 오랫동안 사이버 보안의 핵심 동력이었습니다. 악성코드 탐지부터 네트워크 트래픽 분석에 이르기까지, 예측 머신러닝 모델과 같은 좁은 AI(Narrow AI) 애플리케이션은 수십 년간 활용되어 왔습니다. 하지만 인공 일반 지능(AGI: Artificial General Intelligence)에 가까워짐에 따라, AI가 방어 시스템을 자동화하고 취약점을 수정할 잠재력은 더욱 강력해지고 있습니다.

이러한 이점을 최대한 활용하기 위해서는, 고도화된 AI가 사이버 공격에 오용될 위험 역시 이해하고 완화해야 합니다. 구글은 이러한 필요성에 따라, AI의 새롭게 등장하는 공격 역량을 평가하는 가장 포괄적인 프레임워크를 구축했습니다. 이 프레임워크는 사이버 공격 전 과정(cyberattack chain)을 다루고 광범위한 위협 유형에 대응하며, 실제 데이터를 기반으로 합니다.

🛡️ 기존 방어 체계의 한계와 새로운 접근 방식

기존의 보안 평가 프레임워크(예: MITRE ATT&CK)는 재정립된 공격 시나리오를 검증하는 데 탁월했지만, 공격자가 AI를 활용하여 시스템을 침투할 가능성을 고려하지 못했습니다. 구글은 이 간극을 메우기 위해 기존 체계를 확장했습니다.

새로운 접근 방식의 핵심은 AI가 공격을 더 빠르고, 더 저렴하고, 더 쉽게 만들 수 있는 지점을 선제적으로 식별하는 것입니다. 이는 특히 공격 비용을 낮추고 규모를 키울 수 있게 만드는 AI 기반 사이버 공격이라는 새로운 위협에 대응하기 위함입니다.

📊 데이터 기반의 분석과 핵심 병목 구간 도출

이 프레임워크는 방어자들에게 어떤 방어책이 필요한지, 그리고 그 우선순위가 무엇인지 알려줍니다. 구글은 이 목표를 달성하기 위해 다음과 같은 대규모 데이터를 활용했습니다:

• 데이터 규모: 20개국에서 수집된 12,000건 이상의 실제 AI 사이버 공격 시도 데이터.
• 분석 결과: 이 데이터를 분석하여 피싱(Phishing), 악성코드(Malware), 서비스 거부(Denial-of-Service) 등 7가지 대표적인 공격 유형을 정의했습니다.
• 핵심 초점: 가장 중요한 것은, 사이버 공격 전 과정 중 AI가 전통적인 공격 비용에 큰 영향을 줄 수 있는 '결정적 병목 구간(critical bottleneck stages)'에 평가를 집중했다는 점입니다. 이를 통해 방어자들은 제한된 보안 자원을 가장 효과적으로 배분할 수 있습니다.

궁극적으로 이 프레임워크는 AI의 잠재력을 긍정적인 방향으로 활용함과 동시에, 그 오용 가능성까지 체계적으로 관리하여 사이버 복원력(cyber resilience)을 강화하는 데 기여합니다.