[구글 "사람 없이 AI가 해킹하는 시대 열렸다"… 패치 분석부터 공격까지 완전 자동화 첫 확인]
구글 위협인텔리전스그룹(GTIG)과 자회사 맨디언트가 11월 16일 분기 'AI 위협 추적' 보고서를 내고, 해커들이 AI로 취약점 발견부터 공격 실행까지 사람 개입 없이 완전히 자동화한 사례를 처음 확인했다고 밝혔습니다. 공격이 '기계 속도'로 이뤄지는 단계에 들어섰다는 경고입니다.
▶ 무엇이 발견됐나
GTIG는 외부에 노출된 해커의 준비용 서버에서 'exploit_agent'라는 다중 에이전트 프레임워크를 찾았습니다. 여러 최신 AI 모델과 로컬 모델을 연결해 쓰는 구조입니다.
· 인기 웹 소프트웨어의 보안 패치 전후 코드를 계속 비교
· 차이에서 취약점을 추정하고 공격 코드를 작성
· 사람 개입 없이 공격을 자동 실행
서버의 설정 파일에는 러시아어 주석이 있었습니다. 피해 기록으로 보면 운영자는 프랑스의 미디어·엔터테인먼트·교육 분야 웹사이트를 노린 것으로 분석됐습니다.
▶ 다른 주요 흐름
· 공개된 침투 테스트용 AI 도구(CAIRN, PentAGI 등)를 실제 침입에 악용
· 'LLM재킹': 기업의 AI 모델 계정·클라우드 자원을 훔쳐 지하 시장에 되파는 수익 모델
· 국가 배후 조직의 AI 활용 여론 조작 일상화
· AI 코딩 도우미 설정을 조작해 백도어를 심는 새 공급망 공격
▶ 왜 중요한가
지금까지는 보안 패치가 나온 뒤 공격 코드가 만들어지기까지 시간이 걸렸습니다. 그 사이 기업이 패치를 적용할 여유가 있었습니다. AI가 패치를 역분석해 바로 공격 코드를 만들면 이 '방어 시간'이 크게 줄어듭니다.
▶ 투자자 관점
공격 자동화는 방어 자동화 수요로 이어집니다. 기계 속도로 탐지·대응하는 AI 보안 솔루션과 빠른 패치 관리 시장이 커질 수 있습니다. 반대로 패치가 느린 기업과 공공기관은 피해 위험이 커집니다.
▶ 위험 요인과 볼 지표
· 같은 기법이 금융·의료 등 핵심 인프라로 번지는지 여부
· AI 모델 회사들의 악용 차단 조치
· 기업의 패치 적용 속도와 관련 규제 논의
▶ 사회적 영향
최근 미국의 항공·은행·클라우드 장애는 사이버 공격 때문이 아니라는 설명이 나왔지만, 디지털 인프라가 흔들릴 때의 파장을 보여 줬습니다. AI가 공격 비용을 낮추면 중소기업과 지역 기관이 가장 먼저 위험해질 수 있습니다.
▶ 출처
· 구글 GTIG 보고서: https://t.co/AGBNTk7s2Q
· 사이버스쿠프: https://t.co/e8emF09Gca
· 더레지스터: https://t.co/YJcRvkwPcA
※ 이 글은 정보 제공 목적이며 특정 종목의 매수·매도를 권유하지 않습니다. 투자 판단과 그 책임은 투자자 본인에게 있습니다.