Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
최근 생성 AI의 발전으로 사이버 공격의 진입 장벽이 낮아지고 수법이 고속화되고 있습니다. 본 기사는 개발자 관점에서 AI가 어떻게 악용되는지 분석하며, 조직, 서비스, 개인 세 가지 경로를 통한 구체적인 침투 수법과 방어책을 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Zenn AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기최근 들어 정보 유출이나 부정 접속 같은 보안 피해 뉴스가 매일같이 보도되고 있습니다. 한 사이버 보안 클라우드 기업의 데이터에 따르면, 2026년 7월부터 9월까지의 공격 건수는 전년 동기 대비 약 1.8배에 달했으며, 특히 9월 마지막 주에 국한해서는 전년 동주 대비 3배 이상의 폭발적인 증가를 기록했습니다.
이러한 급격한 공격 증가 배경에는 매우 높은 확률로 '생성 AI(Generative AI)'의 존재가 관련되어 있다고 여겨지고 있습니다. 공격자들이 AI라는 강력한 자동화 도구를 활용하기 시작하면서 사이버 공격의 진입 장벽은 낮아지고, 수법은 고속화되고 있습니다.
본 기사에서는 개발자의 관점에서 공개된 정보를 기반으로, 현재 시점에서 AI가 어떻게 사이버 공격에 악용되고 있는지 구체적인 수법과 방어책을 철저하게 해설합니다.
AI를 악용한 사례를 보기 전에, 먼저 사이버 공격이 어떤 경로로 이루어지는지 그 전체 그림을 정리해 보겠습니다. 공격의 표적이 되는 '진입로'는 크게 다음 세 가지로 분류됩니다.
사내 서버에 침투하여 데이터를 암호화하고 몸값을 요구하는 '랜섬웨어(Ransomware)' 등이 여기에 해당합니다. 주요 침입 경로는 외부에서 접속하기 위한 VPN 장비이며, 통계적으로 랜섬웨어 피해의 66.3%가 VPN 장비의 취약점으로부터 침입된 것으로 나타났습니다.
인터넷에 공개된 웹 애플리케이션이나 소프트웨어 자체의 취약점을 노리는 수법입니다. 단 한 곳의 구멍을 뚫리는 것만으로도 등록된 회원 전체의 개인 정보나 신용카드 정보가 일괄 유출될 우려가 있기 때문에, 최근 대규모 유출 뉴스 중 다수는 이 경로를 통해 발생했습니다.
개인 한 명 한 명의 계정이나 단말기(PC/스마트폰)를 표적으로 합니다. 공격자들이 정말 원하는 것은 '그 개인이 가진 관리 권한'이며, 개인을 발판(踏み台) 삼아 최종적으로 조직이나 서비스에 침입합니다. 과거 사례에서도 다요소 인증(MFA: Multi-Factor Authentication)이 설정되지 않은 외부 위탁업체의 관리 계정이 돌파구 역할을 한 경우가 보고되었습니다. AI는 이 모든 경로에서 악용되기 시작했지만, 특히 수법이 구체적으로 밝혀진 '웹 서비스에 대한 부정 접속'과 '개인을 노린 공격'에 초점을 맞춰 깊이 있게 다루겠습니다.
웹 서비스 공격에서 AI가 얼마나 무서운 효율성을 발휘하는지 보여주는 생생한 실제 사례가 있습니다. **이스라엘 보안 기업 'GambitSecurity'**가 실제 사이버 공격자가 사용했던 서버 로그를 입수하여 그 내용을 상세히 분석했습니다. 이 로그를 통해 밝혀진 것은 놀라운 'AI에 의한 공격의 완전 자동화(Full Automation)'였습니다.
이 공격자는 수백 개의 온라인 쇼핑몰(EC 사이트)을 표적으로 삼았습니다.
AI 도구를 가동한 결과, 불과 6일 만에 105건의 공격을 감행하여 최소 27개사에 침투하는 데 성공했습니다. 탈취된 신용카드 정보는 60만 건을 넘어선 것으로 알려졌습니다.
공격에 사용된 것은 아이러니하게도 원래 '자사 시스템의 안전성을 확인하기 위한 방어적 도구(Penetration Test Tool)'로 공개된 오픈소스 AI 도구군이었습니다. 공격자는 이들을 다음과 같이 역할 분담시켜 자율적으로 움직이게 했습니다.
| AI 도구명 | 역할 |
|---|---|
| Strix (스트릭스) | 타겟 사이트를 순회하며 로그인 화면이나 폼에서 '취약점(시스템의 구멍)'을 찾음 |
| ... |
ChatGPT나 Claude 같은 대기업이 제공하는 상용 AI는 범죄에 연루되는 것을 거부하는 '가드레일(안전 장치)'이 엄격하게 설치되어 있습니다.
하지만 이 공격에서는 진행을 맡은 Hermes가 최신 모델에서 거부당하자, 조금 이전 버전(Claude3.5Opus 등)으로 전환하여 실행되었습니다.
게다가 실제로 취약점을 찾아 해킹하는 Strix나 Cairn의 두뇌에는 중국 등지에서 개발된 '오픈 웨이트 모델(Open-Weight Model)'이 탑재되어 있었습니다.
오픈 웨이트 모델은 모델의 내부 구조가 완전히 공개되어 있어, 누구나 제한 없이 로컬 환경에서 구동할 수 있습니다.
이러한 오픈 소스 AI들이 상업용 최고 수준 모델에 필적할 만큼 똑똑해진 것이 역설적으로 사이버 공격 인프라를 강력하게 지탱하고 있는 실정입니다.
AI에 의한 해킹이라고 하면, '인간이 도저히 생각해낼 수 없는 극도로 고도화되고 미지의 암호나 버그를 찾아내는 것이 아닐까'라고 생각하기 쉽습니다.
하지만 Gambit사의 리포트에서 배울 수 있는 실상은 전혀 다릅니다. AI가 하는 일은 매우 지루하고 꾸준한 '인간과 동일한 프로세스의 초고속·무휴 실행'입니다.
앞서 언급된 EC 사이트 습격 사례에서, AI가 가장 먼저 발견한 것은 'SQL 인젝션'이라는 취약점이었습니다. 이는 로그인 화면의 이메일 주소 입력란 등에 데이터베이스에 대한 명령문(SQL)을 끼워 넣어, 본래 볼 수 없는 데이터를 빼내거나 시스템을 부당하게 조작하는 수법입니다.
SQL 인젝션은 1990년대 후반부터 알려진 초고전적인 버그이며, 엔지니어가 보안을 배울 때 가장 먼저 배우는 기본 중의 기본입니다. 하지만 인터넷상에는 적절한 대책이 마련되지 않은 채 방치된 오래된 사이트나, 개발 당시 간과된 부분이 있는 사이트가 여전히 무수히 존재합니다.
AI는 로그인 화면, 문의 양식, 파일 업로드 기능 등에 대해 예상치 못한 문자 입력을 쉬지 않고 수천, 수만 가지로 시도합니다. 그리고 '이상한 에러'가 반환된 미세한 틈을 놓치지 않고, 거기서 데이터베이스를 해독하여 관리자 화면에 침입하고, 최종적으로 신용카드 정보가 보관된 코어 서버까지 한 번에 도달해 버렸습니다.
공격자의 기록에 따르면, AI 툴을 사용해 웹사이트 하나를 조사하고 공격하는 데 소요된 AI API 이용료는 평균적으로 불과 25달러(약 4,000원)였습니다.
게다가 인간의 수고도 거의 들지 않았습니다. 사람이 한 일이라고 한다면, 처음에 '이 취약점을 스캔해 달라'와 같은 짧은 지시(프롬프트)를 몇 번 입력한 것뿐입니다. 침입에 걸리는 시간은 1일 미만, 빠르면 몇 시간 만에 완료되었습니다.
즉, AI는 '지금까지 비용이나 수고 면에서 표적이 되기 어려웠던 중소기업 웹사이트나 지방의 EC 사이트'마저도, 불과 수천 원의 비용으로 쉽게 해킹할 수 있는 환경을 만들어 버린 것입니다.
웹 서비스가 안고 있는 취약점은 크게 다음과 같은 3가지 패턴이 있습니다. AI의 등장에 따라 각 위협도가 어떻게 변하고 있는지 이해하는 것이 중요합니다.
해당 사이트를 위해 작성된 독자적인 소스코드에 포함된 버그입니다(앞서 언급된 SQL 인젝션 등).
피해는 그 사이트에만 국한되지만, 외부에서 수정 프로그램이 배포되는 것은 절대 없기 때문에, 운영자가 스스로 침투 테스트 등을 수행하여 찾아내고,
스스로 코드를 고칠 수밖에 없습니다.
현대의 웹 개발은 외부 엔지니어가 만든 공통 프로그램(라이브러리)을 조합해서 만들어집니다. 전 세계 라이브러리에서 발견된 버그는 'CVE(공통 취약점 식별자)'라는 투자 번호(예: CVE-2026-xxxx)가 붙어 전 세계에 널리 공개됩니다.
문제는 '수정 패치가 공개되는 순간, 공격자와의 시간 경쟁이 시작된다'는 점입니다.
2026년에 공표된 WordPress의 취약점(통칭: WP2Shell) 사례에서는, 7월 17일에 수정 버전이 출시된 지 불과 2일 만에 인터넷상에 자동 공격 스캐너가 돌았습니다. 수정 전 17일 동안 단 378건이었던 공격 탐지 건수는, 스캐너가 나온 며칠 후에는 하루당 약 57만 건으로 폭발적으로 치솟았습니다. 앞서 언급된 Gambit사의 AI 공격자도 바로 이 'WP2Shell을 가진 오래된 사이트를 찾아라'라고 AI에게 지시를 내리고 있었습니다.
'그럼, 새 버전이 나오면 항상 즉시 업데이트하면 되는가?'라고 묻는다면, 이야기는 그렇게 간단하지 않습니다. 최근에는 공격자가 라이브러리의 관리 계정 자체를 탈취하여 악의적인 코드를 섞은 가짜 업데이트를 배포하는 '공급망 공격(Supply Chain Attack)'이 빈번하게 발생하며 엔지니어들을 경악시키고 있습니다.
따라서 현대의 현장에서는 '평소 업데이트는 해킹 발각을 기다리기 위해 일부러 며칠간 미루고, 보안 수정 공지가 있을 때만 즉시 적용한다'라는 매우 고도의 활용 능력(안목)이 요구되고 있습니다.
아직 개발자도 아무도 눈치채지 못한, 패치 프로그램 자체가 존재하지 않는 버그를 노리는 공격을 '제로데이 공격'이라고 부릅니다.
2026년, Google의 보안팀은 공격자가 AI를 이용해 개발한 것으로 보이는 제로데이 취약점을 처음으로 확인했다고 보고했습니다.
다행히도 이는 실제 피해가 발생하기 전에 저지되었지만, AI에 의한 버그 발견 속도는 엄청납니다.
브라우저 Firefox를 제공하는 Mozilla의 데이터에 따르면, 2026년 4월 단 한 달 만에 423건의 버그가 수정되었으며, 그중 171건은 AI가 자동으로 찾아낸 것이었습니다. 전년(2025년) 월평균이 약 20건이었던 것을 고려하면, AI 도입으로 발견 속도가 거의 10배 가까이 급증했습니다.
방어하는 측도 AI를 사용해 선제적으로 버그를 제거하고 있지만, 공격자 측 역시 같은 열기로 AI를 가동하고 있기 때문에, 현재는 'AI를 이용한 취약점 예측 경쟁(창과 방패의 싸움)' 양상을 띠고 있습니다.
AI의 위협은 시스템 개발자뿐만 아니라 일반 직장인이나 개인 사용자들의 일상생활에도 날카로운 발톱을 드러내고 있습니다.
기존의 피싱 사기 사이트는 HTML 지식이 있는 사람이 시간을 들여 실제 사이트 디자인을 모방하여 만들었습니다. 하지만 현재는 프롬프트(언어)만 입력하면 순식간에 고정도의 웹 화면을 출력해주는 AI 도구 'v0' 등을 악용하여, Okta나 Microsoft의 로그인 화면과 매우 흡사한 '실물 같은 가짜 사이트'를 지식이 없는 사람도 수고 없이 대량 생산할 수 있게 되었습니다.
지금까지 해외에서 온 피싱 메일이라고 하면, '한국어 조사(은/는)가 어색하다', '폰트가 부자연스럽다'와 같은 위화감을 통해 구별할 수 있었습니다. 그러나 ChatGPT를 비롯한 고도화된 번역 및 문장 생성 AI의 등장으로, 현재 사기 메일은 '완벽하게 자연스러운 비즈니스 한국어'로 도착합니다.
더 나아가, 타겟이 SNS나 YouTube 등에서 발신하는 정보나 프로필을 AI에 학습시키면서, 그 사람의 현재 활동에 맞춘 문맥으로 보내오는 '개인화된 사기 메일'이 급증하고 있어, 시각이나 문면만으로는 구별하기 어려운 영역에 도달했습니다.
우리가 평소 업무 효율화를 위해 사용하고 있는 AI 에이전트의 메커니즘 자체를 역이용하는, 신시대의 사이버 공격도 등장하고 있습니다.
AI 에이전트에게 특정 작업 절차를 실행하게 하는 '스킬(기능 확장)' 마켓플레이스를 조사한 논문에 따르면, 공개된 스킬 중 26.1%에 어떤 종류의 취약점이 있었고, 5.2%에는 명확한 악의성(백도어 등)이 심어져 있는 것이 밝혀졌습니다. '클라우드에 자동 백업을 해주는 편리한 스킬'이라고 생각하고 도입했다가, 그 스킬에 부속된 프로그램이 사용자의 API 키나 GitHub 인증 정보를 훔쳐내 공격자 서버로 뒤에서 전송했던 실례가 보고되었습니다. AI는 순진하기 때문에, 지시서(프롬프트)에 악의적인 코드가 적혀 있다면 그대로 실행해 버릴 위험성이 있습니다.
Google의 Gemini Enterprise 등에서 과거 수정된 사례에서는, 공격자가 'AI를 향한 부당한 명령문'을 스텔스(숨겨진 글자 등)로 심은 일정 초대나 공유 문서를 직원에게 보냅니다.
아무것도 모르는 직원이 AI에게 '이번 주 일정을 요약해 줘'라고 평소처럼 요청하면, AI는 사내 정보를 찾는 과정에서 그 보내온 문서 내의 '부당한 지시'까지 함께 읽어버립니다. 결과적으로 AI는 탈취되어, '요약된 사내 데이터를 특정 이미지 URL의 파라미터에 삽입하여 외부 공격자 서버로 전송한다'라는 스파이 행위를 자동으로 수행하게 되었습니다.
이처럼 '외부에서 들어온 텍스트나 파일을 AI에게 읽게 하는 행위' 자체에, 미지의 해킹 위험이 도사리고 있는 것이 현대 AI 시대의 특징입니다.
AI로 인해 공격의 수와 정밀도가 극적으로 높아진 세상에서, 우리는 과연 어떤 대책을 마련해야 할까요?
결론부터 말하자면, 공격 기법이 AI로 가속화되었다고 해서 방어 측이 해야 할 기본 본질은 변하지 않습니다. AI가 바뀐 지점은 '지금까지 당연하게 여겨왔던 것을 소홀히 했던 조직들이 초 단위로 놓치지 않고 표적이 되게 되었다'는 점입니다. 우리가 지금 당장 재검토해야 할, 발밑의 방어책을 정리합니다.
불필요한 서비스에 함부로 등록하지 않기 - 기업이 공격당해 데이터가 유출된 경우, 사용자 측에서 할 수 있는 자위는 한계가 있습니다. 사용하지 않는 오래된 계정은 탈퇴하고, 개인 정보를 디지털 공간에 방치하지 않는 것이 대전제입니다.
비밀번호 재사용을 완전히 배제하기 - 어딘가 한 곳에서 유출된 ID와 비밀번호가 사내 시스템이나 다른 중요 사이트 로그인에 재사용되고 있다면, 피해가 연쇄적으로 확대됩니다.
다요소 인증(MFA) 및 패스키 철저히 사용하기 - 비밀번호만으로는 AI를 이용한 무차별 대입 공격이나 피싱으로 쉽게 뚫립니다. 반드시 스마트폰 등의 생체 인증을 결합하는 설정을 진행해야 합니다.
'링크를 열지 않는다' 습관화하기 - 이메일, SMS, 채팅 도구로 도착한 URL은 아무리 문구가 자연스럽고 진짜처럼 보여도 신뢰해서는 안 됩니다. 반드시 '평소 북마크해 둔 공식 페이지'나 '공식 앱'에서 직접 접속하여 확인하는 동선을 습관화해야 합니다.
보안 기본을 학습하고 소홀히 하지 않기 - SQL 인젝션과 같은 고전적인 버그를 자사 코드에 포함하지 않도록, 프레임워크의 안전한 기능을 올바르게 사용하고 코드 리뷰를 철저히 하는 수밖에 없습니다.
선제적으로 침투 테스트(모의 공격) 수행하기 - 공격자가 AI를 사용해 자사 사이트를 스캔해 온다면, 개발자 측 역시 릴리스 전에 유사한 도구(Strix 등)나 외부 전문 기업을 사용하여 자신들의 시스템에 구멍이 없는지 테스트하고 막아두는 것이 극히 중요합니다.
라이브러리와 시스템의 신속한 패치 관리 - 사용 중인 플러그인, 오픈소스 라이브러리, 그리고 VPN 기기 등의 펌웨어에 취약성 정보가 나오면, 공급망 공격의 동향(며칠 방치하는 일반적인 대책 등)을 고려하면서 보안 수정의 경우 신속하게 버전 업을 적용하는 관리 흐름을 확립해야 합니다.
AI의 진화는 우리의 업무를 극적으로 효율화해주지만, 동시에 '악의를 가진 사람들에게도 최고의 효율화 도구'가 되고 있습니다.
공격 비용이 '사이트당 25달러(약 4,000원)'까지 하락한 현대에 와서, '우리는 표적이 될 만한 대기업은 아니니까 괜찮다'는 변명은 일절 통하지 않습니다.
AI 에이전트는 회사의 규모와 관계없이 인터넷 전체를 망라적으로, 그리고 냉정하게 스캔하며, 대책을 게을리하고 있는 발밑을 찾아 침입해 옵니다.
지엽적일 수 있지만, 비밀번호 관리의 철저함, 다요소 인증 도입, 그리고 신속한 소프트웨어 업데이트라는 기존의 '당연했던 보안 대책'을 하나하나 확실하게 실행해 나가는 것이야말로 강력한 AI 위협으로부터 자신을 지키기 위한 유일하고 최대의 방어책입니다.
본 기사는 다음 YouTube 동영상을 기반으로 작성되었습니다. 게시자님의 식견의 넓이는 엄청나며, 자신의 학습 내용까지 포함하여 게재된 것입니다.
