Fast AI와 취약한 잠금장치: 왜 보안 기초 지식이 아무도 채용하지 않는 기술인가

요즘 IT 팀 회의에 가보면 안건이 거의 똑같습니다. 얼마나 많은 개발자가 AI 비서(AI assistants)를 사용하고 있나요? 어떤 워크플로우를 다음으로 자동화할 수 있을까요? 고객을 위한 우리의 AI 스토리는 무엇인가요? 채용 공고에는 프롬프트 엔지니어링과 LLM 경험이 요구됩니다. 평가에서는 AI 도입에 보상합니다.

저는 그 흥분을 이해합니다. 저도 매일 이 도구들을 사용합니다. 하지만 저는 거의 안건에 오르지 않는 질문으로 계속 돌아갑니다. 우리가 팀에게 AI를 이용해 더 빠르게 구축하는 방법을 가르치는 동안, 누가 그들이 구축한 것을 방어하는 방법을 가르치고 있을까요?

제 견해는 간단합니다. AI는 단순히 좋은 개발자들을 더 빠르게 만들지 않았습니다. 공격자들 역시 더 빠르고, 저렴하며, 더 인내심 있게 만들었습니다. 그런 세상에서 사이버 보안의 기초 지식을 아는 것은 더 이상 틈새 전문 분야가 아닙니다. 그것은 유능한 엔지니어, 관리자 또는 창업자가 되기 위한 필수적인 부분입니다.

“챗봇이 거부했으니 괜찮다”는 잘못된 안도감

Diagram: an attacker's direct question to an AI chatbot is blocked by its filter, but three other routes (clever phrasing, uncensored open models and piece-by-piece requests) still reach your business's data, cloud and brand

인기 AI 비서에 “Wi-Fi 네트워크에 어떻게 침입할 수 있나요?”라고 입력하면 공손하게 거부합니다. 저는 사람들이 그 거부를 비즈니스 관점에서 AI가 안전하다는 증거로 여기는 것을 들었습니다. 그렇지 않습니다.

그 거부는 특정 회사 제품의 정책일 뿐입니다. 공격자가 이용할 수 있는 더 넓은 도구 상자에 대해서는 아무것도 말해주지 않습니다:

• 교묘한 표현(Clever phrasing). 사람들은 모델이 규칙을 우회하도록 하는 요령들을 공유하고, 공급업체들은 계속해서 이를 막고 있습니다. 이것은 해결된 문제가 아니라 지속적인 게임입니다.
• 규칙 자체가 없는 모델. Open-weight 모델은 제한 없이 다운로드하고 재훈련할 수 있습니다. 간소화된 버전들은 이미 사기 이메일과 악성 코드를 작성하는 데 범죄자들에게 판매되고 있습니다.
• 조각난 요청(Piece-by-piece requests). 아무도

벤더의 콘텐츠 필터는 벤더 자신을 보호합니다. 고객 데이터베이스, 클라우드 계정, 그리고 브랜드는 그 울타리 밖에 있습니다. 이들을 지키는 것은 여전히 여러분의 책임입니다.

모든 보안 권고는 경주를 시작하며, AI가 이를 빠르게 달립니다

Three statistics: a median of 5 days from a flaw's publication to confirmed attacks in 2025, down from 8.5 (Rapid7); 85% of affected systems still unpatched on disclosure day (Qualys); and under 1 day from disclosure to a usable exploit by April 2026, down from about 125 days (Cogent Security)

여러분들이 의존하는 라이브러리가 보안 패치를 배포할 때, 보통 릴리스 노트에 무엇이 잘못되었는지와 어떤 버전이 영향을 받는지 설명합니다. 이러한 공개성은 여러분 스스로를 보호할 수 있도록 존재합니다. 하지만 문제는 다른 모든 사람들도 이것을 읽는다는 것입니다.

몇 년 전만 해도, 그 노트를 작동하는 공격으로 바꾸는 것은 숙련된 사람이 며칠 또는 몇 주가 걸렸습니다. 오늘날 AI 모델은 이전 코드와 새 코드를 비교하고, 결함을 평이한 언어로 설명하며, 이를 악용하기 위한 단계를 스케치하는 데 도움을 줄 수 있으며, 이 모든 것을 단 하루 오후 만에 할 수 있습니다. 패치와 공격 방법 지침이 사실상 함께 도착하는 것입니다. 가장 먼저 업데이트를 적용하는 사람이 승리합니다.

수치는 경주가 더욱 치열해지고 있음을 보여줍니다:

• Rapid7의 2026년 위협 보고서에 따르면, 2025년에 악용된 고위험 및 심각한 결함은 146개로 집계되었으며, 이는 전년도 71개에 비해서 증가한 수치입니다. 공표와 확인된 공격 사이의 중간 간격은 8.5일에서 5일로 줄었습니다. (source)
• Qualys는 공시일에 영향을 받은 시스템 중 85%가 여전히 패치되지 않았으며, 2025년에는 심각한 결함의 63%가 일주일 후에도 열려 있었다고 보고했습니다. (source)
• 보안 벤더인 Cogent는 공시일로부터 사용 가능한 익스플로잇(exploit)까지 걸리는 평균 시간이 2025년 1월의 약 125일에서 2026년 4월에는 하루 미만으로 감소했다고 측정했습니다. (source)

또 다른 조용한 문제도 있습니다. 수년 전 인간 연구원들이 수많은 취약점을 문서화했으며, 많은 오래된 서버와 잊힌 플러그인들이 여전히 그 취약점들을 안고 있습니다. 기계는 수백만 개의 시스템에 걸쳐 알려진 패턴을 발견하는 데 매우 능숙합니다. 여러분이 소홀히 한 스테이징(staging) 서버가 바로 그런 종류의 것입니다.

Vibe 코딩: 위험 감각이 없는 뛰어난 인턴

A nine-line AI-generated Express.js route with four lines flagged: a hard-coded API key, an admin route with no login or role check, user input placed directly into a SQL query, and a phone number written to plain-text logs

저는 AI 코딩 어시스턴트를 매우 빠르고, 매우 열정적인 인턴이라고 생각합니다. 많은 것을 생산해내고, 거의 불평하지 않으며, 여러분이 설명하는 대로 정확히 수행합니다. 다만, 여러분이 신경 써달라고 요청하지 않는 한

대형 은행은 보안 운영 센터(Security Operations Centre)에서 24시간 시스템을 감시하고 있습니다. 보통 40명 규모의 소프트웨어 에이전시는 과로한 DevOps 엔지니어 한 명과 좋은 의도만 가지고 있습니다. 많은 회사들이 아무도 자신들을 건드리지 않을 것이라고 가정합니다.

자동화된 공격은 그러한 판단을 하지 않습니다. 인터넷을 스캔하는 스크립트는 귀사의 규모가 얼마나 큰지 전혀 알지 못합니다. 그저 열려 있는 포트, 오래된 플러그인 또는 2단계 인증이 없는 로그인 페이지를 보고 문을 두드릴 뿐입니다.

침투에 성공하면 피해는 IT 영역을 훨씬 넘어 확산됩니다:

• 고객 개인 데이터 유출, 이후 인도의 디지털 개인 데이터 보호법(Digital Personal Data Protection Act)이나 EU의 GDPR 같은 법률에 따른 규제 질문이 뒤따릅니다.
• 업무 중단. 랜섬웨어는 청구, 배송 및 지원 업무를 며칠 동안 마비시킬 수 있습니다.
• 신뢰 하락. 고객들은 당신이 또 무엇을 놓쳤는지 조용히 궁금해하며, 일부는 다른 곳으로 떠납니다.
• 계약 지연. 더 큰 규모의 고객들은 이제 계약서에 서명하기 전에 보안 설문지를 보냅니다. 취약한 답변은 침해 사고가 전혀 없더라도 계약을 잃게 할 수 있습니다.

대기업은 보통 하나의 나쁜 사고를 흡수할 수 있습니다. 하지만 작은 회사에게는 그 해의 사업 지속 여부를 결정하게 만들 수도 있습니다.

모든 팀원이 갖춰야 할 보안 리터러시(Security Literacy)

모두가 윤리적 해커(ethical hacker)가 될 필요는 없습니다. 제품을 만지는 모든 사람은 위험한 패턴을 인식하고 언제 도움을 요청해야 하는지 알아야 합니다.

Flow diagram: logs from servers, apps and APIs, cloud accounts, and firewalls and laptops feed into a SIEM, which collects them and connects the dots, then alerts the right person by email, Slack or phone and keeps the evidence for investigations and audits

작은 팀이라도 하루 종일 로그를 들여다볼 수는 없습니다. 공격은 휴일이나 릴리스 중간, 새벽 3시에 시작되는 경우가 많습니다. 바로 이 지점에서 SIEM (Security Information and Event Management) 플랫폼이 그 가치를 발휘합니다.

이는 절대 지치지 않는 야간 경비원과 같습니다:

1. 서버, 앱, 클라우드 계정, 방화벽, 노트북의 활동을 한 곳에서 검색 가능한 장소로 수집합니다.
2. 점들을 연결합니다. 낯선 국가에서의 실패한 로그인 폭주가 성공적인 로그인으로 이어지면 단순한 노이즈가 아니라 명확한 경고 신호가 됩니다.
3. 누군가 알아차리기를 기대하는 대신, 이메일, Slack 또는 전화로 알림을 보내 적절한 사람을 깨웁니다.
4. 조사, 감사(audit), 그리고 고객 보안 설문지 작성에 필요한 증거를 보관합니다.

비용은 더 이상 변명이 될 수 없습니다. Wazuh는 오픈 소스이며 작은 팀에서도 널리 사용됩니다. Elastic Security, Microsoft Sentinel, Splunk, Google Security Operations 등은 더 크거나 클라우드 우선(cloud-first)의 환경에 적합하며, 많은 곳에서 이제 AI를 사용하여 알림을 분류하고 요약합니다.

경험에서 얻은 한 가지 주의사항이 있습니다: SIEM은 그것을 조정하는 사람만큼만 유용합니다. 누가 무엇이 중요한지 선택하고, 오탐(false alarm)을 침묵시키며, 실제 경고가 발생했을 때 대응해야 합니다. 지식 없이 도구만 있으면 아무도 읽지 않는 비싼 받은 편지함이 될 뿐입니다.

향후 90일을 위한 일곱 가지 움직임

• 이메일, 클라우드 콘솔, 코드 저장소 및 모든 관리자 패널에 2단계 인증(two-step verification)을 활성화하세요
• 주요 프레임워크의 보안 권고 사항을 따르고 자동 종속성 경고를 켜세요
• 풀 리퀘스트(pull request) 템플릿에 보안 질문 5개를 추가하고, AI가 작성한 모든 변경 사항에 이를 사용하세요
• 비밀번호와 키를 코드베이스에서 분리하여 적절한 시크릿 스토어(secrets store)로 옮기세요
• SIEM을 구축하세요. 무료라도 좋으니, 가장 중요한 시스템의 로그부터 전송하세요
• 피싱, 가짜 송장, 딥페이크 통화에 대한 30분 세션을 진행하세요
• '만약 침해 사고가 발생하면 우리가 할 일'이라는 한 페이지 분량의 계획을 작성하고 책임자를 지정하세요

속도는 기능이고, 안전은 기반입니다

저는 AI 자체를 비판하는 것이 아닙니다. 불균형한 투자(lopsided investment)에 대해 이야기하는 것입니다. 기업들은 AI가 더 많은 것을 하도록 시간과 돈을 쏟아붓고 있지만, 그 작업물을 안전하게 지켜야 하는 사람들에게는 제대로 된 교육조차 제공하지 못하고 있습니다.

공격자들도 우리와 같은 도구를 가지고 있으며, 우리의 규칙은 전혀 모릅니다. 앞서 나가는 기업들은 AI를 가장 먼저 도입한 회사들이 아닐 것입니다. 고객들이 그들을 의심할 이유가 없었던 회사들일 것입니다. 팀원들에게 AI로 구축하는 방법을 가르치고, 똑같은 에너지로 그들이 구축한 것을 보호하는 방법도 가르쳐야 합니다.

출처

• Rapid7 2026 Global Threat Landscape Report 관련 보도, IT Brief UK
• Qualys 악용 연구 관련 보도, IT Brief NZ
• Cogent Security 보고서 관련 보도, BetaNews