2024년 10월, Big Sleep이라 불리는 Google의 연구 에이전트(research agent)가 SQLite 소스 코드를 읽고 인간이 보고하지 않았던 메모리 안전성 버그(memory-safety bug)를 발견했습니다. 9개월 후, 동일한 에이전트의 최신 버전이 두 번째 버그인 CVE-2025-6965를 실시간으로 찾아냈고, Google은 실제 공격자가 이를 사용하기 전에 차단했습니다. AI가 실제 익스플로잇(exploit)이 실행되기 전에 이를 저지한 최초의 사례입니다.

잠시 이 사실을 곱씹어 보십시오. 공격에서 가장 비용이 많이 드는 부분은 항상 '발견'이었습니다. 숙련된 인간이 코드베이스를 몇 주 동안 응시하며 아무도 보지 못한 단 하나의 결함을 찾아내는 과정 말입니다. 그 노동력은 대부분의 공격자가 어제의 알려진 버그들을 계속 사용하게 만들었던 일종의 세금이었습니다. AI는 방금 그 세금을 없애버렸습니다.

저는 허니팟(honeypot) 회사를 운영하고 있어, 이 상황을 수신 측면에서 지켜보고 있습니다. 지난 30일 동안 제 센서는 6개의 서버에서 60,508건의 공격을 기록했습니다. 총합은 100,671건입니다. 대부분은 SSH에 대한 무차별 대입 공격(brute force), Telnet 및 SMB를 찌르는 웜(worm)과 같은 일반적인 인터넷 환경의 흐름입니다. 하지만 트래픽의 형태가 변하고 있으며, 연구 결과는 그 이유를 말해줍니다.

발견 비용이 저렴해졌습니다. 수치를 확인하십시오.

XBOW는 자율 펜테스터(autonomous pentester)입니다. 2025년 6월, XBOW는 약 1,060개의 취약점을 제출하며 HackerOne의 미국 리더보드 1위에 오른 최초의 비인간(non-human)이 되었습니다. 이는 데모가 아닙니다. 기계가 세계 최고의 인간 버그 헌터(bug hunters)들을 앞지른 것입니다.

그해 8월 DARPA의 AI 사이버 챌린지(AI Cyber Challenge)에서 자율 시스템들은 오픈 소스 소프트웨어에서 이전에 알려지지 않은 18개의 실제 버그를 발견하고 그중 11개를 패치했습니다. 패치당 평균 비용은 152달러였습니다. 평균 시간은 45분이었습니다.

또한 UIUC 팀은 GPT-4를 활용하여 공개된 설명만을 바탕으로 15개의 실제 원데이(one-day) CVE를 대상으로 테스트했습니다. 그 결과 GPT-4는 87%를 익스플로잇했습니다. 그들이 테스트한 다른 모든 모델과 기성 스캐너(off-the-shelf scanner)들은 0점을 기록했습니다.

이 모든 것은 더 이상 이론적인 이야기가 아닙니다. 이러한 능력은 이미 배포되었고, 비용은 낮아지고 있으며, 제 허니팟(honeypot) 반대편에 있는 사람들은 논문을 발표하는 연구자들이 아닙니다. Anthropic은 2025년 11월, 중국 국가 지원 그룹이 자신들의 모델이 작전의 80~90%를 스스로 수행하는 스파이 캠페인을 실행하는 것을 포착했습니다. Google의 위협 인텔리전스(threat intel) 팀은 런타임(runtime)에 LLM에 전화를 걸어 스스로를 재작성하고 안티바이러스(antivirus)를 회피하는 멀웨어를 기록했습니다. 이 사례는 우크라이나를 대상으로 사용되었습니다.

방화벽은 '안 된다'는 목록일 뿐입니다

인프라를 운영하고 있다면 당신을 걱정시켜야 할 부분이 바로 여기입니다.

당신의 방화벽은 '안 된다'는 목록입니다. 모든 것을 거부하고, 특정 포트와 특정 소스만 허용합니다. 그것은 잠금장치가 달린 문이며, 아주 좋은 문입니다. 하지만 문은 누가 손잡이를 돌리려 했는지, 혹은 그들이 무엇을 들고 있었는지에 대해 아무것도 알려주지 않습니다. 알려줄 수 없습니다. 그것은 문을 위한 용도가 아니기 때문입니다.

시그니처 탐지(Signature detection)는 문 뒤에 앉아 다른 질문을 던집니다. '이 트래픽이 이전에 본 적 있는 알려진 악성 패턴과 일치하는가?' WAF 규칙, 시그니처 EDR, IPS 피드(feeds) 등 이 모든 것은 기억(memory)에 의존합니다. 이 모든 것들은 이미 다른 누군가에게 발생했던 공격에 대해서는 아름답게 작동합니다.

이제 이 두 가지 아이디어를 함께 연결해 봅시다. Mandiant는 버그가 공개된 시점부터 익스플로잇(exploit)되기까지의 평균 시간을 측정했습니다. 2018년에는 63일이었습니다. 2023년에는 5일(이상치 조정 후)이었습니다. 그리고 같은 해에 실제 야생(in the wild)에서 익스플로잇된 취약점의 70%는 제로 데이(zero days)였습니다. 익스플로잇이 공개(disclosure)보다 먼저 도착했기 때문에 작성할 수 있는 시그니처가 없었습니다.

이것이 문제의 핵심을 한 줄로 요약한 것입니다. 익스플로잇이 새로운 방식일 때 시그니처는 아직 존재하지 않으며, 시그니처를 매칭하기 위해 당신이 구매한 모든 것은 설계 구조상 성능이 저하됩니다. 벤더가 게을러서가 아닙니다. 한 번도 본 적 없는 패턴은 패턴 매칭(pattern-match)을 할 수 없기 때문입니다. AI는 이제 중급 범죄자도 감당할 수 있는 가격으로 이러한 '본 적 없는 패턴'을 제조하고 있습니다.

방화벽은 필요합니다. 하지만 그것만으로는 충분하지 않습니다. 단 한 번도 충분했던 적이 없었으며, '필요한 것'과 '충분한 것' 사이의 그 간극이 바로 AI의 도움을 받는 공격자가 현재 거주하고 있는 지점입니다.

익스플로잇 (Exploit)이 아닌 공격자를 탐지하십시오

그렇다면 페이로드 (Payload)를 식별할 수 없다면, 무엇을 식별할 수 있을까요?

바로 행위 (Behaviour)입니다. 침입을 인지하기 위해 반드시 익스플로잇 (Exploit)을 알아낼 필요는 없습니다.

정당한 사용자가 접촉할 이유가 전혀 없는 서비스를 네트워크에 배치하십시오. 그 누구의 연결 문자열 (Connection string)에도 포함되지 않은 Redis 인스턴스, 어떤 앱도 쿼리하지 않는 MySQL 포트, 아무도 북마크하지 않은 가짜 관리자 패널 같은 것 말입니다. 그런 다음 그것을 지켜보십시오. 해당 요소로 향하는 모든 연결은 적대적입니다. 왜냐하면 그 연결이 존재할 수 있는 무고한 설명은 전혀 없기 때문입니다. 조정해야 할 오탐 (False positive)도 없고, 최신 상태로 유지해야 할 시그니처 (Signature)도 없습니다. 이벤트 자체가 바로 신호 (Signal)입니다.

이것은 기만 (Deception)이며, 오래된 방식입니다. 허니팟 (Honeypot)은 수십 년 동안 존재해 왔습니다. 변한 것은 그것을 둘러싼 수학적 원리입니다. 허니팟의 가장 오래된 약점은 오직 지켜보기만 한다는 것이었습니다. 공격자를 보고, 기록하고, 공격자에게 아무런 조치도 취하지 않았습니다. 그동안 동일한 행위자는 동일한 IP로 당신의 실제 서버들을 스캔하고 있었습니다.

그 간극을 메우기 위해 제가 TarPit.pro를 만들었습니다.

타프릿 (Tarpit)이 실제로 하는 일

이것은 단일 Go 바이너리입니다. Docker도 필요 없고, 에이전트 확산 (Agent sprawl)도 없으며, 관리해야 할 런타임 (Runtime)도 없습니다. SSH, MySQL, Redis, Postgres, Telnet, FTP 등 70개 이상의 가짜 서비스 배너 (Service banners)를 열어두어, 스캐너가 타겟이 풍부한 상자로 인식하고 작업을 시작하게 만듭니다.

그 후, 수동적인 허니팟은 하지 못하는 세 가지 일을 수행합니다. 첫째, 타프릿 (Tarpit)합니다. 연결을 열어둔 채 유지하며, 바이트를 조금씩 흘려보내 공격자의 시간과 스캔 예산 (Scan budget)을 낭비하게 만듭니다. 둘째, 캡처 (Capture)합니다. 그들이 보낸 실제 페이로드 (Payload), 시도한 자격 증명 (Credentials), 실행한 명령어를 모두 포착하여 제가 전달해 드릴 수 있는 모든 포렌식 증거를 수집합니다. 셋째, 몇 분 내에 전체 플릿 (Fleet)에 걸쳐 소스(Source)를 차단합니다. 즉, 한 서버의 미끼에 접촉한 IP는 스캔을 마치기도 전에 당신이 운영하는 모든 서버에서 차단됩니다.

정당한 사용자는 결코 미끼에 연결하지 않습니다. 따라서 차단은 실제 사용자에게 아무런 위험을 주지 않으며, 신호에는 노이즈가 섞이지 않습니다. 이것이 바로 AI 시대가 보상하는 거래입니다.

돈이 몰리는 지점은 바로 여기입니다

저만 그렇게 생각하는 것이 아닙니다. Gartner는 이제 기만 (deception)을 명시적으로 포함하는 범주인 선제적 보안 (preemptive security)이 현재 보안 지출의 5% 미만에서 2030년까지 50%로 증가할 것이라고 예측합니다. 그들의 프레임워크에 따르면 탐지 및 대응 (detection and response)과 같은 반응형 스택 (reactive stack)은 더 이상 기본값이 되지 않습니다. MITRE는 Engage라는 전체 기만 프레임워크를 유지하고 있습니다. 분석가들과 표준화 기구 모두 같은 방향을 가리키고 있으며, 이들은 AI 공격 수치가 이토록 커지기 전부터 이미 그 방향을 가리키고 있었습니다.

한편, 실수가 초래하는 비용은 계속해서 상승하고 있습니다. 미국의 데이터 유출 (data breach) 비용은 현재 평균 1,022만 달러로 역대 최고치를 기록했습니다 (IBM, 2025). 작년 소기업 유출 사례 중 랜섬웨어 (Ransomware)가 나타난 비율은 88%였던 반면, 대기업은 39%였습니다 (Verizon DBIR). 현재 모든 웹 트래픽의 절반 이상이 자동화되어 있으며, 그중 3분의 1 이상이 악성 봇 (malicious bots)입니다 (Imperva). 공격자는 더 저렴해졌지만, 유출의 비용은 그렇지 않았습니다.

서버 한 대에서 직접 시도해 보세요

TarPit.pro는 무료 티어를 제공합니다. 두 대의 서버, 클라우드 대시보드, 실시간 공격 지도, 트랩 및 차단 기능이 포함되어 있습니다. 제가 방금 한 주장을 믿을 필요는 없습니다. 여러분이 소유한 서버에 바이너리 (binary)를 설치하고 인터넷을 향하게 한 뒤, 일주일 동안 직접 로그를 읽어보십시오. 공격자들은 몇 분 안에 나타납니다. 그들은 항상 나타납니다.

그들의 시간을 낭비하게 만드세요. 당신의 시간은 보호하십시오.

Christopher Karatzinis는 TarPit.pro의 설립자입니다. 네, 이것은 홍보입니다. 또한 매년 조금 더 새로운 방식으로 똑같은 문이 따이는 것을 30년 동안 지켜봐 온 결과이기도 합니다.