AI가 생성한 피싱 (AI-generated phishing)은 사람이 작성한 피싱보다 4배 이상 더 자주 클릭됩니다. 사람들이 부주의해졌기 때문이 아닙니다. 이메일이 개인화되었기 때문입니다. 이제 사기 수법은 오직 동료만이 알 법한 정보들을 알고 있습니다.

그는 회사의 영국 기반 최고 재무 책임자(CFO)로부터 온 것으로 보이는 메시지를 받았고, 기밀 거래를 처리해 달라는 요청을 받았습니다. 무언가 이상했습니다. 그는 피싱 (phishing) 이메일이라고 의심했는데, 이는 정확히 20년간의 보안 인식 교육 (security awareness training)이 만들어내고자 했던 본능이었습니다. 그는 이에 따라 행동하지 않았습니다. 그는 확인을 요청했습니다.

그러자 공격자들은 그를 화상 통화 (video call)에 참여시켰습니다.

통화에는 CFO가 있었습니다. 또한 그가 알고 있는 다른 동료 여러 명도 있었으며, 그들의 얼굴과 목소리는 그가 알던 것과 정확히 일치했습니다. 그들은 거래에 대해 논의하고, 실시간으로 요청 내용을 확인하며, 그의 질문에 답변했습니다. 눈으로 보고 귀로 들을 수 있는 사람들에게 안심한 직원은 이전의 의심을 접어두고 실행에 옮기기 시작했습니다. 그는 본사에 전화를 걸어 진실을 발견하기 전까지 총 약 2,500만 달러에 달하는 15건의 송금을 수행했습니다. 통화에 참여했던 그 누구도 실제 인물이 아니었습니다. 모든 얼굴과 모든 목소리는 Arup 경영진의 공개된 영상으로부터 만들어진 AI 딥페이크 (deepfake)였습니다.

그의 본능은 옳았습니다. 기술이 그 본능을 압도했습니다. 이것이 2026년 피싱의 전체 이야기이며, 지금 당신의 편지함에 있는 이메일이 당신이 아마도 주고 있는 것보다 더 많은 의심을 받아야 하는 이유입니다.

당신이 상상하는 이메일은 유물입니다

당신도 어떤 것인지 알고 있을 것입니다. 철자가 틀린 단어들. 재산을 나누어 주겠다는 왕자. 일반적인 "고객님께(Dear Customer)". 첫 줄부터 가짜임을 외치는 엉망인 문법. 지난 20년 동안 우리는 바로 그런 것들을 식별하도록 사람들을 교육해 왔고, 그 교육은 효과가 있었습니다. 사기 수법이 게을렀고 그 특징들이 명백했기 때문입니다.

그 이메일은 사라졌습니다. 그 자리를 대신한 것은 당신의 매니저 이름을 알고 있습니다. 당신이 지난주에 출시한 프로젝트를 언급합니다. 당신 회사의 말투와 일치합니다. 당신이 지치고 편지함을 정리하고 있을 목요일 오후 4시에 도착하며, 작고 합리적인 무언가를 요청합니다. 그 어떤 것도 잘못된 것처럼 보이지 않기에, 당신은 그것을 수행합니다.

그것은 더 이상 나이지리아 왕자가 아닙니다. 그것은 당신이 신뢰하는 누군가로부터, 당신이 실제로 작업 중인 내용에 대해, 대부분의 실제 동료들보다 더 깔끔하게 작성된 메시지처럼 보입니다.

4배 더 높은 클릭률

이것은 당신의 생각을 재정립해야 할 수치입니다.

AI 생성 피싱 (AI-generated phishing) 이메일은 사람이 작성한 이메일보다 4배 이상 높은 클릭률 (click-through rates) 을 달성합니다. 한 분석은 이를 냉혹하게 보여주었습니다: 전통적인 방식의 12% 클릭률에 비해 AI로 정교하게 만들어진 미끼 (lures) 는 54%의 클릭률을 기록했습니다. 동일한 근본적 사기이며, 당신의 자격 증명 (credentials) 이나 돈을 훔치려는 동일한 목표임에도 불구하고, 몇 배나 더 자주 성공하고 있습니다.

이것은 사람들이 더 잘 속게 되었기 때문에 발생한 일이 아닙니다. 오히려 그 반대입니다. 수년간의 인식 교육 (awareness training) 은 평균적인 직원이 이전보다 훨씬 더 잘 구식 사기를 식별할 수 있게 만들었습니다. 그럼에도 불구하고 클릭률이 올라간 이유는, 인간이 더 예리해지는 속도보다 이메일이 더 빠르게 정교해졌기 때문입니다.

그 이유는 대규모 개인화 (personalisation at scale) 에 있습니다. 설득력 있고 맞춤화된 피싱 이메일 하나를 작성하는 것은 과거에 공격자에게 상당한 시간을 소요하게 했습니다. 그들은 대상을 조사하고, 회사를 파악하며, 말투를 흉내 내고, 세부 사항을 정확히 맞춰야 했습니다. 그러한 노력은 규모를 키울 수 없었기에(did not scale), 대부분의 피싱은 일반적(generic)이었고, 일반적인 것은 잡아낼 수 있었습니다. AI는 그 노력을 제거했습니다. 이제 공격자는 대상의 공개 데이터로부터 조사된, 각각 문법적으로 결함이 없으며, 수신자에게 맞춤 조정된 1만 개의 개별 맞춤형 이메일을 생성할 수 있습니다. 과거에 개인화는 비용이 많이 드는 작업이었습니다. 이제는 무료입니다. 최근 한 측정에 따르면, 피싱 이메일 5개 중 4개 이상이 이제 어떤 형태로든 AI 생성 콘텐츠를 포함하고 있습니다.

그것이 아는 것을 어떻게 아는가

불안한 점은 공격자가 필요한 정보가 매우 적으며, 그 모든 정보가 공개되어 있다는 사실입니다.

여러분의 LinkedIn은 여러분이 어디서 일하는지, 어떤 일을 하는지, 동료가 누구인지, 그리고 무엇을 해왔는지를 알려줍니다. 회사의 웹사이트에는 경영진과 그들의 직함이 나열되어 있습니다. 보도 자료(Press release)에는 여러분의 최신 프로젝트 명칭이 포함되어 있습니다. 여러분이 직접 올린 게시물들은 여러분의 글쓰기 스타일과 직업적 관심사를 드러냅니다. 그리고 몇 년 전 어딘가 데이터 덤프(dump)에 저장되어 있는 데이터 유출(Data breach) 사고는 여러분의 이메일 주소와 어쩌면 오래된 비밀번호까지 제공합니다. 한 연구에 따르면 피싱 피해자의 80% 이상이 이전의 데이터 유출 사고에서 이메일 주소가 노출된 적이 있는 것으로 나타났습니다.

AI 시스템은 이 모든 정보를 단 몇 초 만에 흡수하여, 마치 여러분의 조직 내부에서 보낸 것처럼 읽히는 무언가로 조립할 수 있습니다. "CFO(최고재무책임자)"로부터 온 이메일은 실제 CFO의 이름을 사용하고 실제 추진 중인 계획을 언급합니다. "IT 지원팀"에서 보낸 메시지는 여러분의 회사가 사용하는 실제 소프트웨어를 언급합니다. "동료"가 보낸 쪽지는 누군가 공개적으로 게시했기 때문에 실제로 일어났던 회의를 언급합니다.

이 중 그 어떤 것도 공격자가 무언가를 해킹(Breach)할 필요를 요구하지 않습니다. 원재료는 우리가 온라인상에서 직업 활동을 하며 존재하는 것만으로도 생성하는 디지털 배출물(Digital exhaust)입니다. Arup 사례의 경우, 딥페이크(Deepfaked)된 경영진은 일반적인 영상, 즉 누구나 컨퍼런스 녹화 영상, 웨비나(Webinar), 또는 회사 채널에서 가져올 수 있는 종류의 영상으로부터 만들어졌습니다. AI의 기여는 이를 그 어떤 인간 팀보다 더 빠르고 저렴하게 무기로 조립하는 것입니다.

"나는 절대 이런 것에 속지 않아"가 문제가 되는 이유

어느 조직에서든 가장 위험한 사람은 자신이 속지 않을 것이라고 확신하는 사람입니다.

사기 수법이 명백했을 때는 그러한 확신이 합리적이었습니다. 모든 피싱 이메일이 문법이 틀려 있고 일반적인 인사말을 사용한다면, "나는 그런 것들을 확인한다"는 것은 실제적인 방어 수단이 됩니다. 하지만 사기 수법이 진화했을 때 그 확신은 업데이트되지 않았습니다. 여전히 철자를 보고 피싱을 식별할 수 있다고 믿는 사람은, 더 이상 철자 오류를 범하지 않는 위협에 맞서 방어하고 있는 것입니다.

저는 솔직하게 말씀드리고 싶습니다. 저 또한 소프트웨어 분야에서 일하고 있으며, 이 문제에서 예외는 아니기 때문입니다. 새로운 피싱 (Phishing)은 우리가 배우 대로 수행하는 테스트들을 통과하지 못하지 않습니다. 문법은 완벽합니다. 발신자는 적절해 보입니다. 요청은 그럴듯합니다. 맥락도 정확합니다. 과거의 교육이 우리에게 준 모든 휴리스틱 (Heuristic, 경험적 추론) 기준에 따르면, 이는 통과입니다. 즉, 그 휴리스틱이 바로 취약점이라는 뜻입니다. 만약 당신의 방어 체계 전체가 "정상적으로 보인다"에 의존하고 있다면, 당신은 방어 수단이 없는 것입니다. 왜냐하면 정상적으로 보이는 것이야말로 현재 기술이 완벽하게 수행하는 바로 그 일이기 때문입니다.

Arup의 직원은 부주의하지 않았습니다. 그는 의심했고, 확인하려 노력했으며, 과거에는 황금 표준 (Gold standard)이었던—동료를 보고 목소리를 듣는—확인 방식에 의해 패배했습니다. 노동 역사의 대부분 동안 "그들과 직접 대화했다"는 것은 증거였습니다. 그 가정은 만료되고 있으며, 이는 먼 미래의 일이 아닙니다. 홍콩의 한 금융 사무실에서, 완전히 정상적으로 보였던 화상 통화를 통해 이미 만료되었습니다.

현재 실제로 작동하는 방법

방어 전략은 가짜를 찾아내는 것에서 요청을 검증하는 것으로 전환되어야 합니다. 더 이상 메시지 자체를 인증할 수는 없습니다. 요청 (Ask)을 인증해야 합니다.

두 번째의 독립적인 채널을 통해 검증하십시오. 만약 요청이 자금 이동, 결제 정보 변경, 자격 증명 (Credentials) 공유, 또는 실질적인 결과가 따르는 그 어떤 것이라도 포함한다면, 요청이 도착한 채널이 아닌 다른 채널을 통해, 이미 당신이 보유하고 있는 연락처를 사용하여 확인하십시오. 이메일이 CFO로부터 온 것이라고 하나요? 알고 있는 번호로 CFO에게 전화를 거십시오. 사내 도구로 메시지를 보내십시오. 공격자는 요청이 들어온 채널을 통제하고 있습니다. 하지만 당신이 독립적으로 선택한 채널은 통제하지 못합니다. 주목할 점은, 이것이 바로 Arup의 손실을 막을 수 있었던 정확한 단계였다는 것입니다. 송금이 이루어진 후가 아니라, 송금 전에 본사에 전화 한 통만 했더라면 말입니다.

긴급함을 지시가 아닌 경고로 간주하십시오. 이러한 공격의 거의 모든 사례는 시간적 압박을 만들어냅니다. “오늘 업무 종료 전까지.” “고객이 기다리고 있습니다.” “지금 회의에 들어가야 하니 그냥 처리해 주세요.” 긴급함은 당신이 검증하는 것을 막기 위해 설계되었습니다. 요청이 압박과 결과(consequence)를 결합한다면, 바로 그 점 때문에 더 속도를 늦춰야 합니다.

정상적인 프로세스를 깨뜨리는 모든 것을 의심하십시오. CEO가 주니어 직원에게 기프트 카드를 요구하는 이메일을 직접 보내는 일은 실제로 일어나지 않습니다. 실제 결제 정보 변경은 공식적인 채널을 통해 이루어집니다. 어떤 특별한 상황 때문에 “이번 한 번만” 평소의 절차를 건너뛰라고 메시지가 온다면, 그 특별한 상황 자체가 바로 사기입니다.

당신의 공개 정보가 공격자의 도구 상자(toolkit)라고 가정하십시오. 당신의 직업적 삶을 비공개로 돌릴 수는 없으며, 그럴 필요도 없습니다. 하지만 당신의 LinkedIn, 회사 프로필, 그리고 과거에 유출된 비밀번호들이 모두 이러한 공격의 밑거름이 되고 있다는 사실을 인지한다면, 이를 인용하는 메시지를 읽는 방식이 달라질 것입니다. 이메일이 당신에 대한 실제 정보를 알고 있다는 사실은 더 이상 그것이 진짜라는 증거가 아닙니다. 그것은 단지 공격자가 사전 조사를 마쳤다는 증거일 뿐이며, 이제 그 작업은 몇 초면 충분합니다.

우리가 아직 이루지 못한 변화

지난 20년 동안 보안 교육은 메시지를 보고 그것이 합법적인지 판단하는 법을 가르쳐 왔습니다. 그 모델 전체는 합법성이 눈에 보이고, 가짜에는 특징(tells)이 있으며, 주의 깊은 눈을 통해 진짜와 사기를 구분할 수 있다는 가정을 전제로 했습니다.

AI는 그 밑바탕이 되는 가정을 깨뜨렸습니다. 가짜는 더 이상 가짜처럼 보이지 않습니다. 가짜는 실제보다 더 좋아 보입니다. 왜냐하면 그렇게 최적화(optimised)되었기 때문입니다.

이것이 요구하는 정신적 변화는 불편합니다. 왜냐하면 우리 대부분이 가졌던, 즉 '나 개인은 너무 영리해서 속지 않을 것'이라는 조용한 자신감을 포기해야 함을 의미하기 때문입니다. 우리는 그렇게 영리하지 않았습니다. 우리는 그저 게으른 공격자들을 상대해 왔을 뿐입니다. 이제 공격자들은 자동화되었으며, 유일하고 지속 가능한 방어책은 눈에 보이는 것을 신뢰하는 것을 멈추고, 요청받은 일을 검증(verifying)하기 시작하는 것입니다.

이메일은 당신의 이름을 알고 있습니다. 당신의 상사가 누구인지도 알고 있습니다. 당신의 마지막 프로젝트가 무엇이었는지도 알고 있습니다. 하지만 그 중 어느 것도 그것이 진짜라는 것을 의미하지는 않습니다. 그저 숙제(homework) 비용이 저렴해졌음을 의미할 뿐입니다.