피싱 캠페인들이 이메일 필터를 우회하기 위해 보이지 않는 유니코드 문자를 사용하기 시작했으며, 이를 발견한 것은 마이크로소프트(Microsoft) 자체 보안팀입니다.

작동 원리를 설명드리자면, 이해할 가치가 있습니다. 한번 보면 복잡하지 않기 때문입니다. 'ascii smuggling'이라는 기술은 원래 순수하게 AI 보안 위험으로 연구되었으며, 사람이 볼 수 없지만 AI 모델이 읽고 처리하는 텍스트 안에 보이지 않는 명령을 숨기는 방식입니다. 이 기법은 유니코드 문자 중 특정 범위인 태그 블록(tags block)을 사용하는데, 이는 일반 문자의 눈에 보이지 않는 그림자 복사본으로 화면에는 아무것도 표시되지 않습니다.

공격자들은 이와 정확히 같은 속임수를 가져와 AI 모델 대신 구식 이메일 필터에 겨냥했습니다. 필터가 감시하는 단어 안에 보이지 않는 문자를 하나 넣는 것입니다. 예를 들어, 'funding'을 'fun[보이지 않는 문자]ding'으로 만드는 식입니다. 당신은 여전히 'funding'을 완벽하게 정상적으로 봅니다. 하지만 필터의 키워드 매칭 기능은 완전히 다른 것을 감지하고 이를 통과시킵니다.

이것이 이론이 아니라 실제로 발생했다는 확신을 준 것은 그 규모였습니다. 마이크로소프트 자체 원격 측정(telemetry) 데이터에 따르면, 이 패턴으로 인한 탐지 건수가 2월 8일경 약 21,000건에서 다음 날인 130만 건 이상으로 급증했으며, 2월 말에는 하루에 최대 237만 통의 이메일에 달했습니다. 이는 약 3개월 동안 일관된 주중 스케줄로 진행되었고, 주말에는 조용하다가 월요일에 시계처럼 돌아왔으며, 마침내 5월에 감소세를 보였습니다.

유인 콘텐츠는 금융 관련 내용이었으며, 전송이나 청구서와 관련된 무언가를 클릭하도록 유도하는 이메일의 전형적인 종류였습니다. 이 보이지 않는 문자들은 오직 하나의 목적을 가지고 존재했습니다. 바로 공격자와 사용자의 받은 편지함 사이에 놓인 자동화된 필터를 빠져나가는 것이었습니다.

이것이 제가 이 주제에 대해 생각하는 방식을 실제로 바꾼 부분입니다. 의심스러운 이메일에 보이는 텍스트가 보안 필터가 실제로 처리한 내용과 반드시 일치하지는 않습니다. 키워드 스캐너에게는 완전히 깨끗해 보이고, 동시에 사용자에게도 완전히 정상적으로 보이는 것이 가능하며, 이것이 바로 이 기법이 존재하는 정확한 간극입니다.

대부분의 이런 것들이 고쳐지는 방식처럼, 나중에 조용히, 사후에, 누군가 마침내 패턴을 알아차린 후에 수정되었습니다. 이렇게 효과적인 기술이 몇 달 동안 탐지되지 않고 돌아다녔다는 점을 기억할 가치가 있으며, 이는 앞으로 공격 전술(attack tradecraft)이 AI 보안 연구에서 얼마나 많이 차용하게 될지에 대한 꽤 좋은 예고편입니다.