⚠️ 지역 경보: UAE/중동

Unit 42 연구원들은 대규모 언어 모델(LLMs)이 지속적으로 환각(hallucination)을 일으키는 존재하지 않는 웹 도메인을 공격자가 등록하는 "팬텀 스쿼팅(phantom squatting)"이라 불리는 새로운 공급망 위협을 식별했습니다. 900개 이상의 글로벌 브랜드와 210만 개의 AI 생성 URL을 분석한 결과, 공격자들이 전통적인 평판 기반 보안 필터를 우회하기 위해 이러한 "깨끗하게 태어난(born clean)" 도메인들을 선제적으로 무기화하고 있다는 사실을 발견했습니다. 주목할 만한 사례로는, 공격자가 AI 코딩 어시스턴트를 사용하여 Montana Empire이라는 피싱 키트를 개발하고, 연구자들이 23일 전에 예측했던 도메인을 타겟팅한 사건이 있었습니다.

연구에 따르면 약 250,000개의 고유한 팬텀 도메인이 아직 등록되지 않은 상태로 남아 있으며, 이는 선제적 착취를 위한 상당한 기회를 제공합니다. 이러한 취약점은 문서나 API 엔드포인트를 위해 LLM이 생성한 URL을 신뢰하는 자율 AI 에이전트와 개발자들에게 특히 위험합니다. 이러한 환각은 모델의 내부 언어 패턴을 기반으로 예측 가능한 경우가 많기 때문에, 방어자들에게는 이러한 도메인들이 공식적으로 등록되어 무기화되기 전에 식별하고 차단할 수 있는 독특한 기회인 "적대적 착취 창(adversarial exploitation window)"이 존재합니다.

전체 기사 읽기