Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
LLM의 환각 현상으로 생성된 존재하지 않는 도메인을 공격자가 선제적으로 등록하여 활용하는 '팬텀 스쿼팅' 위협이 발견되었습니다. 공격자들은 AI가 생성할 것으로 예측되는 URL을 미리 점유하여 보안 필터를 우회하는 공급망 공격을 시도하고 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기⚠️ 지역 경보: UAE/중동
Unit 42 연구원들은 대규모 언어 모델(LLMs)이 지속적으로 환각(hallucination)을 일으키는 존재하지 않는 웹 도메인을 공격자가 등록하는 "팬텀 스쿼팅(phantom squatting)"이라 불리는 새로운 공급망 위협을 식별했습니다. 900개 이상의 글로벌 브랜드와 210만 개의 AI 생성 URL을 분석한 결과, 공격자들이 전통적인 평판 기반 보안 필터를 우회하기 위해 이러한 "깨끗하게 태어난(born clean)" 도메인들을 선제적으로 무기화하고 있다는 사실을 발견했습니다. 주목할 만한 사례로는, 공격자가 AI 코딩 어시스턴트를 사용하여 Montana Empire이라는 피싱 키트를 개발하고, 연구자들이 23일 전에 예측했던 도메인을 타겟팅한 사건이 있었습니다.
연구에 따르면 약 250,000개의 고유한 팬텀 도메인이 아직 등록되지 않은 상태로 남아 있으며, 이는 선제적 착취를 위한 상당한 기회를 제공합니다. 이러한 취약점은 문서나 API 엔드포인트를 위해 LLM이 생성한 URL을 신뢰하는 자율 AI 에이전트와 개발자들에게 특히 위험합니다. 이러한 환각은 모델의 내부 언어 패턴을 기반으로 예측 가능한 경우가 많기 때문에, 방어자들에게는 이러한 도메인들이 공식적으로 등록되어 무기화되기 전에 식별하고 차단할 수 있는 독특한 기회인 "적대적 착취 창(adversarial exploitation window)"이 존재합니다.