일론 머스크가 X에 올린 사진에서 개인 정보가 유출된 사건

Elon Musk는 최근 AI의 도움을 받아 구매한 스크린샷을 공유했는데, 여기에는 10자리 주문 번호, 전체 주소, 부분 결제 정보 등 민감한 정보가 포함되어 있었습니다.

이러한 노출로 인해 외부 사용자들이 판매자의 고객 서비스 챗봇을 통해 계정 소유자를 사칭하여 배송 세부 정보와 주문 수량을 수정할 수 있게 되었습니다.

이번 사건은 AI 에이전트가 레거시(legacy) 고객 지원 시스템과 통합될 때 발생하는 시스템적 위험과 공유된 UI 스크린샷에 상태 식별자(state identifiers)를 유출하는 위험성을 강조합니다.

다른 사용자들의 개입

한 X 사용자가 이메일 주소와 주문 번호를 사용하여 Lego의 자동화된 고객 서비스 시스템에 연락했고, 그 결과 주문을 취소할 수 있었던 것으로 알려졌습니다. 몇 시간 후, Musk는 자신의 주문이 결국 취소되지 않았다고 트윗했습니다.

또 다른 사용자는 같은 세부 정보를 회사 고객 서비스 시스템에 사용하여 배송 재주문하고, 수량을 400세트로 늘리며, 배송 주소를 변경했다고 합니다. 기자들이 이 사건들을 확인하기 위해 접촉했을 때, Lego는 논평을 거부했습니다.

이 사건은 Musk가 X 사용자들에게 신용카드 사진을 업로드하여 디지털 비서가 온라인 구매를 하도록 제안한 직후에 발생했습니다.

한편, Visa는 작년 말부터 인공지능을 통한 자동화된 쇼핑 사기 위험과 악의적인 의도를 가진 자동화 프로그램으로 시작되는 거래 증가에 대해 경고해 왔습니다.