전화가 울립니다. 당신은 전화를 받습니다. 수화기 너머로 당신의 딸이 비명을 지르고 있습니다. 한 남자의 목소리가 들립니다. 그가 딸을 데리고 있습니다. 그는 돈을 원합니다. 바로 지금 말입니다.

그녀가 울고 있는 소리가 들립니다. 그것은 그녀의 목소리입니다. 그녀의 정확한 목소리입니다. 목소리가 실제이기 때문에 그 공포는 진짜처럼 들립니다.

당신의 남편이 달려옵니다.

1/ Arizona 사례.

한 어머니가 전화를 받았습니다. 그녀의 딸은 흐느끼고 있었습니다. 한 남자가 딸을 데리고 있다고 말했습니다. 그는 100만 달러를 원했습니다.

그녀는 배경에서 딸이 애원하는 소리를 들을 수 있었습니다. 목소리는 완벽했습니다. 울음소리도 완벽했습니다.

그녀의 남편은 딸이 그녀의 방에서 잠든 것을 발견했습니다.

2/ 2,500만 달러짜리 통화.

런던의 한 금융 종사자가 CEO 및 세 명의 동료와 화상 회의(video call)에 참여했습니다. 그들은 자금 이체(funds transfer)에 대해 논의했습니다. 그는 지침을 따랐습니다.

회의에 참석한 모든 사람은 AI였습니다. 모든 얼굴은 가짜였습니다. 모든 목소리도 가짜였습니다. 회의 전체가...

3/ 3초의 법칙.

그것은 음성 복제(voice cloning) 도구가 필요로 하는 오디오의 양입니다. 3초입니다.

생일 영상. 업무 발표. Instagram 스토리. 음성 메시지 인사말.

사람들의 53%는 일주일에 적어도 한 번은 자신의 목소리를 온라인에 공유합니다.

당신이 게시한 모든 영상은 가공되지 않은...

4/ 방어의 격차.

AI 안전(AI safety) 산업은 가짜 정치 영상에 대응하기 위해 딥페이크(deepfake) 탐지기를 구축하는 데 수년을 보냈습니다. 대통령이 하지도 않은 말을 하는 영상. 일어나지도 않은 영상 속의 후보자들.

그 위협은 결코 도래하지 않았습니다. 단 하나의 선거도 딥페이크 영상에 의해 결정되지 않았습니다.

그...

5/ 수치.

AI 음성 복제 사기는 1년 만에 1,300% 증가했습니다.

전 세계 성인 10명 중 1명이 타겟이 되었습니다.

딥페이크 사기로 인한 손실은 2025년에 수십억 달러에 달했습니다.

한 19세 청년은 전화기 너머로 누나의 목소리를 들은 후 1,000달러를 지불했습니다. 누나는 무사했습니다. 목소리가 복제된 것이었습니다.

그...

이 스레드가 도움이 되었기를 바랍니다.

더 많은 정보를 위해 @heynavtoor를 팔로우하세요.

가능하다면 아래 인용글을 좋아요/리포스트 해주세요: