이제 목소리를 복제하는 데 단 3초의 오디오만 있으면 됩니다. 당신의 아이가 찍힌 공개 영상 하나면 충분합니다. 걸려 오는 전화는 아이의 목소리와 정확히 똑같이 들릴 것입니다. 당신의 귀에 들리는 모든 면에서, 그것은 정말 아이와 같기 때문입니다.

Jennifer DeStefano는 딸의 무용 스튜디오에 들렀을 때 모르는 번호로 걸려 온 전화를 받았습니다. 그녀는 전화를 받았습니다. 수화기 너머의 목소리는 흐느끼며 "엄마, 나 사고 쳤어"라고 말하는 15세 딸 Brianna의 목소리였습니다. 그러고 나서 한 남자의 목소리가 이어졌습니다. 그는 그녀의 딸을 붙잡고 있다고 말했습니다. 그는 100만 달러를 요구하더니, 현금 5만 달러로 금액을 낮추었고, DeStefano에게 인계가 어떻게 이루어질지 정확히 설명했습니다.

하지만 Brianna는 괜찮았습니다. 그녀는 스키 여행을 떠나 안전하게 있었으며, 이 사람들 근처에는 근처에도 없었습니다. 그 목소리는 AI 클론 (AI clone)이었으며, 그 통화가 이어지는 동안 DeStefano는 이를 알 방법이 없었습니다. 그녀가 나중에 미국 상원 (US Senate)에서 증언했듯이, 그것은 단지 Brianna의 목소리뿐만이 아니었습니다. 그것은 그녀의 울음소리, 흐느낌, 그리고 겁에 질렸을 때 들리는 특유의 목소리였습니다. DeStefano가 가진 모든 본능은 행동하라고 말했습니다. 그녀가 돈을 지불하지 않고 구할 수 있었던 것은 근처에 있던 다른 학부모가 911에 전화했고, 돈이 오가기 전에 딸의 신변이 확인되었다는 소식이 전해졌기 때문입니다.

그녀는 운이 좋은 편이었습니다. 이런 전화를 받는 대부분의 사람들은 실제 당사자에게 제때 연락할 수 있는 사람이 곁에 있지 않습니다. 이것이 현재의 사기 수법입니다. 그리고 과거에 통했던 유일한 방어 기제, 즉 "그 목소리가 꼭 아이 같지는 않은데"라고 생각하게 되는 그 순간이 삭제되었습니다.

3초

방어 방법은 기술적 현실을 이해하는 것에 달려 있으므로, 이를 명확하게 설명하겠습니다.

현대의 음성 복제 (Voice cloning) 기술은 설득력 있는 복제본을 만들기 위해 누군가의 목소리가 약 3초 정도만 있으면 됩니다. 3초입니다. 이는 TikTok 클립보다 짧고, Instagram 스토리보다 짧으며, 당신의 전화기 음성 사서함 인사말보다도 짧습니다. 이 근본적인 능력은 2023년 논문에서 설명된 Microsoft Research의 VALL-E라는 시스템으로 거슬러 올라가는데, 이 시스템은 특별한 튜닝 (Tuning) 없이도 약 3초의 오디오만으로 톤 (Tone), 격조 (Cadence), 억양 (Accent)을 유지하면서 개인화된 음성을 합성할 수 있었습니다.

그것은 실험실에서의 돌파구였습니다. 그리고 실험실 안에만 머물지 않았습니다.

2026년까지 보안 연구원들은 실시간 음성 변환 (Voice conversion)을 수행하는 수십 개의 공개 도구들을 목록화했습니다. 사기꾼이 마이크에 대고 말을 하면, 출력되는 소리는 실시간 통화 중인 다른 사람의 목소리처럼 들립니다. 그들은 당신의 질문에 대답할 수 있습니다. 당신이 하는 말에 반응할 수 있습니다. 대화는 자연스럽게 흘러갑니다. 왜냐하면 도난당한 목소리를 가면처럼 쓰고 있는 실제 인간이 대화를 주도하고 있기 때문입니다.

원재료는 가장 평범한 곳에서 옵니다. Facebook의 생일 영상. YouTube의 졸업 영상. 다른 사람의 게시물 배경에서 들리는 당신의 손주가 말하는 몇 초간의 소리. 그 어떤 것도 민감하게 느껴지지 않습니다. 하지만 그 모든 것이 충분합니다.

수치 (The Numbers)

저는 통계에 대해 신중한 편입니다. 공포가 통계를 부풀리기 때문입니다. 그래서 여기 문서화된 수치들을 제시합니다.

FBI에 따르면, 60세 이상의 미국인들은 2025년에 77억 달러 이상의 사이버 범죄 피해를 보고했으며, 이는 전년 대비 59% 증가한 수치입니다. 해당 보고서의 거의 25년 역사상 처음으로, FBI는 AI 관련 불만 사항을 별도의 카테고리로 분류했으며, 조정된 손실액이 8억 9,300만 달러에 육박하는 22,000건 이상의 불만 사항을 기록했습니다. 분석가들은 이 수치가 극도로 과소평가된 것이라고 널리 간주합니다. 왜냐하면 이러한 사기의 대부분의 피해자들은 피해 사실을 보고하지 않으며, 많은 이들이 인공지능 (Artificial intelligence)이 연루되었다는 사실조차 전혀 깨닫지 못하기 때문입니다.

2025년 8월, 매사추세츠(Massachusetts) 연방 검찰은 400명 이상의 피해자로부터 500만 달러 이상을 갈취한 조부모 사기(grandparent-scam) 조직의 일원 13명을 기소했습니다. 피해자의 평균 연령은 84세였습니다. 이 범죄 조직은 도미니카 공화국(Dominican Republic)의 콜센터에서 운영되었으며, 대본(scripts)과 개인 정보를 사용하여 전화를 거는 사람이 실제 가족 구성원처럼 들리도록 만들었습니다.

2025년 7월, 플로리다(Florida)의 Sharon Brightwell라는 여성은 딸의 목소리를 복제(cloned)한 음성이 담긴 전화를 받고 15,000달러를 잃었습니다. 그 목소리는 자신이 자동차 사고를 냈다고 흐느꼈습니다. 그러자 한 남성이 변호사라고 주장하며 나타나 현금 보석금을 요구했습니다. 최근 은퇴한 Brightwell은 저축해 둔 돈을 인출하여 상자에 담은 뒤, 집 앞까지 찾아온 운전기사에게 건네주었습니다. 직장에서 무사히 일하고 있던 실제 딸에게 손자가 전화를 걸어보고 나서야 가족들은 상황을 파악했습니다. 그때 이미 돈은 사라진 뒤였습니다. 이러한 패턴은 모든 주와 여러 국가에서 반복되고 있으며, 그 구조는 항상 동일합니다. 익숙한 목소리, 갑작스러운 위기, 그리고 생각할 겨를도 없이 행동하도록 몰아붙이는 끊임없는 압박입니다.

왜 똑똑한 사람들에게도 통하는가

만약 당신이 이 글을 읽으며 자신은 절대 속지 않을 것이라고 생각한다면, 그 본능은 이해합니다. 하지만 당신은 틀렸으며, 그 이유는 이해할 가치가 있습니다.

이러한 사기는 당신의 지능을 겨냥하지 않습니다. 당신의 신경계 (nervous system)를 겨냥합니다. 당신의 자녀나 손주가 다치고, 겁에 질려 있으며, 위험에 처했다고 믿는 순간, 뇌의 이성적인 부분은 더 이상 통제권을 갖지 못합니다. 공황 (Panic)이 분석 (analysis)을 압도합니다. 이것은 성격적 결함이 아닙니다. 인간이 만들어진 방식입니다. 사기꾼들은 이 점을 정확히 알고 있으며, 그렇기에 모든 대본은 공포와 긴박함을 극대화하고 당신이 잠시 멈춰 생각하는 것을 방지하도록 설계되어 있습니다.

그들은 기술적 약점에 대한 대비책까지 마련해 둡니다. “사고가 나서 코가 부러졌어요”라는 대사는 목소리가 약간 이상하게 들리는 이유를 설명하기 위해 존재합니다. 연결 상태가 좋지 않다는 핑계는 디지털 아티팩트 (digital artifacts)를 가려줍니다. “엄마 아빠한테는 말하지 마세요”라는 지시는 피해자를 고립시키고, 이 모든 사기 행각을 폭로할 수 있는 단 한 번의 전화조차 차단합니다.

디지털 위조 (digital forgery) 분야의 세계적인 전문가 중 한 명인 Hany Farid는 본능에 반하는 조언을 건넵니다. 목소리를 확인하려고 애쓰지 마십시오. 불가능합니다. 기술은 이미 당신의 귀를 믿을 수 있는 단계를 넘어섰습니다. 대신, 요청의 성격에 온전히 집중하십시오. 발신자가 긴박함을 조작하고 있습니까? 비밀로 해달라고 요청합니까? 송금 (wire transfers), 암호화폐 (cryptocurrency), 기프트 카드 (gift cards), 퀵서비스 기사에게 전달하는 현금처럼 되돌릴 수 없는 결제 수단으로 당신을 유도하고 있습니까? 이제 그것들이 바로 징후 (tells)입니다. 목소리가 아닙니다. 목소리는 완벽합니다. 사기가 숨어 있는 곳은 바로 그 요청입니다.

실제로 해야 할 일

이 부분은 부모님께 보내드려야 할 내용입니다. 의도적으로 짧게 작성되었습니다.

오늘 가족만의 안전 암호 (safe word)를 정하세요. 직계 가족만이 아는 단어나 짧은 문구를 선택하십시오. 온라인에 나타난 적이 없어야 하며, 반려동물의 이름, 거리 이름, 학교 이름처럼 소셜 미디어 (social media)를 통해 추측할 수 있는 것이어서는 안 됩니다. 누군가 비상 상황이라며 가족을 사칭해 전화하면, 그 암호를 물어보십시오. 암호를 말하지 못한다면 전화를 끊으십시오. 이것은 당신이 할 수 있는 가장 영향력 있는 단 한 가지 행동이며, 2분도 걸리지 않고, 어떤 기술도 필요하지 않습니다. 이 메시지를 보내십시오. 필요해지기 전에 미리 설정해 두십시오.

전화를 끊고 다시 거세요. 모르는 번호, 혹은 익숙한 목소리의 번호로부터 괴로운 전화가 걸려온다면 일단 통화를 종료하십시오. 그런 다음 이미 저장되어 있는 번호로 그 사람에게 직접 전화를 거십시오. 만약 그들이 정말로 곤경에 처한 것이라면, 그 전화가 그들에게 닿을 것입니다. 만약 사기였다면, 당신은 방금 함정에서 빠져나온 것입니다. 발신자가 알려주는 그 어떤 번호로도 전화하지 마십시오.

이러한 결제 방식은 즉각적인 경고 신호(flashing red light)로 간주하십시오. 실제 병원, 법원, 경찰서 또는 보석 절차에서는 기프트 카드, 암호화폐 (cryptocurrency), 낯선 계좌로의 계좌 이체 (wire transfer), 또는 집으로 찾아온 사람에게 현금을 직접 전달하는 방식을 요구하지 않습니다. 결제 방식이 이례적이고 압박이 극심하다면, 그것은 사기입니다. 매번 그렇습니다.

속도를 늦추십시오. 이러한 사기들은 모두 속도에 의존합니다. 해결책은 그 속도를 거부하는 것입니다. 실제 응급 상황은 확인을 위한 5분간의 일시 정지에도 견뎌냅니다. 사기는 그렇지 못합니다. 즉각적으로 행동하라는 압박은 실제 위기의 증거가 아닙니다. 그것은 사기의 증거입니다.

내 마음속에 남은 부분

나는 이 이야기들에 등장하는 부모와 조부모들을 자주 생각합니다. 왜냐하면 이 특정 사기의 잔인함은 매우 구체적이기 때문입니다.

이 사기는 사랑을 무기화합니다. 사람이 가진 가장 깊은 본능, 즉 자녀를 보호하려는 반사적인 행동을 가져와 그것을 바로 절도의 메커니즘으로 바꾸어 버립니다. 피해자들은 부주의하거나 어리석은 사람들이 아닙니다. 그들은 가족이 고통받는 소리를 듣고, 품격 있는 사람이라면 누구나 할 법한 행동을 한 사람들입니다. 그들은 도우려 노력했을 뿐입니다.

우리는 익숙한 목소리를 듣는 것이 더 이상 아무것도 증명하지 못하는 시대에 진입하고 있습니다. 그것은 진정한 상실이며, 상실이라고 명명할 가치가 있습니다. 인류 역사의 대부분 동안 목소리는 정체성이었습니다. 전화기 너머의 어머니를, 어두운 방 건너편의 친구를, 다른 도시에서 전화하는 자녀를 알 수 있는 방법이었습니다. 그 확실성은 이제 사라졌고, 우리 모두가 배워야 하는 작은 확인 절차로 대체되었습니다.

그러니 그 절차를 배우십시오. 안전 암호 (safe word)를 정해두십시오. 누군가 타인의 목소리를 빌려 당신에게 강제로 대화를 시도하기 전에, 당신이 사랑하는 사람들과 미리 어색한 대화를 나누어 두십시오.