수화기 너머에서 당신의 딸 목소리가 울먹이며 들려옵니다. 사고가 났으니 지금 당장 돈이 필요하며, 다시 전화하려고 하지 마라, "전화기를 뺏길 것이다"라고 말합니다. 4분 후 밝혀진 사실은 이렇습니다. 딸은 무사하며 심지어 스키장에 있습니다. 이것은 사고 실험이 아닙니다. 2023년 1월 20일, 애리조나의 제니퍼 데스테파노(Jennifer DeStefano)가 이런 전화를 받았으며, 수화기 속 목소리는 합성된 것이었습니다.

이러한 일을 가능하게 하는 기술은 일상적으로 AI voice changer라고 불립니다. 타인의 목소리 복제본을 약 85%의 일치율로 만들어내기 위해, 모델에는 3초의 깨끗한 녹음 데이터만 있으면 충분했습니다. 이는 McAfee가 2023년 "Beware the Artificial Imposter" 보고서에서 제시한 측정치이며, 더 많은 녹음 데이터가 있으면 일치율은 95%까지 올라갔습니다. 이 측정으로부터 3년이 지났고, 그 이후로 임계값은 계속 낮아졌습니다. 2026년에는 더 많은 자료가 필요하다는 초기 데이터는 없습니다.

다음은 사기꾼들을 위한 지침이 아닌, 방어 전략입니다. 이미 얼마나 많은 금액이 도난당했는지, 왜 아무도 위조를 알아채지 못하는지(수치 데이터 포함), 그리고 복제본이 완벽하더라도 작동하는 가족 프로토콜은 무엇인지에 대해 다룹니다.

3초의 타인 녹음이 어떻게 "당신의 아이"가 되는가

요약하자면: 모델은 녹음에서 음색의 일종인 스펙트로그램(spectrogram)을 추출하고, 이를 바탕으로 생성기(generator)를 추가 학습시킵니다. 설득력 있는 복제본을 만드는 데는 몇 초면 충분하며, 실시간으로 목소리를 변조하는 무료 프로그램도 존재합니다.

McAfee Labs는 공개된 환경에서 10개 이상의 무료 복제 도구를 발견했으며, 일부 서비스는 월 15달러부터 시작합니다(동일한 보고서, 2023년 4월 7개국 성인 7,054명 대상 설문조사). 실시간으로 작동하는 일상적인 AI voice changer의 예로는 오픈 소스 클라이언트인 w-okada가 있습니다. 이 프로그램은 RVC 모델을 사용하여 실시간으로 목소리를 변경하며, Discord, Zoom, OBS와 연동되며, 그래픽 카드(GPU)에서의 지연 시간은 100밀리초(ms) 미만입니다. 프로그램은 무료입니다. "Discord에서 귀여운 목소리 만드는 법"과 같은 가이드는 이 프로그램의 가장 무해한 시나리오입니다. 하지만 동시에 이 기술은 전화 사기(phone scam)의 기술적 기반이 됩니다. 타인의 음색을 입히고 번호를 누르기만 하면 되기 때문입니다.

별도의 산업 분야는 합성의 인간화(humanization)입니다. 청취자의 뇌가 스스로 살아있는 사람이라고 인식하도록 클론에 휴지(pause), 배경 소음, 흐느낌, 말실수 등을 추가합니다.

원본 목소리는 스토리(stories), 음성 메시지, 인터뷰 등에서 가져옵니다. McAfee의 조사에 따르면 성인의 53%가 최소 일주일에 한 번은 자신의 목소리를 온라인에 게시합니다. 러시아에서는 두 가지 추가적인 수집 방식이 나타났습니다. 하나는 음성을 녹음하기 위해 긴 질문을 던지는 '가짜 사회 조사(fake social survey)' 방식이며(VisionLabs에서 이러한 사례를 설명함), 다른 하나는 '가짜 성우 채용 공고'입니다. Angara Security의 데이터에 따르면, 이러한 공고의 수는 2021년 1,200건에서 2023년 7,000건으로 증가했습니다. 러시아 은행 협회(Association of Banks of Russia)의 아나톨리 코즐라치코프(Anatoly Kozlachkov) 회장은 자신의 합성된 목소리가

동시에 전화 통화 건수는 감소했습니다. 2026년 1분기 통화 수는 전년 동기 대비 45% 급감했으며, 수신 전화 중 사기 전화의 비중은 1% 미만으로 떨어졌고, MTS 네트워크 내 사기 및 스팸 전화는 74% 감소했습니다. 하지만 트래픽의 질이 변했습니다. vc.ru가 «MegaFon»을 인용해 보도한 데이터에 따르면, 합성되거나 복제된 목소리를 사용한 전화는 이미 네트워크 내 사기 트래픽의 약 10%를 차지하고 있으며(2026년 4월 기준), 해당 통신사는 2025년 한 해 동안 8억 6,500만 건 이상의 이러한 통화를 차단했습니다. 또한 내무부(MVD)를 인용한 동일 보고서에 따르면, 올해 초부터 딥페이크 아바타(deepfake-avatar)로 인한 피해자는 약 4,000명에 달합니다. 해당 정보는 공식 통계가 아닌 저자의 칼럼을 인용한 것이므로 주의가 필요합니다.

세계적 배경: FBI IC3는 2025년 한 해 동안 AI 사기로 인한 신고된 손실액을 약 8억 9,300만 달러로 집계했으며, 이 중 3억 5,200만 달러는 60세 이상의 피해자들에게 발생했습니다. CrowdStrike는 2024년 하반기에 비싱(vishing, 음성 피싱)이 442% 증가했으며, 2025년 1분기에는 딥페이크 비싱(deepfake-vishing)이 1,633% 급증했다고 기록했습니다. Deloitte는 2027년까지 미국의 생성형 AI 사기(GenAI-fraud)로 인한 손실이 400억 달러 수준에 달할 것이라고 예측합니다. 이 섹션의 모든 수치는 2026년 7월 기준입니다.

한 번의 전화에 담긴 네 가지 수법

요약하자면: 수법은 거의 항상 동일합니다. 가족의 목소리, '권위자'에 의한 대화 장악, 전화를 끊지 못하게 함, 그리고 돌이킬 수 없는 결제입니다. 이 구조를 파악한다면, 당신에게는 전화를 끊기까지 단 몇 초의 시간만이 주어집니다.

첫 번째 단계 - 목소리: 익숙한 음색의 3초는 그 어떤 말보다 빠르게 비판적 사고를 마비시킵니다.

두 번째 단계 - 권위: '의사', '경찰', 또는 '변호사'가 전화를 받습니다. 이는 당신이 복종하는 데 익숙한 역할들입니다. 세 번째 단계 - 고립: "전화를 끊지 마세요", "아무에게도 전화하지 마세요", "이것은 비밀입니다"라고 말합니다. 네 번째 단계 - 돈: '안전 계좌'로의 송금, 퀵서비스, 또는 SMS 인증 코드 요구입니다.

«강탈자(Похититель)» 데스테파노(DeStefano)는 처음에 100만 달러를 요구했다가 나중에 5만 달러로 낮추었습니다. 하지만 이 사기극은 딸에게 전화를 걸어 확인하는 과정에서 4분 만에 무너졌으며, 2023년 6월 13일 데스테파노는 미국 상원 소위원회에서 증언했습니다.

기업 대상 버전의 수법은 더 고가입니다. 2024년 2월, 홍콩의 엔지니어링 기업 Arup의 직원이 사기꾼들에게 15건의 거래를 통해 5개 계좌로 HK$2억(약 2,560만 달러)을 송금했습니다. 사기꾼들은 치밀했습니다. 그들은 화상 회의를 소집했으며, '재무 이사(CFO)'를 포함한 모든 참가자는 딥페이크(Deepfake)였습니다. 이 모든 사실은 본사를 통해 재확인하는 과정에서 드러났습니다.

가짜를 들을 수 있을까?

결론부터 말하자면, 아니요입니다. 통제된 테스트에서 사람들은 동전 던지기 수준의 확률로 딥페이크를 식별하며, 자신의 귀를 믿는 확신 정도는 실제 결과와 상관관계가 없습니다.

iProov의 테스트(영국 및 미국 소비자 2,000명 대상, 2025년 2월)에 따르면, 참가자들에게 미리 경고를 했음에도 불구하고 모든 딥페이크와 실제 샘플을 정확히 구별해낸 사람은 단 0.1%에 불과했습니다. 반면 약 60%는 자신의 능력을 확신했으며, 55~64세 연령층의 30%, 65세 이상의 39%는 딥페이크에 대해 들어본 적조차 없었습니다. 단, 주의할 점은 이 연구가 iProov가 탐지기를 판매하는 업체로서 의뢰한 연구라는 점입니다.

의뢰되지 않은 데이터도 상황은 좋지 않습니다. 56개의 연구와 86,155명의 참가자를 대상으로 한 메타 분석(Diel 외 저자, Computers in Human Behavior Reports, 2024)에 따르면 평균 식별 정확도는 55.54%로 나타났습니다. 오디오의 경우 62.08%, 비디오의 경우 57.31%였습니다. UCL의 실험(PLOS ONE, 참가자 529명)에서는 사람들이 합성된 음성을 73%의 확률로 알아차렸으나, 제1저자인 Kimberly Mai는 테스트 샘플들이 현재 모델 기준으로는 "오래된" 것이었다고 언급했습니다. 즉, 모델이 구형임에도 불구하고 음색이 인간처럼 느껴진다는 뜻입니다.

Точность распознавания дипфейков человеком: метаанализ 55,54%, аудио 62,08%, видео 57,31%, UCL 73%, iProov 0,1%

식별할 수 있는 "흔적(seams)"은 존재합니다. 너무 일정한 템포, 구체적인 질문 회피, 다시 전화하는 것에 대한 단호한 거부 등이 그것입니다. 하지만 이것은 식별 기준일 뿐 방어책은 아닙니다. 청각적으로 목소리의 독창성을 검증하는 것은 불가능하며, 음색의 고유성이 "생체 인식 지문(biometric fingerprint)"으로서 갖는 가치는 녹음이 이루어지는 순간 그 자체로 훼손됩니다. 여기서 제가 우려하는 점은, "그저 더 주의 깊게 들으라"는 조언을 여전히 iProov 테스트조차 통과하지 못할 사람들이 하고 있다는 사실입니다.

전화가 연결된 첫 1분 동안 해야 할 일

요약하자면: 목소리를 검증하지 말고, 절차를 검증하세요. 침묵(pause), 폐쇄형 질문(closed question), 본인이 직접 번호를 눌러 다시 전화하기. 한 줄 규칙: 긴급함(urgency)과 비밀 유지(secrecy)가 결합되면 사기(scam)입니다.

1. 침묵(Pause). 어떤 종류든 "긴급하다"는 말은 레드 플래그(red flag)입니다. 진짜 위기 상황이라면 확인을 위해 5분 정도의 여유가 있지만, 사기꾼에게는 그런 여유가 없습니다. 그들의 모델은 당신이 통화 중인 동안에만 유효하기 때문입니다.
2. 당신과 상대방 둘만이 알고 있는 답을 요구하는 폐쇄형 질문을 하세요. "고양이 이름이 뭐야"(이것은 소셜 미디어에 있습니다)가 아니라, "우리가 할머니 환갑 때 무엇을 선물했었지"와 같은 질문이어야 합니다.
3. 가족만의 암호(Code word)를 만드세요. 미리 가족들과 합의하고, 1년에 한 번씩 변경하며, 메시지 기록에 남겨두지 마세요.
4. 전화를 끊고 당신의 연락처에 저장된 번호로 직접 다시 전화하세요. 데 스테파노(DeStefano) 수법은 바로 이 단계, 즉 4분 만에 무너졌습니다.
5. "지금 당장" 결제하지 마세요. 송금, 퀵서비스, "안전 계좌" 그 무엇도 안 됩니다.

러시아 중앙은행(Bank of Russia)은 이미 2024년 1월에 "가족 목소리" 수법에 대해 경고한 바 있습니다. 분석가 엘다르 무르타진(Eldar Murtazin)은 사기꾼들이 자신의 아이 목소리를 합성하여 전화를 걸었으며, 그것이 "완벽하게 일치했다"고 전했습니다. 전문가들이 공통적으로 제시하는 방어책은 바로 앞서 언급한 암호(code word)입니다.

두 번째 방법은 통화 내용의 텍스트 확인입니다. 대화 내용을 Claude나 다른 거대 언어 모델(LLM)에 복사하여 붙여넣고 직접 물어보세요. '이것이 스캠 시나리오와 비슷한가요?', '압박을 가하는 마커(marker) 문구는 무엇인가요?'라고 묻는 것입니다. LLM은 음성 감지기(detector)는 아니지만, 사기꾼의 스크립트는 텍스트적으로 단조롭고 모델들이 이를 알고 있습니다. 이러한 점검 방법은 러시아에서 두 줄을 변경하며 도입되었습니다: 키와 base_url을 단일 API provod.ai로 통일했습니다. 이 API는 OpenAI-SDK와 Anthropic 모두와 호환되므로, 당신의 '바샤(Вася)'라는 만능 AI 비서가 코드를 다시 작성할 필요 없이 같은 환경에서 작동하게 됩니다.

이 프로토콜이 해결하지 못하는 것들

간단히 말해, 이 프로토콜은 하나의 통화로부터 보호하지만, 세상 전체를 안전하게 만들지는 못합니다. 앱 기반 감지기나 '그냥 목소리를 공개하지 않는 것'도, 심지어 자신의 귀를 믿는 것도 도움이 되지 않습니다.

감지기(Detectors). DeepFake-Eval-2024 벤치마크는 소셜 미디어의 실제 콘텐츠를 사용하여 상용 감지기가 현장에서 약 78%의 정확도를 보였지만, WEF 평가에 따르면 실험실 외부에서는 감지 AI의 효율성이 45~50%까지 떨어집니다. 저는 가족의 안전을 그런 모래성 같은 것에 맡기지는 않을 것입니다.

'목소리를 공개하지 않기'는 평행 우주의 조언입니다: 성인의 53%가 이미 최소 주 1회는 목소리를 공개하고 있습니다. 동의어화(Synonymizer)나 'AI 텍스트' 감지기는 여기서 이중으로 쓸모가 없습니다. 왜냐하면 그것들은 음색이 아니라 단어를 다루기 때문입니다. 마지막으로, AI 리터러시: skillbox 같은 과정은 기초를 가르치지만, 위에 제시된 다섯 가지 항목의 가족 프로토콜이 더 간단하고 저렴하며 오늘 저녁부터 작동하기 시작합니다.

이미 법으로 금지된 것들

간단히 말해, 미국에서는 수신자의 동의 없이 복제된 목소리를 사용한 로봇 전화를 2024년 2월부터 불법화했습니다. 러시아에서는 시민의 목소리 보호에 관한 법안이 국회(Gosduma)에 제출되었지만 아직 통과되지 않았습니다.

FCC 선언적 결정(Declaratory Ruling) 24-17(2024년 2월 8일, 만장일치 채택)은 AI로 생성된 목소리를 TCPA(Telephone Consumer Protection Act) 법에 따라 "인공 목소리 (artificial voice)"로 인정했습니다. 동의 없이 복제된 목소리로 자동 전화(robocall)를 거는 경우, 전화 한 통당 500달러에서 1,500달러 사이의 벌금이 부과됩니다. 2024년 4월 1일부터는 AI 콘텐츠를 포함한 사칭(impersonation)에 반대하는 FTC 16 CFR 461 규칙이 시행 중이며, AI 목소리를 이용한 "가족" 사기 수법에 대한 FTC의 첫 번째 경고는 이미 2023년 3월 20일에 발표되었습니다.

사법 정의의 속도를 보여주는 지표적 사례: 뉴햄프셔 프라이머리(primary) 직전(2024년 1월)에 발생한 "바이든 로보콜(Biden robocall)"은 약 20분과 1달러 정도의 비용으로 제작되었습니다. FCC는 주최자인 스티브 크래머(Steve Kramer)에게 2024년 9월 600만 달러의 벌금을 부과했으나, 2025년 6월 법원은 그의 형사 혐의에 대해 무죄를 선고했습니다. 벌금은 있지만, 징역형은 없습니다.

러시아의 경우, СенатИнформ(SenatInform)의 데이터에 따르면 2025년 상반기 딥페이크 사기는 전년 대비 2.3배 증가했습니다. 공개적으로 접근 가능한 딥페이크 제작 리소스는 5만 개 이상(은행가들의 추산)이며, 내무부(MVD)는 2024년 한 해 동안 765,400건의 IT 범죄를 집계했습니다. 국회(Gosduma)에 제출된 법안은 합성된 녹음을 포함하여 시민의 동의 없이 목소리를 사용하는 것을 금지할 것을 제안하며, 손해 배상에 이르는 책임을 규정하고 있습니다.

사기와 합법적 음성 합성 사이의 경계

요약하자면: 기술은 동일하지만, 차이점은 개인의 동의 여부와 목적에 있습니다. 칸예 웨스트(Kanye West)의 목소리로 만든 "Officers" 커버곡은 소란스러운 장난감에 불과하지만, "엄마, 나야"라고 거는 전화는 형사 처벌 대상입니다. 그 둘 사이의 차이는 표기(labeling)와 정직한 맥락에 있습니다.