목소리는 지킬 수 없습니다. 하지만 전화를 받는 사람들은 지킬 수 있습니다.

이곳의 거의 모든 안내서는 공급 차단에 초점을 맞추는데, 그 논쟁은 3년 전에 이미 끝났습니다.

2023년 1월, Microsoft 연구진은 VALL-E를 발표했습니다. 이 모델은 "처음 접하는 화자의 3초짜리 등록 녹음만으로 고품질의 개인화된 음성을 합성"할 수 있었습니다(arXiv:2301.02111, 2023년 1월 5일). McAfee Labs는 같은 해에 누구나 쓸 수 있는 도구를 시험했고, 3~4초 분량의 음성만으로 원래 화자와 추정 85% 일치하는 결과를 얻었습니다. FTC는 2023년 3월 20일에 이렇게 분명히 밝혔습니다. 사기범에게 필요한 것은 "가족의 목소리가 담긴 짧은 오디오 클립"이며, 그것은 "온라인에 올라온 콘텐츠에서 구할 수 있고", 여기에 음성 복제 프로그램만 더하면 됩니다. 그 뒤로 달라진 것은 품질뿐입니다.

접근은 막혀 있지 않습니다. Consumer Reports는 2025년 3월에 음성 복제 제품 여섯 개를 평가했고, 다른 사람의 목소리를 복제하는 데 의미 있는 장벽을 둔 곳은 Descript와 Resemble AI 두 곳뿐이었습니다. 나머지 네 곳은 법적 권리가 있음을 확인하는 체크박스만 누르게 한 뒤 그대로 진행했습니다.

가장 먼저 꼽히는 것은 음성사서함 인사말입니다. 마이크에 가까이 대고 끊김 없이 녹음했고, 대개 본인 입으로 말한 전체 이름까지 담겨 있습니다. 그다음은 라이브 스트림으로 방송된 결혼식이나 장례식입니다. 몇 년이 지나도 장례식장 웹사이트에 공개되어 있고, 진짜 감정이 실린 긴 발화가 담겨 있어서 위급한 전화를 그럴듯하게 만들어 줍니다. 이미지 쪽은 더 심각합니다. 전문가가 찍은 프로필 사진은 정면이고, 조명이 고르며, 가려진 곳이 없어서 얼굴 바꿔치기 시스템이 가장 좋아하는 재료입니다.

맥락도 공짜입니다. 부고에는 모든 사람의 이름이 순서대로, 관계까지 풀어서 한꺼번에 나와 있습니다.

2026년 6월에 공개된 FTC 자료에 따르면 2025년에 사칭 사기로 신고된 피해액은 $3.5 billion(35억 달러)으로, 가장 많이 신고된 사기 유형이었고 전체 사기 신고의 거의 3분의 1에 가까웠습니다. FBI의 2025 Internet Crime Report에는 AI 사용을 언급한 신고 22,364건과 약 $893 million(8억 9,300만 달러)의 피해가 기록되었으며, FBI는 대부분의 피해자가 AI가 쓰였다는 사실을 끝내 알지 못하므로 실제 규모는 더 크다고 설명합니다. FBI는 2026년 6월에도 복제된 목소리로 걸려 오는 위급 전화를 경고하고 있었습니다.

성능도, 공급도, 맥락도 줄일 수 없으니, 누군가 그것을 가족에게 겨누는 바로 그 순간에 완성된 결과물이 통하지 않도록 만들어야 합니다.

통화에서 본인임을 확인할 때 가족끼리 쓸 단어를 하나 정하고, 검색될 수 있는 곳에는 절대 적지 마세요.

FBI Internet Crime Complaint Center도 바로 이 방법을 권고합니다(Alert I-120324-PSA, 2024년 12월 3일, 범죄자의 생성형 AI 악용에 관한 경보). "가족과 함께 비밀 단어나 문구를 만들어 서로의 신원을 확인하세요." FBI는 2025년 5월 15일에도 문자와 음성으로 미국 고위 공직자를 사칭하는 범죄자들에 관한 공익 공지(PSA)에서 같은 조언을 되풀이하면서, 연락해 온 상대의 번호를 따로 직접 확인해서 전화를 걸어 검증하라고 덧붙였습니다.

복제된 목소리는 당신의 모든 것을 똑같이 재현할 수 있지만, 당신과 형제 사이에만 존재하는 사실만큼은 재현할 수 없습니다.

디지털 흔적이 전혀 없는 문구를 고르세요. Copper lantern 같은 것은 괜찮습니다. 반려견 이름은 안 됩니다. 전화를 받을 수 있는 다섯 명과 직접 만나 소리 내어 정하고, 문자나 공유 메모로는 절대 정하지 마세요. 계정 한 개가 뚫려도 가족까지 위험해져서는 안 되기 때문입니다.

그다음에는 단어만이 아니라 규칙도 함께 정하세요. 돈, 사고, 체포, 보석금, 급한 송금에 관한 전화는 문구를 말하기 전까지 모두 중단합니다. 그리고 문구는 내가 먼저 말하지 말고 상대에게 요구해야 합니다.

다시 걸어 확인하는 습관도 똑같이 중요합니다. 가족 위급 사기에 대한 FTC의 조언도 목소리를 들어서 판단하는 방법을 쓰지 않습니다. 목소리를 믿지 말고, 연락했다고 하는 사람에게 그 사람의 번호임을 아는 번호로 직접 전화하라는 것입니다. 발신자 번호는 몇 년 전부터 증거가 되지 못했고, 목소리는 3년 전부터 증거가 되지 못했으며, 이미 내 휴대폰에 저장된 번호는 지금도 증거가 됩니다.

본인 목소리를 인증 수단으로 쓰는 계정이 있다면, 가능한 곳에서는 모두 해제하세요.

2023년 2월 23일, Vice 기자 Joseph Cox는 자기 목소리를 합성한 복제 음성으로 Lloyds Bank의 Voice ID를 통과해 잔액과 거래 내역을 열람했습니다. 고객 목소리의 "100가지가 넘는 특성을 분석한다"고 말하는 은행에 "my voice is my password"라는 문장을 재생해 들려준 것입니다. 무료 도구와 5분 분량의 음성이면 충분했습니다.

당신의 목소리는 비밀번호가 아닙니다. 목소리는 바꿀 수 없는 공개 자격 증명입니다.

음성 생체 인식은 좋아졌고, 잘 만든 구현에는 생동성(liveness) 감지와 위조 방지 기능이 들어 있습니다. 하지만 내 은행이 어느 쪽을 쓰는지 알 방법이 없고, 잘못되면 잃는 것은 내 돈입니다. 같은 세 가지 질문이 증권 거래 전화선, 공과금 계정, 복지 상담 전화, 그리고 충분히 높은 사람처럼 들리고 충분히 짜증이 난 사람이라면 누구에게나 비밀번호를 재설정해 주는 IT 헬프데스크에도 똑같이 적용됩니다.

내 유산 만들기를 시작하세요. 무료 시작, 추억 25개, 카드 불필요.

2026년 7월 현재, 다른 사람이 내 목소리를 복제하는 것을 막을 수 있는 미국 연방 차원의 권리는 없으며, 존재하는 규정도 내 어머니를 노린 사기가 아니라 상업적 착취를 겨냥하고 있습니다.

이 보호들은 관할권별로 나뉘고 부분적입니다. Tennessee에서 내 목소리를 복제해 음반을 팔면 청구할 수 있지만, Ohio에 있는 어머니에게 내 행세를 하며 전화를 걸면 구제 수단은 예전부터 있던 사기 관련 법입니다. 신원에 관한 법은 신원이 돈이 되는 사람들을 위해 만들어졌기 때문에, 일반인의 퍼블리시티권은 소송으로 실현할 가치가 거의 없습니다. 입증 가능한 손해는 작고 변호사 비용은 크기 때문입니다. 그리고 가장 크게 선전된 수단이 오늘 당신에게는 가장 도움이 되지 않습니다. 이 점은 보도 자료가 아니라 법안 자체에서 내용을 가져온 NO FAKES Act가 실제로 다루게 될 내용에서, 각 법령은 주별 디지털 복제 법률에서 다룹니다.

유럽은 소유권이 아니라 투명성의 길을 택했습니다. 2026년 7월 27일에 발효된 AI omnibus, 즉 Regulation (EU) 2026/1744는 Article 50의 2026년 8월 2일 시행일은 그대로 두고, 위에서 본 12월의 표시 의무 유예만 인정했습니다. 가짜가 스스로 가짜라고 밝히게 하는 것은 내 목소리의 복사본을 내가 소유하는 것과 같지 않으며, 그 경계가 어디인지는 EU AI Act Article 50이 요구하는 것에 정리되어 있습니다. Denmark는 한발 더 나아가, 식별 가능한 모든 사람에게 자신의 초상과 목소리에 대한 저작권과 비슷한 권리를 주는 법안을 내놓았지만, 2026년 7월 현재 그 법안은 법이 아닙니다.

그다음은 삭제 쪽으로, 대부분 가장 먼저 찾아가지만 얻을 수 있는 것이 가장 적은 곳입니다. 아래의 모든 경로는 콘텐츠가 이미 만들어지고, 내가 그 사실을 알게 된 뒤에야 시작됩니다.

여섯 가지 모두 무료입니다. 그중 하나만 의무를 지웁니다. TAKE IT DOWN Act(Public Law 119-12)는 디지털로 조작되거나 AI로 생성된 이미지를 명시적으로 포함하며, FTC가 takeitdown.ftc.gov를 통해 이를 집행합니다.

StopNCII.org는 실용적인 보조 수단이며, "해시는 기기에서 전송되지만, 이미지나 영상 자체는 전송되지 않습니다." 해시만 이동하며, 도착지는 Meta의 Facebook, Instagram, Threads, TikTok, Reddit, Snap, X, Bluesky, Patreon, OnlyFans, Pornhub 등입니다. 또 Microsoft는 검증된 해시를 Bing, OneDrive, Teams, Xbox에 적용하고, Google은 Search에서 활용합니다. 합성 이미지도 대상이 된다는 점은 FAQ에 분명히 나와 있습니다. "'딥페이크' 또는 합성 이미지가 나의 모습"이라면 그 파일을 해시할 수 있습니다. 한계도 마찬가지로 분명합니다. 이미지가 "잘리거나 필터가 적용되거나 영상이 편집되면 원래 해시가 그 이미지를 알아보지 못할 수 있고", 암호화된 메시징은 닿지 않습니다.

YouTube는 규정을 공개하고 있으며, 이는 재량에 맡기는 경로의 가장 분명한 사례입니다. 개인정보 침해 신고 절차에는 "누군가 AI를 사용해 나처럼 보이거나 들리는 콘텐츠를 바꾸거나 만들었다면 삭제를 요청할 수 있다"고 되어 있어서 음성도 범위에 들어가지만, 곧이어 조건이 붙습니다. 본인 또는 법적 대리인이 신고해야 하고, "고유하게 식별 가능"해야 하며, YouTube는 "해당 콘텐츠에 패러디, 풍자 또는 기타 공익적 가치가 있는지"를 따집니다. 초상 감지 도구는 일부 크리에이터를 대상으로 한 시범 운영에서 시작해 2026년 3월에 정치인, 정부 관리, 언론인으로, 4월 21일에 에이전시와 그 소속 유명인으로, 5월 16일부터는 18세 이상의 자격을 갖춘 모든 크리에이터로 확대되었습니다. 정부 발급 신분증과 셀카 영상으로 등록하며, 확인에는 "최대 5일이 걸릴 수 있고", YouTube는 새로 올라오는 영상에서 내 얼굴을 찾아봅니다. 2026년 7월 29일 현재 이 도구는 시각적 일치만 감지하고, YouTube는 "가까운 시일 안에 초상 감지를 음성까지 확대하는 것"을 목표로 한다고 밝히며, "YouTube가 모든 콘텐츠를 삭제하지는 않을 것"이라고도 분명히 말합니다.

그 밖의 곳에서는 플랫폼 자체 정책에 따라 신고합니다. 먼저 전체 URL과 눈에 보이는 타임스탬프가 담기도록 화면을 캡처해 두세요. 콘텐츠는 삭제되지 않았는데도 내 화면에서 사라지는 일이 있기 때문입니다. 그리고 사기는 IC3.gov와 ReportFraud.ftc.gov에 따로 신고하세요. 미국에서는 Cyber Civil Rights Initiative가 무료 Image Abuse Helpline을 운영합니다. 전화는 1-844-878-CCRI (2274)입니다.

두 표 어디에도 밤 11시 40분에 걸려 오는 그 전화를 막아 줄 것은 없습니다. 신고할 결과물도, 알릴 플랫폼도 없고, 알게 되었을 때는 이미 돈이 빠져나간 뒤입니다.

위협은 가짜로 만들어지는 것에서, 진짜가 믿어지지 않는 것으로 옮겨 가고 있습니다.

2026년 5월의 청취 연구는 138개의 음성 합성 및 음성 변환 시스템에 대해 1,768명의 참가자로부터 35,532건의 판단을 수집했습니다. 가짜를 가려내는 정확도는 2021년 기준선과 비교해 거의 달라지지 않아 72.9%에서 71.2%가 되었습니다. 진짜 녹음에 대한 정확도는 72.7%에서 64.1%로 떨어졌습니다. 저자들은 이 결과를 회의론의 이동(skepticism shift)이라고 부릅니다. 청취자가 인공적인 흔적을 더 잘 알아듣게 된 것이 아니라, 진짜 오디오를 점점 덜 믿게 되었다는 것입니다. 기계 감지기는 모든 조건에서 94.5%를 웃돌았으므로 문제는 사람 쪽에 있습니다. 2023년 University College London의 연구에서는 이미 529명의 청취자가 딥페이크 음성을 한 번의 클립에서 73%만 가려냈고, 익숙해지는 과정을 거치면 평균 3.84% 더 정확해졌습니다.

그래서 당신이 보낸 진짜 음성 메시지도 앞으로는 기본적으로 의심받게 될 것이고, 그런 반사적 의심의 대가로 당신의 진짜 목소리가 위조품 옆에서 신뢰를 잃게 됩니다. 이 조용한 피해는 잘못 기억되는 것에 대하여에서 다룹니다.

해법은 탐지가 아니라 출처 증명(provenance)입니다. European Network of Forensic Science Institutes의 모범 사례 방법론에 따르면, 전문가는 의심되는 녹음을 알려진 화자의 녹음과 비교하고, 두 녹음이 얼마나 비슷한지와 그 비슷함이 관련 집단에서 얼마나 흔한지를 견주어 결과를 우도비(likelihood ratio)로 나타냅니다. 알려진 화자의 녹음이 없으면 비교의 기준점이 없어서 분석이 시작조차 되지 않습니다. 은행의 사기 대응팀도 법정 밖에서 같은 질문을 던집니다. 이 사람은 어떤 목소리인가, 그리고 누가 그렇게 말하는가. 내가 일부러 만든, 날짜가 기록된 녹음은 이 두 가지에 모두 답합니다. 남의 피드에 흩어져 있는 클립은 어느 쪽에도 답하지 못합니다.

ElevenLabs는 Professional Voice Clone을 음성 캡차 뒤에 두고 있으며, 이는 본받을 만한 방식입니다. 그 자리에서 제시된 문장을 소리 내어 읽으면, 그 녹음을 내가 업로드한 샘플과 비교하므로 낯선 사람이 내려받은 오디오로 다른 사람의 목소리를 등록할 수 없습니다. 다만 빈틈이 있다는 점은 짚어 둡니다. Consumer Reports가 더 빠른 흐름에서는 체크박스만으로 통과시킨다고 지적한 바로 그 회사이므로, 확인 절차는 그것이 붙어 있는 흐름만 보호합니다. 그래도 원리는 옳습니다. 특정 시점에 한 번의 등록에 묶인 실시간 음성 진술이 파일과 증거를 가르는 차이입니다. 먼저 약관을 읽으세요. 동의와 소유는 같은 것이 아니며, 어떤 라이선스 문구를 살펴야 하는지는 내 음성 클론은 누구의 것인가에 정리되어 있습니다.

이런 녹음은 아무것도 막지 못하고 삭제 요청을 일으키지도 않습니다. 다만 누군가 다투어야 하기 전에, 당신의 진짜 목소리와 당신의 동의, 그리고 날짜를 기록으로 남겨 둡니다. 그래서 가장 힘든 순간에 입증 책임이 당신의 자녀들에게 넘어가지 않습니다.

여기서 제 회사가 등장하는데, 주장은 좁습니다. Afterlife.ai™는 사기범을 막지 못합니다. 아무도 막을 수 없고, 그렇다고 말하는 회사가 있다면 거짓말입니다. 우리가 하는 일은 등록(enrolment)입니다. Idy®라는 가이드가 당신 자신의 말로 인터뷰하고, 그 인터뷰가 추억이 되고, 추억이 Persona를 만드는 재료가 되며, 당신의 목소리는 동의가 계정에 기록된 상태로 정해진 날짜에 전달됩니다. Persona는 당신이 실제로 한 말에서 답하고, 코드 안의 보호 장치가 당신 자신의 자료가 뒷받침하지 않는 주장을 모두 걸러 냅니다(나만으로 학습한 AI에서 이 설계의 대가를 다룹니다). 공개는 Executor Lock™ 절차를 거치므로, 위조된 주장은 전화 한 통의 그럴듯함이 아니라 이름을 지정한 지명, 7일, 발동 증거의 검증, 이의 제기 기간을 모두 통과해야 합니다. 살아 있는 동안에는 당신이 통제권을 쥡니다. Timeless AI™는 유산이라는 틀을 뺀 같은 제품입니다.

이 제품을 만든 사람으로서 세 가지를 단서로 밝힙니다. 이미 공개된 당신의 음성에는 이 어떤 것도 닿지 않으며, 우리 제품의 어떤 버전도 앞으로 그렇게 하지 못할 것입니다. Persona는 당신이 아니라 당신의 한 버전이고, Persona는 당신이 하지 않은 말을 지어내지 않습니다. 그리고 한 회사의 계정 안에만 보관된 녹음은 직접 보관한 녹음보다 약하므로, 회사가 매각되면 내 음성 데이터가 어떻게 되는지 모든 업체에 물어보세요.

당신의 목소리를 되돌려 받을 수는 없습니다. 아직 정할 수 있는 것은 어떤 녹음을 권위 있는 기록으로 삼을지입니다. 낯선 사람이 결혼식 영상에서 조립한 파일인지, 아니면 당신이 일부러, 날짜를 정해, 동의를 붙여 만든 녹음인지입니다.

오늘 밤 단어를 정하세요. 그리고 녹음을 하세요.

내 유산 만들기를 시작하세요. 무료 시작, 추억 25개, 카드 불필요.

내 목소리가 복제되는 것을 막을 수 있나요?

아니요. 3~4초의 녹음된 음성이면 무료 도구로도 쓸 만한 복제를 만들 수 있고, 이미 공개된 오디오는 회수할 수 없습니다. 음성사서함 인사말을 바꾸고, 오래된 웨비나 녹화를 비공개로 돌리고, 장례식이나 결혼식 라이브 스트림을 비공개로 해 달라고 요청하면 공급을 줄일 수 있습니다. 그런 다음 여전히 효과가 있는 부분인 확인 절차에 힘을 쏟으세요.

가족 확인 단어만으로 정교한 가짜도 막을 수 있나요?

흔한 사기에는 막을 수 있습니다. 그 사기는 다급함과 당신이 확인하지 않는다는 점에 의존하기 때문입니다. 복제된 목소리는 내가 어떻게 들리는지는 재현하지만, 나와 가족만 아는 것은 재현하지 못하며, FBI는 서로 다른 두 건의 공익 공지(PSA)에서 바로 이 방법을 권고합니다. 이 단어가 통하지 않는 경우는 두 가지입니다. 문구가 해킹당한 계정에 노출될 수 있는 곳에 적혀 있는 경우, 그리고 공격자가 이미 가족의 메시지에 접근할 수 있는 경우입니다. 약점은 기술이 아니라 사람 사이에 있습니다. 우는 듯한 친척을 따져 묻기가 어렵게 느껴지기 때문입니다. 누구든 물어볼 수 있고 아무도 서운해하지 않기로 미리 소리 내어 약속하고, 문구는 외워 두되 적어 두지 말고, 전체를 전화를 끊고 다시 거는 습관과 함께 쓰세요.

내 딥페이크를 발견한 뒤 첫 한 시간 동안 무엇을 해야 하나요?

무엇이든 신고하기 전에, URL과 눈에 보이는 타임스탬프가 담기도록 화면을 캡처하고 링크를 저장해 두세요. 콘텐츠는 삭제되지 않았는데도 내 화면에서 사라지는 일이 많기 때문입니다. 가짜가 성적인 것이라면 TAKE IT DOWN Act에 따라 플랫폼에 삭제를 요청하고 StopNCII.org에서 그 파일을 해시하세요. 가짜가 사기에 쓰이고 있다면 IC3.gov와 ReportFraud.ftc.gov에 신고하세요. 그다음 가짜가 전달될 수 있는 사람들에게 알리세요. 가짜보다 먼저 도착한 경고가 피해의 대부분을 막아 주기 때문입니다.

NO FAKES Act는 지금 나를 보호해 주나요?

아니요. 2026년 7월 현재 NO FAKES Act(S.4591, 119th Congress)는 법안일 뿐입니다. 2026년 5월 20일에 재발의되었고 2026년 6월 18일에 Senate Judiciary Committee에서 만장일치로 본회의 보고가 결정되었습니다. 상원 본회의도, 하원도 통과하지 못했으며 법이 아닙니다. 그때까지 당신의 보호는 거주하는 주의 퍼블리시티권과 사기 관련 법에 달려 있습니다.

은행의 음성 인증을 꺼야 하나요?

편의 기능으로 제공되는 것이고 대안이 있다면 그렇습니다. 2023년 2월에 한 기자가 일반 소비자용 음성 도구로 영국의 대형 은행 Voice ID를 뚫었고, 내 은행이 어떤 위조 방지 조치를 쓰는지 확인할 방법은 없습니다. 전화해서 음성 인식이 켜져 있는지, 해제할 수 있는지, 대체 수단을 비밀번호로 고정할 수 있는지 물어보세요.

저는 미국에 살지 않습니다. 해당되는 내용이 있나요?

확인 단어, 다시 걸어 확인하는 습관, 음성사서함 변경은 어디서나 적용됩니다. StopNCII.org는 국제적으로 이용할 수 있습니다. TAKE IT DOWN Act의 48시간 의무는 미국 법이지만, 대형 플랫폼은 전 세계에 하나의 절차를 운영하는 경향이 있습니다. EU에서는 AI Act의 Article 50에 따라 2026년 8월 2일부터 딥페이크를 공개해야 합니다. 그 밖의 지역에서는 동의 없는 이미지, 사기, 괴롭힘에 관한 자국 법을 먼저 확인하세요. 대개 그것이 가장 빠른 경로이기 때문입니다.

• How to prove a voice is really you, 이 페이지의 나머지 절반입니다.

• Is voice cloning safe, 일부러 내 목소리를 복제하는 경우에 대해 다룹니다.

• AI 버전의 나를 만드는 방법과 요금제.

• Deepfake and AI likeness laws by country, 17개 관할권의 목소리와 얼굴에 관한 규정입니다.

정정: 이곳에 틀렸거나 오래된 내용이 있다면 알려 주세요.

가능한 모든 곳에서 1차 자료를 바탕으로 작성했습니다. 정부의 소비자 경보와 FBI의 공익 공지, FTC와 FCC가 직접 공개한 규칙과 결정, 법안과 위원회 기록, Article 50 본문과 표시 기한을 조정한 omnibus 개정안, 주 법률 조문, 동료 심사를 거친 또는 사전 공개된 청취 연구, 그리고 각 삭제 경로를 설명하는 플랫폼 도움말 페이지입니다. 한 회사의 자체 정책에 근거한 주장은 그 정책 페이지를 2026년 7월 29일에 읽었고 그 날짜를 적어 두었습니다.

1. 미국 연방거래위원회(FTC), Alvaro Puig, 사기범들이 AI로 가족 위급 사기를 강화한다, 소비자 경보, 2023년 3월 20일.

2. FBI 인터넷범죄신고센터(Internet Crime Complaint Center), 범죄자들이 생성형 인공지능을 금융 사기에 이용한다, Alert Number I-120324-PSA, 2024년 12월 3일.

3. FBI Internet Crime Complaint Center, Public Service Announcement I-051525-PSA, 2025년 5월 15일, 문자와 음성 메시지로 미국 고위 공직자를 사칭하는 악의적 행위자에 관한 공지.

4. 미국 연방거래위원회(FTC), FTC 자료: 2025년 사칭 사기로 $3.5 billion 피해 신고, 보도 자료, 2026년 6월.

5. Federal Bureau of Investigation, Cryptocurrency and AI Scams Bilk Americans of Billions, IC3 2025 Internet Crime Report에 관한 글(AI 관련 신고 22,364건, 피해액 약 $893 million, 가장 큰 유형은 투자 사기), 2026년.

6. FBI warns of AI voice-cloning scam that mimics loved ones in distress, FBI 경고를 보도한 기사, 2026년 6월 2일.

7. Chengyi Wang, Sanyuan Chen, Yu Wu 외, Microsoft, 신경 코덱 언어 모델은 제로샷 음성 합성기다(VALL-E), arXiv:2301.02111, 2023년 1월 5일.

8. McAfee Labs, Beware the Artificial Impostor, 2023년(3~4초의 음성으로 추정 85%의 음성 일치 달성).

9. Kimberly T. Mai, Sergi Bray, Toby Davies, Lewis D. Griffin, University College London, Warning: humans cannot reliably detect speech deepfakes, PLOS ONE, 2023년 8월 2일(청취자 529명, 단일 클립 조건에서 정확도 73%, 전체 70.35%, 익숙해지면 3.84% 향상).

10. Nicolas M. Müller, Wei Herng Choong, Eroding Trust in Real Speech: A Large-Scale Study of Human Audio Deepfake Perception, arXiv:2605.26136, 2026년 5월 21일 제출된 사전 공개 논문(판단 35,532건, 참가자 1,768명, 음성 합성 및 음성 변환 시스템 138개, 가짜 72.9%에서 71.2%, 진짜 72.7%에서 64.1%, 기계 감지기 94.5% 초과).

11. Consumer Reports, AI 음성 복제 제품 평가, 2025년 3월.

12. TechCrunch, Consumer Reports, 인기 음성 복제 도구에 안전장치가 없다고 밝혀, 2025년 3월 10일.

13. Joseph Cox, Vice, AI로 만든 목소리로 은행 계좌에 침입한 방법, 2023년 2월 23일.

14. 미국 연방통신위원회(FCC), FCC, 자동 전화에서 AI 생성 음성을 불법으로 규정, 선언적 결정 FCC 24-17, 2024년 2월 2일 채택, 2024년 2월 8일 공개.

15. 미국 연방거래위원회(FTC), 정부 및 기업 사칭에 관한 규칙, 16 CFR Part 461, 2024년 4월 1일 시행.

16. Federal Trade Commission, FTC Proposes New Protections to Combat AI Impersonation of Individuals, 2024년 2월 15일. 비공식 청문회는 2025년 1월 17일에 열렸으며, 2026년 7월 현재 확정되지 않음.

17. Tennessee Ensuring Likeness Voice and Image Security (ELVIS) Act, 2024년 3월 21일 서명, 2024년 7월 1일 시행, Tenn. Code Ann. Title 47 Chapter 25 Part 11을 개정. 분석: Holland and Knight, First-of-Its-Kind AI Law Addresses Deep Fakes and Voice Clones, 2024년 4월(Class A 경범죄와 개인의 소송 제기권, "음성"은 "특정 개인을 쉽게 식별하고 그 사람의 것으로 볼 수 있는" 소리로 정의되며 모의 음성도 포함).

18. California AB 1836 및 AB 2602, 둘 다 2024년 9월 17일 서명. AB 2602는 2025년 1월 1일 이후 체결된 공연 계약에 적용. 분석: Fenwick, California's New AI Laws Limit Uses of Digital Likeness, 2024년.

19. Revised Code of Washington 63.60.040, 개인은 사망 후 10년, "personality"는 75년 동안 독점적인 권리.

20. SC Daily Gazette, 공직자들, 새 "리벤지 포르노" 처벌법을 환영. SC는 이를 금지한 마지막 주, 2025년 5월 29일(H.3058, 2025년 5월 12일 서명, AI 생성 이미지 포함).

21. S.146, TAKE IT DOWN Act, 119th Congress, Public Law 119-12, 2025년 5월 19일 서명, 범위는 성적 시각 묘사물로 한정.

22. Federal Trade Commission, FTC Begins Enforcing TAKE IT DOWN Act, 2026년 5월 19일, Section 3의 통지 및 삭제 요건에 관하여.

23. Covington and Burling, The TAKE IT DOWN Act's Notice and Removal Requirements Enter Into Effect, 2026년(48시간, 알려진 동일 사본에 대한 합리적 노력, FTC의 집행, TakeItDown.ftc.gov).

24. StopNCII.org, How StopNCII.org works, FAQ 및 partners, 정책과 파트너 목록은 2026년 7월 29일에 확인.

25. Cyber Civil Rights Initiative, 동의 없는 성적 이미지 유포, 2026년 7월 29일 확인.

26. S.4591, NO FAKES Act of 2026, 119th Congress, 2026년 5월 20일 발의, 2026년 6월 18일 Senate Judiciary Committee에서 만장일치 음성 표결로 보고 결정. 2026년 7월 현재 법이 아님.

27. EU AI Act Article 50, Regulation (EU) 2024/1689, 특정 AI 시스템의 제공자와 배포자에 대한 투명성 의무, 2026년 8월 2일부터 적용. 표시 유예를 포함한 같은 의무의 요약: transparency rules under Article 50. AI omnibus, Regulation (EU) 2026/1744에 관하여: Gibson Dunn, EU AI Act Omnibus Agreement, 2026년.

28. Schjødt, Owning the Self: Denmark's Copyright Turn Against Deepfakes (2025년 6월 26일 공개된 제안, 채택되지 않음), 2026년 7월 29일 확인.

29. YouTube Help, Likeness detection on YouTube (시각적 일치만 해당, 신분증과 셀카 영상, 확인에 최대 5일, YouTube는 가까운 시일 안에 초상 감지를 음성까지 확대하는 것을 목표로 한다고 밝히며 모든 콘텐츠를 삭제하지는 않을 것이라고 밝힘), 정책은 2026년 7월 29일에 확인.

30. YouTube 공식 블로그, 초상 감지를 엔터테인먼트 업계로 확대, 2026년 4월.

31. TechCrunch, YouTube expands its AI likeness detection technology to celebrities, 2026년 4월 21일(일부 크리에이터를 대상으로 한 시범 운영으로 시작, 2026년 3월에 정치인, 정부 관리, 언론인 추가).

32. MediaPost, YouTube, 18세 이상 모든 크리에이터에게 초상 감지 제공, 2026년 5월 19일(2026년 5월 16일 확대 확인).

33. YouTube Help, Protecting your identity (나처럼 보이거나 들리는, AI로 바꾸거나 만든 콘텐츠를 다루는 개인정보 침해 신고 절차), 정책은 2026년 7월 29일에 확인.

34. European Network of Forensic Science Institutes, Best Practice Manual for the Methodology of Forensic Speaker Comparison, 2021년(의심되는 녹음과 알려진 화자의 녹음 비교, 우도비 체계).

35. ElevenLabs, Professional Voice Cloning documentation (음성 캡차: 화자가 제시된 문장을 소리 내어 읽으면 그 녹음을 업로드한 샘플과 대조), 2026년 7월 29일 확인.

아직 정해지지 않은 것들이 있습니다. NO FAKES Act는 Senate Judiciary Committee를 통과했을 뿐 그 이상은 아니어서 바뀌거나 폐기될 수 있습니다. FTC가 제안한 사칭 규칙의 개인 확대안은 확정되지 않았습니다. Denmark의 초상권은 법이 아니라 제안입니다. YouTube의 초상 감지는 목소리가 아니라 얼굴을 다루며, 음성은 약속만 되었을 뿐 출시되지 않았습니다. 감지 정확도 수치는 실험실 청취 시험에서 나온 것이므로, 전화를 받고 겁에 질린 사람이 해낼 수 있는 수준으로 읽어서는 안 됩니다.

최종 검토: 2026년 7월 30일. 이 페이지의 법률, 규제, 플랫폼 정책 관련 주장은 90일마다 다시 확인합니다. NO FAKES Act의 상태, Denmark의 초상권 법안, EU AI Act Article 50의 표시 유예는 확정될 때까지 30일마다 다시 확인합니다.