2023년부터 목소리의 소리는 더 이상 증거가 아닙니다

목소리 녹음이 진짜 당신의 것임을 증명하려면, 은행의 사기 대응 부서든 법정이든 가족 단체 채팅방이든, 다섯 가지 기록이 답을 줄 수 있습니다. 그리고 그 다섯 가지 중 어느 것도 음성 자체가 아닙니다.

• 합성 출력물에 붙는 기계 판독 가능 표시는 규정을 지키는 생성기가 그 파일을 만들었다는 것을 보여 줍니다. 2026년 8월 2일부터 EU AI법(Regulation (EU) 2024/1689) 제50조는 합성 음성을 생성하는 AI 시스템의 제공자가 출력물에 기계 판독 가능한 형식으로 표시를 하고, 인공적으로 생성되었거나 조작되었음을 탐지할 수 있게 하도록 요구합니다. 생성기가 오픈 웨이트 모델이거나 해외에 있거나 규정을 지키지 않는 경우, 또는 표시가 덮어써진 경우에는 이 표시가 소용없습니다.

• 내장된 출처 메타데이터, 즉 C2PA 하드 바인딩은 누가 파일에 서명했고 어떤 편집이 있었는지 보여 줍니다. 플랫폼이 업로드를 다시 인코딩하면서 이 묶음을 조용히 떨어뜨리면 이 메타데이터는 소용없습니다.

• 소프트 바인딩, 즉 보이지 않는 워터마크나 지각적 지문은 지워진 인증 정보를 레지스트리에서 다시 찾아볼 수 있게 해 줍니다. 소프트 바인딩은 적응형 공격과 일반적인 코덱 변환을 거치면 무너집니다.

• 날짜가 있는 동의 기록은 이름이 확인되는 사람이 특정한 날짜에 동의했음을 보여 줍니다. 어떤 플랫폼이 동의를 받아 보관한 경우에만 이 기록이 존재합니다.

• 이미 알고 있던 번호로 거는 콜백은 그 사람의 번호로 저장된 곳에 실제로 연결되었음을 보여 줍니다. 저장된 번호가 틀렸거나 오래되었거나 착신 전환된 경우에는 콜백이 소용없습니다.

이 가운데 네 가지는 공학의 영역입니다. 다섯 번째는 어머니 연락처에 이미 들어 있는 전화번호이고, 공격 앞에서 가장 잘 버티는 것이 바로 그 전화번호입니다.

출처(provenance)는 파일의 검증 가능한 이력입니다. 음성이 어디서 왔는지, 어떤 처리를 거쳤는지, 각 단계에서 누가 승인했는지를 말합니다. 업계 표준은 C2PA 사양이고 소비자에게 보이는 이름은 Content Credentials이며, 방식은 화려하지 않지만 탄탄합니다. 자산의 암호화 해시를 구합니다. 그 해시에 진술을 묶습니다. 어떤 기기로 음성을 녹음했는지, 어떤 편집을 했는지, 생성형 모델이 쓰였는지 하는 내용입니다. 그리고 이 묶음에 서명합니다(C2PA 기술 사양 2.2, 2025년 5월). 파일을 건드리면 서명이 깨집니다. 소리는 하나도 믿지 않습니다. 오직 서명된 연결 고리만 믿습니다.

약점은 플랫폼을 쓰는 순간 드러납니다. 메타데이터는 파일 옆에 실려 가는데 플랫폼은 업로드를 다시 인코딩하기 때문입니다. C2PA는 소프트 바인딩으로 답합니다. 전송 중에 지워진 인증 정보를 워터마크나 지문으로 레지스트리에서 되찾을 수 있게 하는 것입니다(C2PA 소프트 바인딩 API). 도움이 되지만, 두 섹션 아래에서 보듯 이를 보장이라고 불러서는 안 됩니다.

예전에는 인증이 목소리의 소리 안에 있었습니다. 이제는 녹음을 둘러싼 서류 안에 있고, 이 전체에서 가장 값싼 층은 전화가 울리기 전에 가족이 정해 둔 말 한마디입니다.

증명은 더 큰 질문의 한 모퉁이입니다. 그 질문은 죽은 뒤 내 신원과 얼굴과 목소리를 누가 통제하는가입니다. 그 페이지가 지도이고, 이 페이지는 그중 인증이라고 표시된 모퉁이를 다룹니다.

2023년 2월, 기자 Joseph Cox는 자기 목소리를 5분 녹음해 무료 소비자용 도구로 복제본을 만들고 Lloyds Bank에 전화를 걸었습니다. 합성 음성을 전화선으로 틀어 "my voice is my password"라는 등록 문구까지 포함해 Voice ID를 통과했습니다. 초기 시도는 실패했습니다. 억양을 더 자연스럽게 다듬자 접속에 성공했습니다(Vice, 2023년 2월 23일).

한 은행이 사람의 목소리는 위조하기 어렵다는 전제 위에 인증 상품을 만들었습니다. 그 전제는 이미 수명이 다했는데, 아무도 그 상품에 알려 주지 않았습니다.

당신의 귀도 은행보다 나을 게 없습니다. 2023년 8월 2일 PLOS ONE에 실린 참가자 529명 대상 연구에서 Mai, Bray, Davies, Griffin은 청취자들이 클립을 하나씩 들을 때 딥페이크 음성을 정확히 알아맞힌 비율이 73%에 그쳤고, 그 단일 클립 조건의 전체 정확도는 70.35%였으며, 짧은 사전 훈련으로 정확도가 평균 3.84% 올랐다는 것을 확인했습니다(Mai et al., 2023). 같은 청취자들도 진짜 클립과 가짜 클립을 나란히 들었을 때는 85.59%에 이르렀지만, 사기 전화는 나란히 비교할 수 있게 오는 법이 없습니다. 전화가 오는 방식대로 클립을 하나씩 판단하면 사람들은 4분의 1이 넘게 틀렸고, 미리 경고해도 그 수치는 거의 움직이지 않았습니다. 이 논문은 3년 전 것이고, 그 뒤로 생성기는 더 좋아졌습니다.

입력 요건도 무너졌습니다. ElevenLabs 자체 개발자 문서에는 "less than two minutes of audio can produce a usable clone"라고 적혀 있습니다(ElevenLabs 음성 복제 문서). 2분이면 음성 사서함 인사말 하나와 누군가 결혼식에서 찍어 올린 짧은 영상 하나면 됩니다.

이제 양보할 부분입니다. 여기서 흔히 나오는 큰 수치는 대개 부풀려져 있기 때문입니다. FBI 인터넷범죄신고센터(IC3)는 2025년에 AI를 언급한 신고 22,364건을 기록했고, 조정된 피해액은 $893,346,472였습니다. 그 돈의 대부분은 투자 사기였습니다. AI와 관련이 있다고 보고된 투자 신고의 피해액은 $632 million을 넘었습니다. 복제된 목소리가 곤경에 처한 친척인 척하는 위급 상황 사기의 2025년 신고 피해액은 $5 million 이상이었습니다(2025 IC3 Annual Report, 39쪽). 복제된 목소리로 거는 전화는 큰 문제의 작은 일부이고, 이 보고서는 AI 관련 어떤 수치에 대해서도 전년과의 비교를 싣지 않았습니다. 그러니 이 특정 사기의 증가율을 말하는 사람이 있다면 그 수치를 IC3에서 얻은 것이 아닙니다.

큰 문제의 작은 일부라도, 그것이 당신의 어머니에게 닿는 바로 그 전화입니다. 공개된 내 목소리 샘플을 줄이는 일은 별개의 과제이며, 내 목소리의 공개 샘플을 줄이는 방법에서 다룹니다.

시장은 진짜인지 가짜인지 알려 주는 버튼을 원하지만, 증거는 그런 버튼이 아직 없다고 말합니다.

실험실 데이터가 아니라 소셜 미디어에 실제로 돌아다니는 딥페이크로 만든 벤치마크 Deepfake-Eval-2024에서, 오픈 소스 음성 탐지 모델의 곡선 아래 면적(AUC)은 이전 벤치마크 점수에 비해 48% 떨어졌습니다. 연구진은 상용 탐지기와 미세 조정한 모델이 기성 오픈 소스 모델보다 낫지만 딥페이크 포렌식 분석가의 정확도에는 여전히 못 미친다고 보고합니다(arXiv:2503.02857). 업로드한 파일에 신뢰도 퍼센트를 매겨 주겠다는 웹사이트는 바로 그런 부류의 모델이 만든 숫자를 파는 것입니다.

그러니 법정 소송이나 경찰 신고를 위해 특정 파일 하나를 인증해야 한다면, 포렌식 음성 감정인에게 의뢰하세요. 벤치마크 증거로 볼 때 지금도 가장 정확한 선택지입니다.

표시 제도도 당신을 구해 주지 못하는데, 이유는 기술적이기보다 시시합니다. 제50조는 준수할 뜻이 있는 제공자와 배포자를 구속합니다. AI법을 들어 본 적 없는 관할권에서 노트북으로 오픈 웨이트 음성 모델을 돌리는 사람은 아무것도 표시하지 않고, 어떤 표시 규칙도 메타데이터가 전혀 없는 실시간 통화 속까지는 닿지 않습니다.

한 번 심은 표시가 살아남는다고 약속할 수 있는 사람도 없습니다. 음성 워터마크는 공격당할 수 있고 공격은 점점 싸지고 있습니다. 2026년 6월, Ding과 동료들이라는 이름으로 발표한 연구자들은 적응형 공격으로 워터마크 탐지율을 치환과 생성에서는 10% 아래로, 제거에서는 0으로 떨어뜨릴 수 있음을 보였습니다. 시험한 모든 방식에서 그랬습니다(arXiv:2606.22310).

그리고 이 모든 과정의 끝에는 삭제 요청 버튼이 없습니다. 공개된 내 목소리 샘플을 줄일 수 있고, 플랫폼이 제공하는 삭제 요청 절차를 쓸 수 있으며, 사는 곳에 따라 초상권이나 인격권, 개인정보 보호 관련 권리를 주장할 수도 있습니다. 그중 어느 것도 복제본이 만들어지는 것을 막지 못하며, 예방을 약속하며 파는 사람은 과장하는 것입니다.

제50조는 소유권이 아니라 투명성 의무를 만들며, 이 규칙으로 무엇을 할 수 있는지를 가르는 것이 바로 이 차이입니다.

제50조(2)는 합성 음성, 이미지, 영상 또는 텍스트를 생성하는 AI 시스템의 제공자가 출력물이 "are marked in a machine-readable format and detectable as artificially generated or manipulated"가 되도록 보장할 것을 요구합니다(제50조). 제50조(1)은 합리적으로 충분한 정보를 가진 사람에게 명백한 경우가 아니라면 AI 시스템과 상호작용하고 있음을 당사자에게 알릴 것을 요구합니다. 제50조(4)는 딥페이크 이미지, 음성 또는 영상 콘텐츠의 배포자가 그 콘텐츠가 인공적으로 생성되었거나 조작되었음을 공개할 것을 요구합니다. 이 모두는 명확하고 구별되는 방식으로, 늦어도 최초의 상호작용이나 노출 시점에 이루어져야 합니다.

예외도 있습니다. 입력을 실질적으로 바꾸지 않는 보조적 편집은 적용 대상이 아니고, 승인된 일부 법 집행 용도도 마찬가지이며, 예술적, 창작적 또는 풍자적 작품은 합성 콘텐츠가 존재한다는 사실을 적절한 방식으로 공개하기만 하면 됩니다.

실효성은 제99조에 있습니다. 제50조를 위반하면 최대 EUR 15,000,000, 기업의 경우 전 세계 연간 총매출의 최대 3% 중 더 높은 금액의 행정 과징금이 부과됩니다(제99조). 적용 범위는 제2조에 있으며, 연합 밖에 설립된 제공자와 배포자에게도 AI 시스템이 만든 출력물이 연합 안에서 쓰이는 경우 이 규정을 적용합니다(제2조). 시드니나 시카고에서 이 글을 읽더라도 쓰는 도구의 공급사가 유럽에 판매하므로 그 도구는 출력물에 표시를 할 가능성이 높습니다.

표시와 관련해 중요한 날짜는 두 가지입니다. 이 의무는 2026년 8월 2일부터 적용됩니다. 2026년 5월 7일 잠정 합의된 AI Omnibus 패키지에 따르면, 그 날짜 이전에 이미 시장에 나와 있던 생성형 시스템의 제공자는 제50조(2)의 표시 요건을 충족할 기한이 2026년 12월 2일까지이고, 제50조의 다른 모든 의무는 유예 기간 없이 8월 2일부터 적용됩니다(Mishcon de Reya, 2026년 5월). 2026년 6월 10일 유럽연합 집행위원회는 AI 생성 콘텐츠의 표시와 라벨링에 관한 최종 행동강령(Code of Practice)을 발표했습니다. 강령에 서명하는 것은 자발적이며, 그것이 제공자가 충족하도록 돕는 의무는 서명 여부와 관계없이 적용됩니다(유럽연합 집행위원회).

이 조항이 주는 것은 좁지만 가질 만한 것입니다. 규정을 지키는 합성 음성은 스스로 합성임을 밝히므로, 유럽 플랫폼에 돌아다니는 표시 없는 클립은 소리 내어 물어볼 만한 의문이 됩니다. 이 조항은 누가 당신의 목소리를 복제할 수 있는지를 정하지 않으며, 어떤 해석으로도 당신의 어머니에게 전화를 거는 범죄자까지 닿지는 않습니다. 범위, 기한, 누가 어떤 의무를 지는지는 제50조가 요구하는 것과 구속하는 대상에 정리되어 있습니다.

나의 유산 만들기 시작하기 무료 구성, 추억 25개, 카드 불필요.

셋 중 어느 것도 돈이 들지 않으며, 셋을 합치면 지구상의 어떤 출처 표준도 건드리지 못하는 공격을 막아 냅니다. 실시간 통화에는 검증할 것이 아무것도 실려 있지 않기 때문입니다.

말로 하는 암호를 정하세요. 직계 가족 모두가 공유하는 짧은 문구 하나를 정하고, 돈이나 긴급 상황에 관한 통화가 시작될 때 말합니다. 반려동물 이름, 살았던 거리, 학교처럼 공개 프로필에 올라 있는 것은 안 됩니다. 겁에 질렸을 때도 쉽게 말할 수 있어야 합니다. 목소리가 완벽하게 같은 사람이 그 문구를 대지 못하면 통화는 거기서 끝입니다. 이 규칙은 예외가 없어야 합니다. 위급 상황 사기의 설계 자체가 절차를 고집하는 일을 잔인하게 느끼게 만드는 것이기 때문입니다.

콜백 규칙을 정하세요. 걸려 온 전화로는 돈을 보내지 않고, 은행 정보나 인증 코드도 불러 주지 않습니다. 전화를 끊고, 내 연락처에서 그 사람을 찾아, 이미 저장되어 있던 번호로 전화합니다. 전화한 사람이 알려 준 번호는 절대 안 됩니다. 발신자 번호 인증은 대부분의 사람이 생각하는 일을 하지 않습니다. FCC가 직접 설명하는 바로는 STIR/SHAKEN은 통신사가 "verify that the caller ID information transmitted with a particular call matches the caller's real number"하게 해 줍니다(FCC, 발신자 번호 인증). 이것은 번호를 인증하는 것이지 말하는 사람을 인증하는 것이 아닙니다. 번호는 완전히 진짜일 수 있고, 그래도 전화선 너머의 목소리는 가짜일 수 있습니다.

약속을 글로 적고 그 종이에 서명하세요. 한 단락을 인쇄하고 날짜를 적어 부엌 찬장 문 안쪽에 붙여 둡니다. "나는 음성 통화나 음성 메시지로 절대 당신에게 돈, 기프트 카드, 암호화폐, 은행 정보, 인증 코드를 요구하지 않습니다. 나처럼 들리는 목소리가 그중 무엇이라도 요구하면 그것은 내가 아닙니다. 전화를 끊고 당신 휴대전화에 저장된 내 번호로 다시 걸어 주세요." 서명 아래에 날짜를 적습니다. 분명히 지나치지만, 밤 열한 시의 무서운 말다툼을 휴대전화를 손에 든 채로도 들여다볼 수 있는 종이 한 장으로 바꿔 줍니다.

10분을 들일 만한 일이 두 가지 더 있습니다. 공개 샘플을 줄이세요. 결혼식 영상은 비공개로 돌리고, 녹음해 둔 음성 사서함 인사말은 통신사 기본 인사말로 바꾸고, 편집하지 않은 긴 음성을 올리기 전에 한 번 더 생각하세요. 또 미국에서는 AI로 생성한 목소리를 쓴 통화가 2024년 2월 8일 FCC의 선언적 판정에 따라 전화소비자보호법(Telephone Consumer Protection Act)에서 "artificial"로 취급된다는 것을 알아 두세요(FCC 24-17). 이는 규제 당국에 전에 없던 근거를 쥐여 주었습니다.

세 규칙 모두 같은 일을 합니다. 목소리가 어떻게 들리는지에 대한 판단을, 누군가 확인할 수 있는 기록으로 바꿉니다.

여기서 법이 확정되었다고 말하는 사람은 소송 기록을 읽지 않은 것입니다.

미국에서는 사법회의 규칙·절차 위원회(Committee on Rules of Practice and Procedure), 즉 상임위원회가 2025년 6월 10일에 기계 생성 증거에 관한 연방증거규칙 707 신설안의 공고를 승인했고, 공개 의견 접수 기간은 2025년 8월 15일부터 2026년 2월 16일까지였습니다(United States Courts). 의견 수렴을 위한 공고는 채택이 아니라 초기 단계이며, 2026년 7월 현재 이 규칙은 제안 상태이고 시행되지 않았습니다.

2026년 NO FAKES Act(S.4591, 제119대 의회)는 2026년 6월 18일 상원 법사위원회에서 보고하기로 의결되었으며, 아직 상원 본회의와 하원의 통과가 필요합니다. 2026년 7월 현재 이 법안은 법이 아닙니다(Congress.gov). 진행 단계, 예외, 통과 시 달라지는 점은 NO FAKES Act가 만들어 낼 것에서 추적합니다. 연방 차원의 권리가 생기기 전까지 기댈 수 있는 권리는 주 단위의 것이고 고르지 않으므로, 권리가 있다고 단정하기 전에 내가 사는 주에 적용되는 디지털 복제물 법을 읽어 보세요.

FTC의 사칭 규칙은 2024년 4월 1일 발효된 이후 정부와 기업 사칭을 다뤄 왔습니다(FTC, 2024년 4월 1일). 이 규칙을 AI 음성 복제를 포함한 개인 사칭으로 확대하는 보충 규칙 제정안은 2024년 2월 15일에 제안되었고, 2026년 7월 현재 확정되지 않았습니다(FTC, 2024년 2월 15일).

유럽에는 AI법과 나란히 달리는 두 번째 트랙이 있습니다. 덴마크는 음성을 포함한 개인의 특성을 실감 나게 모방한 디지털 복제물에 대해 사후 50년까지 동의권을 부여하고 이를 디지털서비스법의 삭제 절차로 집행하는 저작권법 개정안을 유럽연합 집행위원회에 통보했습니다. 2026년 1월에 나온 유럽의회 조사처(EPRS) 브리핑은 이 개정안이 2026년 7월에 시행될 것으로 예상된다고 기록합니다(EPRS, PE 782.611).

이 모든 것이 더디게 굴러가는 동안, 규칙이 어느 쪽으로 정해지든 통하는 일을 하세요. 원본을 보관하세요. 녹음이 정말 내 것임을 보여야 할 일이 생기면 쓸모 있는 증거물은 녹음 메타데이터가 그대로 남아 있는 손대지 않은 원본 파일입니다. 내가 통제하지 않는 시각 기록이 남는 곳에 보관하고, 언제 왜 그 녹음을 했는지 메모를 함께 두세요. 앱이 음성을 다시 인코딩하기 전에 원본 파일을 휴대전화에서 복사해 두세요. 5분이면 되는 일이고, 보통 사람이 만들 수 있는 증거 보관 연속성에 가장 가까운 것입니다.

위의 내용은 모두 사후에 목소리를 증명하는 이야기이고, 그때는 시작하기에 가장 어려운 때입니다. 대안은 처음부터 기록을 쌓아 가는 것입니다.

Afterlife.ai™에서는 Idy®라는 가이드가 당신을 인터뷰합니다. 당신의 답변은 날짜가 있는 추억이 되어 알려진 시각에 당신의 계정으로 저장되고, 당신 삶의 구체적인 사실은 오직 그 추억에서만 나옵니다. 이 제품의 지침이 당신이 말한 적 없는 내용을 지어내는 것을 금지하기 때문입니다. 당신의 목소리는 제품 안의 녹음기로 직접 녹음한 음성으로만 복제되고, 이름이 확인되는 당신의 계정에 날짜가 있는 동의를 남기며, 다른 곳에서 긁어모은 음성은 쓰지 않습니다. 이 인터뷰를 먼저 혼자 해 보고 싶다면 나 자신을 제대로 인터뷰하는 방법을 따로 정리해 두었습니다.

이제 직접 만들어 본 입장에서 솔직한 한계를 말씀드립니다. 우리의 기록이 증명하는 것은 우리 쪽 연결 고리뿐이며 그 이상은 아닙니다. 이 음성이 이 날짜에 이 계정으로 이 동의 아래 여기서 녹음되었다는 것을 말해 줄 뿐입니다. 다른 곳에서 온 파일은 인증할 수 없고, 은행이나 플랫폼이나 법원이 제출을 요구할 때에만 도움이 됩니다. 우리는 현재 내보낸 음성에 C2PA Content Credentials를 붙이지 않으므로 제품 밖으로 나간 파일은 평범한 음성으로 돌아다닙니다. 그리고 어떤 동의 기록도 누군가 팟캐스트 한 회분으로 당신을 복제하는 것을 막지 못합니다. 동의 기록이 주는 것은 필요한 날에 내놓을 수 있는, 날짜와 이름이 있는 반대 기록입니다.

이렇게 만든 Persona에는 시작 날짜, 날짜가 있는 원천 추억, 목소리 뒤에 있는 이름이 확인되는 계정의 날짜가 있는 동의, 그리고 당신이 직접 고른 사람들의 이름 목록이 담겨 있습니다. 그중 어느 것이든 누군가에게 제출을 요구할 수 있는 기록이고, 사기 전화에는 그런 것이 하나도 없습니다.

살아 있는 동안 당신의 구성에 접근할 수 있는 사람은 당신이 지명한 사람뿐이며, 기본값으로 지명되는 사람은 없습니다. 선택하기 전에 알아 두어야 할 한계가 하나 있습니다. 공개 이후에는 당신이 지정한 집행인이 다른 사람들을 초대할 수 있으므로, 그 권한을 염두에 두고 그 사람을 지정하세요. 공개는 Executor Lock™, 증거 확인을 거치는 7일간의 보류를 거쳐 이루어집니다. 당신이 사망했다는 주장만으로는 아무것도 공개되지 않습니다. 증거가 제출되어야 하고, 7일의 기간이 흐르며, 신고가 접수되는 즉시 그 기간의 마감일과 함께 당신에게 알림이 가므로, 아무것도 열리기 전에 허위 주장에 이의를 제기할 수 있습니다.

처음 추억 25개는 무료이고 카드가 필요 없으며, 무료 구성은 만료되지 않습니다. 가격 정책 중에서 제가 가장 강하게 옹호하고 싶은 부분입니다. 이 업계의 가장 나쁜 모습은 슬픔에 잠긴 가족이 거절하기 가장 어려운 바로 그 순간에 돈을 받는 것입니다. 유료 옵션이 나중에 더해 주는 것은 요금제 페이지에 정리되어 있습니다.

목소리 복제에 대한 정직한 대응은 남은 평생 내 목소리를 숨기는 것이 아닙니다. 숨기는 것은 통하지 않고, 샘플은 이미 밖에 있으며, 당신을 사랑하는 사람들만 추측하며 남게 됩니다. 서류가 딸린 목소리 한 판을 가지고 계세요.

나의 유산 만들기 시작하기 무료 구성, 추억 25개, 카드 불필요.

내 목소리 녹음이 가짜임을 증명할 수 있나요?

음성만으로는, 그리고 소비자용 탐지기로는 안 됩니다. 대신 파일의 출처를 공략하세요. 어디서 왔는지, 언제 처음 나타났는지, 누가 올렸는지, 서명된 인증 정보가 있는지 확인합니다. 그리고 같은 기간의 내 원본을 녹음 메타데이터가 그대로인 상태로 제시하세요. 법원과 플랫폼은 음파에 대한 논쟁이 아니라 그 기록에 반응합니다.

내 목소리를 내가 복제하면 문제를 더 키우는 건가요?

복제본에 통제 장치가 없을 때만 그렇습니다. 목소리 복제의 위험은 누가 왜 만들었는지 기록이 없는, 동의 없는 복제본입니다. 내가 녹음한 음성으로 내가 직접 만들고, 내 계정에 날짜가 있는 동의를 남기고, 내가 고른 사람들의 이름 목록을 둔 복제본은 추적할 수 있는 내 목소리입니다. 안전하지 않은 복제본은 나 없이 만들어진 것입니다.

내 목소리 녹음과 추억은 누구 것인가요?

당신 것입니다. 우리 약관은 당신이 콘텐츠의 소유권을 유지하며, Idy에는 당신을 위해 서비스를 운영하는 목적으로만 그 콘텐츠를 처리하고 저장할 수 있는 제한적이고 비독점적인 라이선스를 준다고 정하고 있고, 별도의 합의가 없는 한 모델 학습에는 쓰지 않습니다. 요금제 가격은 요금제 페이지에 있습니다. 기사 페이지에 묵은 숫자가 있는 것은 숫자가 없는 것보다 나쁘기 때문입니다. 개별 추억은 언제든 삭제할 수 있고, 계정을 삭제하면 추억과 저장된 녹음이 함께 지워집니다. 한 가지 빈틈을 분명히 말씀드립니다. 현재 음성 합성 제공업체에 있는 복제된 목소리를 한 번에 지우는 버튼은 없으며, 그 삭제는 버튼이 아니라 저희에게 하는 요청입니다.

Afterlife.ai가 문을 닫으면 어떻게 되나요?

할 수 있을 때 내보내기를 받아 두세요. 계정 설정의 데이터 내보내기는 프로필, 추억, 채팅 기록을 JSON 파일로 돌려주며, 횟수에 제한 없이 할 수 있습니다. 솔직한 빈틈이 두 가지 있습니다. 내보내기에는 아직 음성 녹음이 포함되지 않고, 회사가 문을 닫을 경우 어떻게 되는지에 대한 정리 계획 약속을 우리는 아직 발표하지 않았습니다. 이 업계의 모든 회사에 이 질문을 하고 나서 그중 어느 곳에든 녹음하세요. 얼버무린 답은 그 자체가 답입니다.

• 목소리 복제본이 생기면 그 소유자는 누구인가

• 목소리 복제는 안전한가, 쉬운 말로

• 잘못 기억된다는 것이 무슨 뜻이며, 누가 기록을 바로잡는가

• 인터뷰가 나의 AI 버전을 만드는 방법

• 국가별 딥페이크 및 AI 초상 관련 법

1. 유럽연합. 인공지능법(AI Act) 제50조, 특정 AI 시스템 제공자와 배포자의 투명성 의무. 규정 (EU) 2024/1689. 2026년 8월 2일부터 적용. https://artificialintelligenceact.eu/article/50/

2. 유럽연합. 인공지능법(AI Act) 제99조, 벌칙. 규정 (EU) 2024/1689. https://artificialintelligenceact.eu/article/99/

3. 유럽연합. 인공지능법(AI Act) 제2조, 적용 범위. 규정 (EU) 2024/1689. https://artificialintelligenceact.eu/article/2/

4. 유럽연합 집행위원회. AI 생성 콘텐츠의 표시와 라벨링에 관한 행동강령(Code of Practice). 최종본 2026년 6월 10일 발표. https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

5. Mishcon de Reya. EU AI Act simplified: unpacking the AI Omnibus agreement of May 2026. 잠정 합의 2026년 5월 7일, 이미 시장에 나온 시스템의 제50조(2) 표시에 대한 유예 기간은 2026년 12월 2일까지. https://www.mishcon.com/news/eu-ai-act-simplified-unpacking-the-ai-omnibus-agreement-of-may-2026

6. Federal Bureau of Investigation, Internet Crime Complaint Center. 2025 Internet Crime Report, "Artificial Intelligence (AI) Used in Cybercrime", 39쪽. 신고 22,364건, 조정 피해액 $893,346,472. AI 관련으로 보고된 투자 신고는 $632 million 이상, 위급 상황 사기는 $5 million 이상. https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf

7. Mai KT, Bray S, Davies T, Griffin LD. "Warning: Humans cannot reliably detect speech deepfakes." PLOS ONE, 2023년 8월 2일. 참가자 529명. 단일 클립 조건의 전체 정확도 70.35%, 딥페이크 클립 정확도 73%. 쌍 비교 조건 85.59%. 사전 훈련으로 정확도 3.84% 향상. https://doi.org/10.1371/journal.pone.0285333

8. Cox J. "How I Broke Into a Bank Account With an AI-Generated Voice." Vice, 2023년 2월 23일. Lloyds Bank Voice ID. 기자 본인의 음성 약 5분. 복제본이 통과하기 전 여러 번 실패. https://www.vice.com/en/article/how-i-broke-into-a-bank-account-with-an-ai-generated-voice/

9. ElevenLabs. 음성 복제의 작동 방식(Voice cloning: how it works). 개발자 문서, 2026년 7월 30일 확인. 2분 미만의 음성으로 쓸 만한 복제본을 만들 수 있음. 음성 캡차는 제출된 녹음이 정말 요청자의 것임을 보장하지 못함. https://elevenlabs.io/docs/eleven-api/concepts/voice-cloning

10. 콘텐츠 출처 및 진위 확인 연합(C2PA). C2PA 기술 사양 2.2, 2025년 5월. https://spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html

11. 콘텐츠 출처 및 진위 확인 연합(C2PA). C2PA 소프트 바인딩 API, 사양 2.2. https://spec.c2pa.org/specifications/specifications/2.2/softbinding/Decoupled.html

12. Ding W, Guo H, Duan R, Wang G, Wang Y, Chen M, Yan Q. "Learning to Evade: Adaptive Attacks on Audio Watermarking." arXiv:2606.22310, 2026년 6월 21일. 두 가지 워터마크 방식과 세 가지 음성 데이터셋에서 탐지율은 치환과 생성에서 10% 미만, 제거에서 0%. https://arxiv.org/abs/2606.22310

13. Chandra NA, Lee H, Murtfeldt R, et al. "Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024." arXiv:2503.02857. 음성 모델의 AUC는 이전 벤치마크 대비 48% 하락. 상용 모델과 미세 조정 모델도 포렌식 분석가에는 못 미침. https://arxiv.org/abs/2503.02857

14. Federal Communications Commission. Declaratory Ruling FCC 24-17, 2024년 2월 2일 채택, 2024년 2월 8일 공개. 통화 속 AI 생성 음성은 전화소비자보호법상 "artificial". https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

15. 미국 연방통신위원회(FCC). 발신자 번호 인증으로 스푸핑 로보콜 막기(STIR/SHAKEN). 2026년 7월 30일 확인. https://www.fcc.gov/call-authentication

16. United States Congress. NO FAKES Act of 2026, S.4591, 제119대 의회. 2026년 6월 18일 상원 법사위원회에서 보고하기로 의결. 2026년 7월 현재 법 아님. https://www.congress.gov/bill/119th-congress/senate-bill/4591

17. 미국 연방거래위원회(FTC). 사칭 규칙 오늘 발효(FTC Announces Impersonation Rule Goes into Effect Today), 2024년 4월 1일. 정부 및 기업 사칭 규칙 시행. https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-impersonation-rule-goes-effect-today

18. 미국 연방거래위원회(FTC). AI 개인 사칭에 맞서는 새 보호책 제안(FTC Proposes New Protections to Combat AI Impersonation of Individuals), 2024년 2월 15일. 개인 사칭에 대한 보충 규칙 제정은 2026년 7월 현재 확정되지 않음. https://www.ftc.gov/news-events/news/press-releases/2024/02/ftc-proposes-new-protections-combat-ai-impersonation-individuals

19. United States Courts. Proposed Amendments Published for Public Comment. 증거규칙 707은 2025년 6월 10일 사법회의 규칙·절차 위원회가 공고를 승인, 의견 접수 기간 2025년 8월 15일부터 2026년 2월 16일까지. https://www.uscourts.gov/forms-rules/proposed-amendments-published-public-comment

20. European Parliamentary Research Service. "The Danish approach to copyright and deepfakes: A model for the EU?" PE 782.611, 2026년 1월. 음성을 포함한 개인 특성의 실감 나는 디지털 모방에 대한 동의권, 사후 50년 지속, 디지털서비스법으로 집행. 2026년 7월 시행 예상. https://www.europarl.europa.eu/RegData/etudes/ATAG/2026/782611/EPRS_ATA%282026%29782611_EN.pdf

21. Afterlife.ai. Terms of Service. 2026년 7월 30일 확인. "You retain ownership of all content, memories, media, and data you input into the Platform"; 서비스 제공만을 위해 콘텐츠를 처리, 저장, 사용할 수 있는 제한적이고 비독점적인 라이선스. https://www.afterlife.ai/terms-of-service

이 페이지를 조사한 방법

법률적 주장은 일차 자료에서 가져왔습니다. Regulation (EU) 2024/1689의 본문, 유럽연합 집행위원회가 직접 공개한 표시 및 라벨링 행동강령, Congress.gov의 법안 본문과 위원회 기록, FCC가 공개한 선언적 판정, FTC의 보도자료, 규칙 개정안을 다룬 United States Courts 페이지입니다. 기술적 주장은 C2PA 사양, 업체 자신의 개발자 문서, 동료 심사를 거친 연구나 프리프린트에서 가져왔고 식별자로 인용했습니다. 우리 제품에 관한 모든 주장은 제품을 돌리는 코드와 대조해 확인했으며, 위에 밝힌 한계는 그 코드가 실제로 가진 한계입니다. 이차 자료를 쓴 곳은 일차 문서가 아직 공개되지 않은 경우이고, 2026년 5월 7일의 AI Omnibus 잠정 합의가 그렇습니다.

확정되지 않았고 위에서도 확정되지 않은 것으로 다룬 사항은 이렇습니다. Omnibus 유예 날짜가 합의된 대로 유지되는지, S.4591이 통과하기나 하는지, FTC가 사칭 규칙을 개인으로 확대하는지, 증거규칙 707이 채택되는지, 법원이 기계 판독 가능 표시를 실제 증거로 어떻게 다룰지입니다. 워터마크의 내구성은 해결된 것이 아니라 다툼이 있는 사안이고, 실제 음성에 대한 탐지기 정확도는 위에 인용한 벤치마크 수치가 낡아질 만큼 빠르게 변하고 있습니다.

이 페이지에서 잘못되었거나 오래된 내용을 발견하시면 문의 페이지를 통해 알려 주세요. 페이지를 바로잡고 검토 날짜를 새로 정하겠습니다.

최종 검토: 2026년 7월 30일. 이 페이지는 2026년 8월 2일 EU AI법 제50조의 적용과 S.4591의 상태를 포함해 현재 진행 중인 법률 및 규제 주장을 담고 있으며, 그 사실들이 정리될 때까지 30일 주기로 다시 확인합니다.