2023年、声の響きは証拠ではなくなった
声の録音は、もはやあなたが話したことの証明にはなりません。ヨーロッパではマーキング規則が始まりつつあり、検出器は宣伝文句より性能が低く、実際に頼れる層は、電話が鳴る前に家族で決めておいた合言葉です。
執筆:Chris Williams(Afterlife.ai™ 創業者兼CEO)。2026年7月30日公開。
その電話は夜の11時にかかってきます。人がもっとも考えられなくなる時間だからです。
お母さんが電話に出ると、聞こえてくるのはあなたの声です。あなたの名前、あなたの訛り、急いでいるときに2つの言葉をつなげて言ってしまう癖。事故があった、逮捕された、10分以内に送金しなければならない、と言っています。お母さんに与えられた時間は3秒ほどで、電話の向こうが自分の息子かどうかを判断しなければなりません。
お母さんには見分けられないでしょう。以下に示す研究に照らせば、あなたにも、銀行にも、できません。
録音された声が本当に自分のものだと証明する方法は、音ではなく記録の問題になりました。このページの残りは、どの記録が通用するのかについてです。
この問題には、あなた自身を指す裏返しの形もあります。言った覚えのないことを話すあなたの録音が出回る。同僚へのボイスメッセージ、受けたことのないインタビューの一節、家族の言い争いで、あなたが彼らをどう思っているかの証拠として読み上げられる一文。今度は、自分の口についての「ないこと」を証明しなければならないのはあなたです。
どちらも、装いを変えた同じ問題です。録音された音の歴史のほとんどにわたって、声を聞くこと自体が証明でしたが、その性質は、いつのまにか期限切れになりました。
あなたのレガシーづくりを始める 無料で作成、思い出25件、カード登録は不要です。
執筆:Chris Williams(Idy Pty Ltd 創業者、Afterlife.ai™) · 最終確認日:2026年7月29日
証明は波形から書類へ移った
録音された声が本当にあなた自身のものだと証明するとき、銀行の不正対応窓口でも、法廷でも、家族のグループチャットでも、決着をつけられる記録は5種類あります。そして、そのどれも音声そのものではありません。
合成された出力に付く機械可読のマークは、準拠した生成ツールがそのファイルを作ったことを示します。2026年8月2日から、EU AI法(規則(EU) 2024/1689)の第50条は、合成音声を生成するAIシステムの提供者に対し、出力を機械可読な形式でマークし、人工的に生成または加工されたものとして検知できるようにすることを求めています。生成ツールがオープンウェイトの場合、海外にある場合、準拠していない場合、あるいはマークが上書きされた場合、このマークは機能しません。
埋め込まれた来歴メタデータ(C2PAのハードバインディング)は、誰がファイルに署名し、どんな編集が行われたかを示します。プラットフォームがアップロードを再エンコードし、このメタデータの束が黙って消えてしまうと、機能しなくなります。
ソフトバインディング、つまり不可視の電子透かしや知覚的フィンガープリントがあれば、剥がれた認証情報をレジストリから再び探し出せます。ソフトバインディングは、適応型攻撃や通常のコーデック変換の繰り返しに弱い点があります。
日付入りの同意記録は、名前のある人物が特定の日に同意したことを示します。この記録が存在するのは、どこかのプラットフォームが取得して保管していた場合に限られます。
すでに知っている番号への折り返し電話は、その人物の登録済みの番号につながったことを示します。保存してある番号が間違っていたり、古かったり、転送されていたりすると、折り返しは機能しません。
このうち4つは技術の領域です。5つ目は、お母さんの連絡先にすでに入っている電話番号であり、攻撃を受けても最も崩れにくいのがこの電話番号です。
来歴とは、ファイルの検証可能な履歴のことです。音声がどこから来たのか、何をされたのか、各段階で誰が承認したのかを指します。業界標準はC2PA仕様で、消費者向けの表示名はコンテンツクレデンシャル(Content Credentials)です。その方法は地味ですが堅実です。まず素材の暗号学的ハッシュを取ります。次に、どの機器で録音したか、どんな編集を加えたか、生成モデルが関わったかどうかといった記述を、そのハッシュに結びつけます。最後に、その束に署名します(C2PA技術仕様書 2.2(2025年5月))。ファイルを改変すれば、署名は成り立たなくなります。音の聞こえ方は一切信用しません。信用するのは、署名された連鎖だけです。
弱点は、プラットフォームを使った瞬間に表れます。メタデータはファイルに添えられているだけで、プラットフォームはアップロードされたものを再エンコードするからです。C2PAはソフトバインディングでこれに応えます。転送中に剥がれた認証情報も、電子透かしやフィンガープリントを手がかりにレジストリから取り戻せます(C2PAソフトバインディングAPI)。これは役に立ちますが、この仕組みを保証と呼ぶべきではありません。その理由は、2つ先の節で説明します。
かつて、本人確認は声の響きの中にありました。いまは、録音の周りにある書類の中にあります。そして、この仕組み全体で最も安上がりな層は、電話が鳴る前に家族で決めておいた一つの合言葉です。
証明は、もっと大きな問いの一角にすぎません。その大きな問いとは、亡くなった後、あなたのアイデンティティ、顔、声を誰が管理するのかです。そのページが全体の地図で、このページは「認証」と書かれた一角を扱います。
銀行は声の上に認証を築き、一人のジャーナリストがそこを通り抜けた
2023年2月、ジャーナリストのJoseph Coxは、自分の話し声を5分間録音し、無料の消費者向けツールでクローンを作り、Lloyds Bankに電話をかけました。合成音声を電話口で流し、登録用の合言葉「my voice is my password」まで含めて、Voice IDを突破したのです。最初の試みは失敗しました。もっと自然に聞こえるよう抑揚を調整して、ようやく入り込めました(Vice、2023年2月23日)。
銀行は、人間の声は偽造しにくいという前提のうえに認証サービスを築いていました。その前提はすでに期限切れだったのに、誰もサービスに知らせていなかったのです。
あなたの耳も、銀行より優れてはいません。2023年8月2日にPLOS ONEで発表された、529人が参加した研究で、Mai、Bray、Davies、Griffinは、1本ずつクリップを聞かされた場合、聞き手がディープフェイク音声を正しく見分けられたのは73%にとどまり、そのシングルクリップ条件での全体の正答率は70.35%だったと報告しています。短い慣れの訓練を行っても、正答率の平均的な向上は3.84%でした(Mai et al., 2023)。本物と偽物を並べて聞かせた場合には85.59%に達しましたが、詐欺の電話が並べて比べさせてくれることはありません。電話のかかってくる形、つまり1本ずつ判断すると、人は4回に1回以上まちがえ、事前に警告しても数字はほとんど動きませんでした。この論文は3年前のものであり、その後、生成ツールは進歩しています。
必要な素材の量も激減しました。ElevenLabs自身の開発者向けドキュメントには、「2分に満たない音声でも使えるクローンを作れる」とあります(ElevenLabs音声クローンのドキュメント)。2分とは、留守番電話の応答メッセージと、誰かが結婚式で撮ったあなたの短い動画1本分です。
ここで認めておくべき点があります。この種の話題で見出しに踊る数字は、たいてい誇張されているからです。FBIのインターネット犯罪苦情センター(IC3)は、2025年にAIに言及した苦情を22,364件記録し、調整後の損失額は$893,346,472でした。そのお金の大半は投資詐欺で、AIの関与が報告された投資関連の苦情の損失は6億3,200万ドルを超えています。クローンされた声が困っている親族を装う「窮地詐欺」の申告損失は、2025年に500万ドルを超えました(2025年IC3年次報告書、39ページ)。声をクローンした電話は、大きな問題の中のわずかな部分です。しかもこの報告書には、AIに関するどの数字についても前年との比較がありません。ですから、この特定の詐欺の増加率を口にする人は、その数字をIC3から得たわけではありません。
大きな問題の中のわずかな部分でも、あなたのお母さんにかかってくるのはその電話です。公開されている自分の声の量を減らすのは別の作業で、声の公開サンプルを減らす方法で扱っています。
検出器も電子透かしもあなたを救えない
市場は「本物か偽物か」を告げるボタンを求めていますが、証拠によれば、そのようなボタンはまだ存在しません。
Deepfake-Eval-2024は、研究室のデータセットではなく、実際にSNSで出回ったディープフェイクから作られたベンチマークです。ここでは、オープンソースの音声検出モデルのAUC(曲線下面積)が、以前のベンチマークでのスコアより48%低下しました。研究者たちは、市販の検出器や微調整したモデルは既製のオープンソースのものを上回るものの、ディープフェイクの鑑定分析官の精度にはなお届かないと報告しています(arXiv:2503.02857)。アップロードしたファイルに信頼度のパーセンテージを出すサイトは、まさにこの種のモデルが生成した数字を売っているのです。
したがって、裁判や警察への届出のために特定のファイルを認証する必要があるなら、音声鑑定の専門家に依頼してください。ベンチマークの証拠に照らすと、いまも最も正確な手段は専門家です。
マークがあなたを救ってくれるわけでもありません。理由は技術的というより、味気ないものです。第50条が縛るのは、守るつもりのある提供者と利用者です。AI法の存在すら知らない法域で、ノートパソコン上のオープンウェイトの音声モデルを動かしている人は、何もマークしません。そして、メタデータをまったく運ばない生の通話の内部まで及ぶマーキング規則は存在しません。
埋め込まれたマークが残り続けると約束できる人もいません。音声の電子透かしは攻撃を受けやすく、その攻撃は安価になりつつあります。2026年6月、Dingらとして論文を発表した研究者たちは、適応型攻撃によって、検証した方式全体で、置き換えと作成では電子透かしの検出率を10%未満に、除去では0%にまで下げられることを示しました(arXiv:2606.22310)。
そして、この流れの最後に削除ボタンはありません。公開されている自分の声のサンプルを減らすことはできますし、プラットフォームが用意する削除の仕組みを使うこともできます。住んでいる地域によっては、パブリシティ権、人格権、データ保護に基づく請求ができる場合もあります。しかし、そのどれも複製が作られること自体は防げません。防止をうたう人は誇張しています。
2026年8月2日から、ヨーロッパでは合成音声が自ら名乗らなければならない
第50条が定めるのは所有権ではなく透明性の義務であり、この違いは、この規則で何ができるかを考えるうえで重要です。
第50条(2)は、合成された音声、画像、動画、テキストを生成するAIシステムの提供者に、出力が「機械可読な形式でマークされ、人工的に生成または加工されたものとして検知可能である」ようにすることを求めています(第50条)。第50条(1)は、合理的に十分な情報を持つ人にとって明らかな場合を除き、AIシステムとやり取りしていることを本人に知らせることを求めています。第50条(4)は、ディープフェイクの画像、音声、動画コンテンツの利用者に、そのコンテンツが人工的に生成または加工されたものであることの開示を求めています。いずれも、明確かつ区別できる方法で、遅くとも最初のやり取りまたは接触の時点で行わなければなりません。
適用除外もあります。入力を実質的に変えない補助的な編集は対象外で、認可された一部の法執行目的の利用も同様です。芸術的、創作的、風刺的な作品は、合成コンテンツがあることを適切な方法で開示すれば足ります。
罰則の根拠は第99条にあります。第50条に違反すると、最大1,500万ユーロ、または事業者の場合は全世界の年間総売上高の最大3%のうち、いずれか高い方の行政上の制裁金が科されます(第99条)。及ぶ範囲を定めるのは第2条で、AIシステムが生み出した出力がEU域内で使われる場合、域外に所在する提供者と利用者にもこの規則を適用します(第2条)。シドニーやシカゴでこれを読んでいても、使っているツールの提供元はヨーロッパにも販売しているため、出力にマークを付ける可能性は高いでしょう。
マーキングについては、2つの日付が重要です。義務は2026年8月2日から適用されます。2026年5月7日に暫定合意されたAIオムニバスのパッケージでは、その日より前に市場に出ていた生成システムの提供者は、第50条(2)のマーキング要件を満たすまでに2026年12月2日までの猶予があり、第50条のそれ以外の義務は経過期間なしで8月2日から適用されます(Mishcon de Reya、2026年5月)。2026年6月10日には、欧州委員会がAI生成コンテンツのマーキングとラベル付けに関する実施規範の最終版を公表しました。この規範への署名は任意ですが、規範が提供者の履行を助ける対象の義務は、署名の有無にかかわらず適用されます(欧州委員会)。
この条文が得させてくれるものは限られていますが、価値はあります。準拠した合成音声は、自ら合成だと名乗ります。そのため、ヨーロッパのプラットフォームで出回っているマークのないクリップは、声に出して問う価値のある疑問になります。ただし、この条文は、誰があなたの声をコピーしてよいかを決めるものではなく、どの版の条文も、あなたのお母さんに電話をかける犯罪者には届きません。適用範囲、期限、どの義務を誰が負うかは、第50条が求めること、そして誰を縛るのかにまとめてあります。
あなたのレガシーづくりを始める 無料で作成、思い出25件、カード登録は不要です。
クローンされた声に勝つ、費用ゼロの家庭の3つのルール
この3つはどれも1円もかからず、しかも合わせれば、あらゆる来歴の標準が手を出せない攻撃を防げます。生の通話には、検証できるものが何も乗っていないからです。
合言葉を決める。 家族全員で共有する短い一つのフレーズを決め、お金や緊急事態に関する電話の冒頭で口にします。ペットの名前、住んだことのある通り、学校名、公開プロフィールに載っているようなものは避けてください。怖い思いをしているときでも言いやすいものにします。声がそっくりな相手がそのフレーズを言えないなら、通話はそこで終わりです。このルールは絶対でなければなりません。窮地詐欺の仕組みそのものが、手順を求めることを冷たい仕打ちのように感じさせるものだからです。
折り返しルールを採用する。 かかってきた電話では、お金を動かさず、銀行の口座情報やコードも読み上げません。電話を切り、自分の連絡先から相手を探し、もともと登録されていた番号に電話をかけます。電話の相手が教えてきた番号は決して使いません。発信者番号の認証は、多くの人が思っているような働きをしません。FCC自身の説明では、STIR/SHAKENにより、事業者は「特定の通話で送信された発信者番号の情報が、発信者の実際の番号と一致することを確認」できます(FCC、発信者番号の認証)。認証されるのは番号であって、話している人ではありません。番号はまったく本物でも、電話口の声は偽物ということがありえます。
約束を書面にして、署名する。 1段落の文書を印刷し、日付を入れて、台所の戸棚の扉の内側に貼っておきます。「私は、音声通話やボイスメッセージで、あなたにお金、ギフトカード、暗号資産、銀行の情報、確認コードを求めることは決してありません。私に似た声がそのどれかを求めてきたら、それは私ではありません。電話を切って、あなたの電話にある私の番号にかけ直してください。」署名の下には日付も添えます。大げさだと思われるでしょうが、夜11時の恐ろしい言い争いを、スマートフォンを手にしたまま眺められる一枚の紙に変えてくれます。
10分かける価値のある追加策が2つあります。1つ目は、公開されているサンプルを減らすことです。結婚式の動画を非公開にし、録音した留守番電話の応答メッセージを通信会社の標準のものに替え、編集していない長い自分の音声をアップロードする前にもう一度考えてください。2つ目は、米国では、2024年2月8日のFCCの宣言的裁定(declaratory ruling)を受けて、AI生成の音声を使った通話が電話消費者保護法(TCPA)上の「人工的」な音声にあたるとされたことを知っておくことです(FCC 24-17)。これにより、規制当局にこれまでなかった足がかりができました。
3つのルールは、どれも同じ働きをします。声の聞こえ方についての判断を、誰かが確かめられる記録に置き換えるのです。
法律は未完成だから、元のファイルを保管しておく
ここでの法律を確定したものとして語る人は、審議の経過を読んでいません。
米国では、連邦司法会議の規則・実務・手続委員会(通称スタンディング・コミッティ)が、機械生成証拠に関する連邦証拠規則707の新設案を、2025年6月10日に公表のため承認し、パブリックコメントの期間は2025年8月15日から2026年2月16日まででした(United States Courts)。意見募集のための公表は初期の段階であり、採択ではありません。2026年7月時点で、この規則は提案にとどまり、施行されていません。
2026年NO FAKES法(S.4591、第119議会)は、2026年6月18日に上院司法委員会で報告が決まりましたが、上院本会議と下院の可決がまだ必要です。2026年7月時点で、この法案は法律になっていません(Congress.gov)。段階、適用除外、成立した場合に何が変わるのかは、NO FAKES法が新たに作るもので追跡しています。連邦レベルの権利ができるまで、頼れる権利は州の法律に基づくもので、州ごとにばらつきがあります。権利を主張できると考える前に、あなたの州に適用されるデジタルレプリカ関連の法律を読んでください。
FTCのなりすまし対策規則は、2024年4月1日の施行以来、政府機関と事業者へのなりすましを対象にしています(FTC、2024年4月1日)。AIによる声のクローンを含め、個人へのなりすましにまで規則を広げる追加の規則制定は、2024年2月15日に提案されましたが、2026年7月時点でまだ確定していません(FTC、2024年2月15日)。
ヨーロッパでは、AI法と並んで第二の流れが進んでいます。デンマークは、著作権法の改正案を欧州委員会に通知しました。この改正案は、声を含む本人の特徴を写実的にデジタルで模倣することに対して、死後50年にわたり、本人に同意の権利を与え、デジタルサービス法に基づく削除の仕組みで執行するものです。2026年1月に公表された欧州議会調査局(EPRS)のブリーフィングは、この改正が2026年7月に施行される見込みだと記しています(EPRS、PE 782.611)。
こうしたことが決着しないあいだに、規則がどう転んでも通用することをやっておきましょう。それは、元のファイルを保管することです。録音が間違いなく自分のものだと示す必要が生じたとき、役に立つのは、撮影・録音時のメタデータが無傷で残った、手を加えていない元のファイルです。自分では操作できないタイムスタンプのある場所に保存し、いつ、なぜ録音したかのメモを添えておきます。アプリが音声を再エンコードしてしまう前に、スマートフォンから生のファイルをコピーしてください。5分で済む作業で、一般の人が作れる、証拠保全の連鎖(チェーン・オブ・カストディ)にもっとも近いものです。
書類付きの声を、一つだけ持つ
ここまで述べたのは、事後に声を証明する話で、これは始めるのにもっとも難しい時期です。もう一つの道は、記録を最初から積み上げておくことです。
Afterlife.ai™では、Idy®というガイドがあなたにインタビューをします。あなたの答えは日付入りの思い出になり、既知の時刻にあなたのアカウントのもとで記録されます。そして、あなたの人生の具体的な事実は、その思い出だけから引き出されます。このサービスの裏側の指示が、あなたが言っていないことを作り出すことを禁じているからです。あなたの声は、サービス内のレコーダーで録音した音声から、あなたの名前のアカウントに結びついた日付入りの同意のもとでクローンされます。他の場所から集めた音声ではなく、サービス内で録音したものだけが元になります。まず自分一人でインタビューをしてみたい場合は、自分にきちんとインタビューする方法を別のページにまとめてあります。
ここからは、作ってきた立場からの正直な限界です。私たちの記録が証明するのは、私たち自身の連鎖だけで、それ以上の範囲には及びません。記録が示すのは、この音声がここで、この日に、このアカウントによって、この同意のもとで録音されたということです。他所から持ち込まれたファイルを認証することはできず、銀行、プラットフォーム、裁判所からその提出を求められたときにしか役に立ちません。現時点では、書き出した音声にC2PAコンテンツクレデンシャルを付けていないため、サービスの外に出たファイルは普通の音声として流通します。また、ポッドキャストの1回分の音声からあなたをクローンされることを、同意記録が止めてくれるわけでもありません。同意記録があなたに与えるのは、それが必要になった日に出せる、日付と名前のある反証の記録です。
この方法で作られたPersonaには、開始日、日付入りの元になった思い出、声の裏付けとなる名前のあるアカウントでの日付入りの同意、そしてあなたが選んだ人々の名前入りの一覧が備わります。これらはどれも、誰かが提出を求められる記録であり、詐欺の電話にはそのどれもありません。
あなたが生きているあいだ、あなたの作成物にアクセスできるのは、あなたが指名した人だけで、初期設定では誰も指名されていません。選ぶ前に知っておくべき制限が一つあります。公開後は、あなたが任命した遺言執行者がさらに人を招待できるため、その権限を持つことを前提に、その人を選んでください。公開は、Executor Lock™、証拠で確認する7日間の保留を通じて行われます。亡くなったという申告があっても、それだけでは何も公開されません。証拠を提出しなければならず、7日間の期間が進み、申告が出された時点で、その期間の終了日とともにあなたに通知が届くため、何かが開く前に、虚偽の申告に異議を唱えることができます。
最初の25件の思い出は無料で、カードは不要、無料の作成物に有効期限はありません。料金について、私がもっとも強く擁護したいのはこの点です。この業界の最悪の形は、悲しみの中にいる家族に、もっとも断りにくい瞬間に請求することです。有料のオプションがあとから何を加えるかは、料金プランのページに載せています。
声のクローンへの誠実な対応は、残りの人生ずっと声を隠すことではありません。隠しても意味はなく、サンプルはすでに出回っていて、あなたを愛する人たちは推測するしかなくなります。書類付きの声を、一つだけ持っておいてください。
あなたのレガシーづくりを始める 無料で作成、思い出25件、カード登録は不要です。
録音を始める前に家族が尋ねる質問
自分の声の録音が偽物だと証明できますか?
音声だけからはできませんし、一般向けの検出器でもできません。代わりに、そのファイルの来歴を問いただしてください。どこから来たのか、いつ最初に現れたのか、誰がアップロードしたのか、署名付きの認証情報を持っているのか。そのうえで、同じ時期の、録音時のメタデータが無傷の自分の元ファイルを提示します。裁判所もプラットフォームも、波形についての議論ではなく、その記録に反応します。
自分の声をクローンすると、問題を悪化させることになりますか?
管理のない状態で作られた場合に限ります。声のクローンの危険は、誰が、なぜ作ったのかの記録を持たない、同意のないコピーにあります。自分で録音した音声から、自分のアカウントに日付入りの同意を付け、自分で選んだ人々の名前入りの一覧とともに作ったクローンは、たどれる形のあなたの声です。危険なのは、あなたが関わらずに作られたコピーです。
自分の声の録音や思い出は、誰のものですか?
あなたのものです。利用規約では、あなたがコンテンツの所有権を保持し、Idyにはあなたのためにサービスを運営する目的に限って、そのコンテンツを処理・保存するための限定的で非独占的な使用許諾を与えるとしており、別の合意がない限りモデルの学習には使いません。料金は、古い数字を記事に載せるのは載せないより悪いので、料金プランのページにあります。個々の思い出はいつでも削除でき、アカウントを削除すれば、思い出と保存されている録音が削除されます。一つの隙間をはっきり申し上げます。合成を担当する提供元に保管されているクローン音声には、現在、ワンクリックの削除機能がなく、その削除はボタンではなく私たちへの依頼になります。
Afterlife.aiがサービスを終了したらどうなりますか?
できるうちにエクスポートを取ってください。アカウント設定のデータエクスポートでは、プロフィール、思い出、チャットの記録がJSONファイルで返され、何度でも実行できます。正直な隙間が2つあります。エクスポートにはまだ音声の録音が含まれていないこと、そして、会社が閉鎖した場合にどうなるかを定めた終了時の約束を、私たちはまだ公表していないことです。この分野のどの会社にも、何かを録音する前に同じ質問をしてください。あいまいな答えは、それ自体が答えです。
出典
欧州連合(EU)。人工知能法第50条(一定のAIシステムの提供者および利用者の透明性義務)。European Union. Artificial Intelligence Act, Article 50. Regulation (EU) 2024/1689. 2026年8月2日から適用。 https://artificialintelligenceact.eu/article/50/
欧州連合(EU)。人工知能法(Artificial Intelligence Act)第99条、罰則。規則(EU) 2024/1689。 https://artificialintelligenceact.eu/article/99/
欧州連合(EU)。人工知能法(Artificial Intelligence Act)第2条、適用範囲。規則(EU) 2024/1689。 https://artificialintelligenceact.eu/article/2/
欧州委員会。AI生成コンテンツのマーキングとラベル付けに関する実施規範。European Commission. Code of Practice on marking and labelling of AI-generated content. 最終版は2026年6月10日公表。 https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content
Mishcon de Reya. EU AI Act simplified: unpacking the AI Omnibus agreement of May 2026. 暫定合意は2026年5月7日。すでに市場にあるシステムの第50条(2)のマーキングには2026年12月2日までの経過期間。 https://www.mishcon.com/news/eu-ai-act-simplified-unpacking-the-ai-omnibus-agreement-of-may-2026
Federal Bureau of Investigation, Internet Crime Complaint Center. 2025 Internet Crime Report, "Artificial Intelligence (AI) Used in Cybercrime", 39ページ。苦情22,364件、調整後損失額$893,346,472。AIの関与が報告された投資関連の苦情は6億3,200万ドル超、窮地詐欺は500万ドル超。 https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf
Mai KT, Bray S, Davies T, Griffin LD. "Warning: Humans cannot reliably detect speech deepfakes." PLOS ONE, 2023年8月2日。参加者529人。シングルクリップ条件の全体正答率70.35%、ディープフェイクのクリップでは73%。ペア条件では85.59%。慣れの訓練で正答率が3.84%向上。 https://doi.org/10.1371/journal.pone.0285333
Cox J. "How I Broke Into a Bank Account With an AI-Generated Voice." Vice, 2023年2月23日。Lloyds BankのVoice ID。記者自身の約5分間の音声。クローンが通る前に何度か失敗。 https://www.vice.com/en/article/how-i-broke-into-a-bank-account-with-an-ai-generated-voice/
ElevenLabs. Voice cloning: how it works. 開発者向けドキュメント、2026年7月30日確認。「2分に満たない音声でも使えるクローンを作れる」。音声キャプチャは「提供された録音が本当に依頼者のものであることを保証できない」。 https://elevenlabs.io/docs/eleven-api/concepts/voice-cloning
コンテンツの来歴と真正性のための連合(C2PA)。C2PA技術仕様書 2.2、2025年5月。C2PA Technical Specification 2.2. https://spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html
コンテンツの来歴と真正性のための連合(C2PA)。C2PAソフトバインディングAPI、仕様2.2。C2PA Soft Binding API. https://spec.c2pa.org/specifications/specifications/2.2/softbinding/Decoupled.html
Ding W, Guo H, Duan R, Wang G, Wang Y, Chen M, Yan Q. "Learning to Evade: Adaptive Attacks on Audio Watermarking." arXiv:2606.22310, 2026年6月21日。2つの電子透かし方式と3つの音声データセットで、置き換えと作成では検出率10%未満、除去では0%。 https://arxiv.org/abs/2606.22310
Chandra NA, Lee H, Murtfeldt R, et al. "Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024." arXiv:2503.02857. 音声モデルのAUCは以前のベンチマークより48%低下。市販・微調整モデルも鑑定分析官には及ばない。 https://arxiv.org/abs/2503.02857
Federal Communications Commission. Declaratory Ruling FCC 24-17, 2024年2月2日採択、2024年2月8日公表。通話におけるAI生成の声は電話消費者保護法上「人工的」。 https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf
米連邦通信委員会(FCC)。発信者番号の認証(STIR/SHAKEN)による偽装ロボコール対策。Combating Spoofed Robocalls with Caller ID Authentication. 2026年7月30日確認。 https://www.fcc.gov/call-authentication
United States Congress. NO FAKES Act of 2026, S.4591, 119th Congress. 2026年6月18日に上院司法委員会で報告が決定。2026年7月時点で法律になっていない。 https://www.congress.gov/bill/119th-congress/senate-bill/4591
米連邦取引委員会(FTC)。なりすまし対策規則が本日施行。"FTC Announces Impersonation Rule Goes into Effect Today", 2024年4月1日。政府機関・事業者へのなりすまし規則が施行。 https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-impersonation-rule-goes-effect-today
Federal Trade Commission. "FTC Proposes New Protections to Combat AI Impersonation of Individuals", 2024年2月15日。個人へのなりすましに関する追加の規則制定は、2026年7月時点で未確定。 https://www.ftc.gov/news-events/news/press-releases/2024/02/ftc-proposes-new-protections-combat-ai-impersonation-individuals
United States Courts. Proposed Amendments Published for Public Comment. 証拠規則707は2025年6月10日に司法会議の規則・実務・手続委員会が公表のため承認。意見募集期間は2025年8月15日から2026年2月16日。 https://www.uscourts.gov/forms-rules/proposed-amendments-published-public-comment
European Parliamentary Research Service. "The Danish approach to copyright and deepfakes: A model for the EU?" PE 782.611, 2026年1月。声を含む本人の特徴の写実的なデジタル模倣に対する同意の権利。死後50年間有効。デジタルサービス法で執行。2026年7月に施行される見込み。 https://www.europarl.europa.eu/RegData/etudes/ATAG/2026/782611/EPRS_ATA%282026%29782611_EN.pdf
Afterlife.ai. Terms of Service. 2026年7月30日確認。「プラットフォームに入力したすべてのコンテンツ、思い出、メディア、データの所有権はあなたが保持します」。サービス提供のためだけにコンテンツを処理・保存・使用する限定的で非独占的な使用許諾。 https://www.afterlife.ai/terms-of-service
このページの調査方法
法的な主張は一次資料に基づいています。規則(EU) 2024/1689の条文、欧州委員会自身が公表したマーキングとラベル付けに関する実施規範、Congress.govの法案本文と委員会記録、FCCが公表した宣言的裁定、FTCの報道発表、そして規則改正案を掲載したUnited States Coursのページです。技術的な主張は、C2PA仕様、ベンダー自身の開発者向けドキュメント、査読済みまたはプレプリントの研究に基づき、識別子で引用しています。自社サービスに関する記述はすべて、サービスを動かしているコードと照合して確認し、上に書いた限界は、コードが実際に持つ限界です。二次資料を使った箇所は、一次の本文がまだ公開されていないもので、2026年5月7日のAIオムニバス暫定合意がそれにあたります。
未確定で、上でも未確定として扱っているのは次の点です。オムニバスの経過期間の日付が合意どおりに維持されるか、S.4591が可決されるかどうか、FTCがなりすまし規則を個人にまで広げるか、証拠規則707が採択されるか、そして機械可読のマークを裁判所が実際にどう証拠として扱うかです。電子透かしの耐久性は決着ではなく争いの途中にあり、現実の音声での検出器の精度は変化が速いため、上に引用したベンチマークの数字は古くなっていきます。
このページに誤りや古い情報を見つけたら、お問い合わせページからお知らせください。ページを訂正し、確認日をリセットします。
最終確認日:2026年7月30日。 このページは、2026年8月2日のEU AI法第50条の適用やS.4591の状況など、現在進行中の法的・規制上の主張を含んでおり、それらが確定するまで30日ごとに再確認します。