Zvok glasu ni bil več dokaz že leta 2023

Da bi dokazali, da je glasovni posnetek res vaš, lahko vprašanje razrešijo pet vrst zapisov, v bančni službi za preprečevanje goljufij, na sodišču ali v družinski skupini za klepet, in noben od teh petih ni zvok.

• Strojno berljiva oznaka na sintetičnem izhodu kaže, da je datoteko ustvaril skladen generator. Od 2. avgusta 2026 člen 50 Akta EU o umetni inteligenci (Uredba (EU) 2024/1689) od ponudnikov sistemov UI, ki ustvarjajo sintetični zvok, zahteva, da svoje izhode označijo v strojno berljivi obliki in jih naredijo zaznavne kot umetno ustvarjene ali manipulirane. Oznaka odpove, kadar je generator z odprtimi utežmi, deluje v tujini ali ni skladen, ali kadar je oznaka prepisana.

• Vdelani metapodatki o izvoru, trdna vezava C2PA, kažejo, kdo je datoteko podpisal in katera urejanja so se zgodila. Metapodatki odpovejo, ko platforma ponovno kodira naložen posnetek in tiho izpusti celoten sveženj.

• Mehka vezava, torej nevidni vodni žig ali perceptualni prstni odtis, omogoča, da se odstranjeno poverilnico znova poišče v registru. Mehke vezave odpovejo ob prilagodljivih napadih in običajnih krožnih pretvorbah kodekov.

• Datiran zapis o soglasju kaže, da se je poimensko znana oseba strinjala na določen datum. Zapis obstaja le, če ga je kakšna platforma zajela in obdržala.

• Povratni klic na številko, ki ste jo že imeli, kaže, da ste poklicali številko, ki je zapisana za to osebo. Povratni klici odpovejo, kadar je shranjena številka napačna, zastarela ali preusmerjena.

Štiri od teh so inženirstvo. Peta je telefonska številka, ki že leži v imeniku vaše mame, in prav telefonska številka najbolje zdrži napad.

Izvor (provenienca) je preverljiva zgodovina datoteke: od kod je zvok prišel, kaj se je z njim zgodilo, kdo je potrdil vsak korak. Industrijski standard je specifikacija C2PA, katere oznaka za potrošnike se imenuje Content Credentials, pristop pa je nesenzacionalen in zanesljiv. Izračunajte kriptografske zgoščene vrednosti (hash) sredstva. Na te zgoščene vrednosti vežite izjave o tem, katera naprava je zvok posnela, katera urejanja so bila uporabljena in ali je bil vpleten generativni model. Sveženj podpišite (tehnična specifikacija C2PA 2.2, maj 2025). Če datoteko pokvarite, podpis odpove. Zvoku se ne zaupa nič. Zaupa se samo podpisani verigi.

Šibkost se pokaže takoj, ko uporabite platformo, ker metapodatki potujejo ob datoteki, platforme pa naložene datoteke ponovno kodirajo. C2PA odgovarja z mehkimi vezavami, tako da se poverilnica, odstranjena med prenosom, lahko obnovi iz registra z vodnim žigom ali prstnim odtisom (API za mehko vezavo C2PA). To pomaga in nihče naj tega ne imenuje jamstvo, iz razlogov, ki sledijo dva razdelka naprej.

Overjanje je nekoč živelo v zvoku glasu. Zdaj živi v papirologiji okoli posnetka, najcenejša plast v vsem skladu pa je fraza, o kateri se je družina dogovorila, preden je zazvonil telefon.

Dokaz je en kotiček večjega vprašanja, in sicer kdo nadzoruje vašo identiteto, obraz in glas po vaši smrti. Tista stran je zemljevid, ta pa obravnava kotiček z oznako overjanje.

Februarja 2023 je novinar Joseph Cox posnel pet minut lastnega govora, z brezplačnim potrošniškim orodjem ustvaril klon, poklical Lloyds Bank in prišel skozi Voice ID, tako da je po liniji predvajal sintetični zvok, vključno z vpisno frazo „my voice is my password“. Prvi poskusi so propadli. Noter je prišel, ko je prilagodil ritem, da je zvenel naravneje (Vice, 23. februar 2023).

Banka je zgradila avtentikacijski izdelek na predpostavki, da je človeški glas težko ponarediti. Predpostavka je potekla, nihče pa tega ni povedal izdelku.

Vaše uho ni nič boljše od bančnega. V študiji s 529 udeleženci, objavljeni v reviji PLOS ONE 2. avgusta 2023, so Mai, Bray, Davies in Griffin ugotovili, da so poslušalci globoke ponaredke govora pravilno prepoznali le v 73 % primerov, ko so poslušali posnetke enega za drugim, pri čemer je bila skupna natančnost v tem pogoju enega posnetka 70,35 %, kratko uvajalno usposabljanje pa je natančnost izboljšalo v povprečju za 3,84 % (Mai in sod., 2023). Isti poslušalci so dosegli 85,59 %, ko sta se resničen in lažen posnetek predvajala drug ob drugem, goljufivi klic pa nikoli ni primerjava drug ob drugem. Ko so ljudje presojali en posnetek naenkrat, tako kot prispe telefonski klic, so se zmotili več kot v četrtini primerov, opozorilo vnaprej pa številke skoraj ni premaknilo. Ta članek je star tri leta, generatorji pa so se od takrat izboljšali.

Tudi zahteva po vhodnih podatkih se je sesedla. ElevenLabs v lastni razvijalski dokumentaciji navaja, da je „iz manj kot dveh minut zvoka mogoče narediti uporaben klon“ (dokumentacija ElevenLabs o kloniranju glasu). Dve minuti sta pozdrav na odzivniku in en kratek videoposnetek s poroke, ki ga je kdo objavil.

Nato priznanje, ker so krovne številke tu običajno napihnjene. Center FBI za pritožbe zaradi spletnega kriminala (IC3) je leta 2025 zabeležil 22.364 pritožb, ki so omenjale UI, s prilagojeno škodo $893,346,472. Večina tega denarja je šla za investicijske goljufije: izgube pri investicijskih pritožbah z objavljeno povezavo z UI so presegle $632 milijonov. Goljufije z ogroženimi sorodniki, kjer klonirani glas posnema sorodnika v stiski, so leta 2025 predstavljale zatrjevano škodo, večjo od $5 milijonov (letno poročilo IC3 za 2025, str. 39). Klic s kloniranim glasom je majhen delež velikega problema, poročilo pa ne podaja primerjave s prejšnjim letom za nobeno od svojih številk o UI, zato kdor vam navaja stopnjo rasti za to konkretno goljufijo, številke ni dobil pri IC3.

Majhen delež velikega problema je še vedno klic, ki doseže vašo mamo. Zmanjšanje količine vašega glasu v javnosti je ločeno opravilo, obravnavano v kako zmanjšati javni vzorec svojega glasu.

Trg si želi gumb z napisom resnično ali lažno, dokazi pa pravijo, da takega gumba še ni.

Na Deepfake-Eval-2024, primerjalnem preizkusu, zgrajenem iz globokih ponaredkov, ki dejansko krožijo po družabnih omrežjih, in ne iz laboratorijskih zbirk, je površina pod krivuljo (AUC) za odprtokodne modele zaznavanja zvoka padla za 48 % v primerjavi z njihovimi rezultati na prejšnjih preizkusih, raziskovalci pa poročajo, da komercialni detektorji in dodatno naučeni modeli prekašajo že izdelane odprtokodne, a še vedno zaostajajo za natančnostjo forenzičnih analitikov globokih ponaredkov (arXiv:2503.02857). Vsaka spletna stran, ki vam ponuja odstotek zaupanja za naloženo datoteko, prodaja število, ki ga ustvari prav ta razred modelov.

Če torej potrebujete overitev ene konkretne datoteke za sodni postopek ali policijsko prijavo, najemite forenzičnega zvočnega izvedenca, ki je glede na dokaze iz preizkusa še vedno najnatančnejša razpoložljiva možnost.

Tudi označevanje vas ne reši, in sicer iz razloga, ki je dolgočasen in ne tehničen. Člen 50 zavezuje ponudnike in uvajalce, ki nameravajo ravnati skladno. Nekdo, ki na prenosniku poganja govorni model z odprtimi utežmi v jurisdikciji, ki še nikoli ni slišala za Akt o umetni inteligenci, ne označi ničesar, nobeno pravilo o označevanju pa ne seže v živ telefonski klic, ki ne nosi nobenih metapodatkov.

Nihče tudi ne more obljubiti, da oznaka preživi, ko je enkrat vdelana. Zvočni vodni žigi so napadljivi, napadi pa postajajo cenejši. Junija 2026 so raziskovalci, ki objavljajo kot Ding in sodelavci, prikazali prilagodljive napade, ki so stopnjo zaznave vodnega žiga pri zamenjavi in ustvarjanju spustili pod 10 %, pri odstranitvi pa na nič, pri vseh shemah, ki so jih preizkusili (arXiv:2606.22310).

In na koncu vsega tega ni gumba za odstranitev. Javni vzorec svojega glasu lahko zmanjšate, uporabite lahko mehanizme za odstranitev vsebin, ki jih ponujajo platforme, odvisno od tega, kje živite, pa imate morda zahtevek na podlagi pravice do javne podobe, osebnostnih pravic ali varstva podatkov. Nič od tega ne prepreči nastanka kopije in vsak, ki vam prodaja preprečitev, obljublja preveč.

Člen 50 ustvarja dolžnost preglednosti in ne lastninske pravice, razlika pa je pomembna za to, kaj lahko s pravilom naredite.

Člen 50(2) od ponudnikov sistemov UI, ki ustvarjajo sintetični zvok, sliko, video ali besedilo, zahteva, da zagotovijo, da so izhodi „označeni v strojno berljivi obliki in zaznavni kot umetno ustvarjeni ali manipulirani“ (člen 50). Člen 50(1) zahteva, da je oseba obveščena, da komunicira s sistemom UI, razen če je to očitno razumno dobro poučeni osebi. Člen 50(4) od uvajalcev vsebin globokih ponaredkov (slika, zvok ali video) zahteva, da razkrijejo, da je vsebina umetno ustvarjena ali manipulirana. Vse to na jasen in razločen način, najkasneje ob prvi interakciji ali izpostavljenosti.

Obstajajo izjeme. Pomožno urejanje, ki vhodnih podatkov bistveno ne spremeni, je izven področja uporabe, prav tako nekatere pooblaščene uporabe v organih pregona, umetniško, ustvarjalno ali satirično delo pa mora razkriti le obstoj sintetične vsebine na ustrezen način.

Zobe ima člen 99. Kršitev člena 50 prinaša upravne globe do 15.000.000 EUR ali, za podjetje, do 3 % skupnega svetovnega letnega prometa, kar je višje (člen 99). Doseg je v členu 2, ki Uredbo uporablja za ponudnike in uvajalce s sedežem zunaj Unije, kjer se izhod, ki ga ustvari sistem UI, uporablja v Uniji (člen 2). Če to berete v Sydneyju ali Chicagu, orodja, ki jih uporabljate, še vedno verjetno označujejo svoje izhode, ker njihovi ponudniki prodajajo v Evropi.

Za označevanje sta pomembna dva datuma. Obveznost velja od 2. avgusta 2026. Po paketu AI Omnibus, o katerem se je začasno dogovorilo 7. maja 2026, imajo ponudniki, katerih generativni sistemi so bili na trgu že pred tem datumom, čas do 2. decembra 2026, da izpolnijo zahtevo za označevanje iz člena 50(2), medtem ko vse druge obveznosti iz člena 50 veljajo od 2. avgusta brez prehodnega obdobja (Mishcon de Reya, maj 2026). Evropska komisija je 10. junija 2026 objavila končni kodeks ravnanja o označevanju in etiketiranju vsebin, ustvarjenih z UI. Podpis kodeksa je prostovoljen, obveznosti, pri katerih kodeks pomaga ponudnikom, pa veljajo v vsakem primeru (Evropska komisija).

Kar vam člen prinese, je ozko in vredno. Skladen sintetični zvok sam sebe razglasi, zaradi česar je neoznačen posnetek, ki kroži po evropski platformi, vprašanje, ki ga je vredno postaviti na glas. Člen ne odloča, kdo sme kopirati vaš glas, in nobena različica člena ne seže do kriminalca, ki kliče vašo mamo. Področje uporabe, roki in kdo nosi katero dolžnost so opisani v kaj zahteva člen 50 in koga zavezuje.

Začnite graditi svojo zapuščino Brezplačna gradnja, 25 spominov, kartica ni potrebna.

Nobeno od treh ne stane niti centa in skupaj premagajo napad, ki se ga ne dotakne noben standard izvora na svetu, ker živ telefonski klic ne nosi ničesar, kar bi bilo mogoče preveriti.

Dogovorite se za ustno geslo. Ena kratka fraza, ki jo deli vsa ožja družina in se izgovori na začetku vsakega klica o denarju ali nujnem primeru. Ne ime hišnega ljubljenčka, ne ulica, v kateri ste živeli, ne šola, ne karkoli, kar je na javnem profilu. Naj bo preprosta za izgovor v strahu. Če nekdo, ki zveni popolnoma pravilno, fraze ne zna povedati, se klic tu konča. Pravilo mora biti absolutno, ker je celotna zasnova goljufije z ogroženim sorodnikom narejena tako, da se vztrajanje pri postopku zdi kruto.

Uvedite pravilo povratnega klica. Na klicu, ki je prišel k vam, se ne premakne noben denar in ne preberejo nobeni bančni podatki ali kode. Prekinete, osebo poiščete v svojih stikih in pokličete številko, ki je že bila tam. Nikoli številke, ki jo je navedel klicatelj. Overjanje identifikacije klicatelja ne dela tega, kar večina ljudi predpostavlja: po opisu same FCC STIR/SHAKEN ponudnikom omogoča, da „preverijo, ali se informacije o identiteti klicatelja, poslane s klicem, ujemajo z dejansko številko klicatelja“ (FCC, overjanje identifikacije klicatelja). To overja številko, ne govorca. Številka je lahko povsem pristna, glas na liniji pa kljub temu lažen.

Obljubo zapišite in podpišite list. En odstavek, natisnjen, datiran in prilepljen na notranjo stran vrat kuhinjske omarice: „Nikoli te ne bom prosil/a za denar, darilne kartice, kriptovaluto, bančne podatke ali potrditvene kode po glasovnem klicu ali glasovnem sporočilu. Če glas, ki zveni kot jaz, zahteva karkoli od tega, nisem jaz. Prekini in me pokliči nazaj na številko v svojem telefonu.“ Podpisano, z datumom pod podpisom. Pretirano, seveda, a strašljiv prepir ob enajstih zvečer spremeni v list papirja, ki ga lahko nekdo pogleda, medtem ko ima telefon še v roki.

Dva dodatka, vredna desetih minut. Zmanjšajte javni vzorec: videoposnetek s poroke nastavite kot nejavnega, posneti pozdrav na odzivniku zamenjajte s privzetim pozdravom operaterja in premislite, preden naložite dolge neurejene zvočne posnetke sebe. In vedite, da se v Združenih državah klici z glasovi, ustvarjenimi z UI, po Zakonu o varstvu potrošnikov pri telefoniranju (Telephone Consumer Protection Act) štejejo za „umetne“, po izjavni odločbi FCC z dne 8. februarja 2024 (FCC 24-17), kar je regulatorjem dalo oporo, ki je prej ni bilo.

Vsa tri pravila opravljajo isto delo. Vsako nadomesti presojo o tem, kako glas zveni, z zapisom, ki ga lahko nekdo preveri.

Kdor tu zakonodajo opisuje kot dorečeno, ni pogledal v spis.

V Združenih državah je Odbor za pravila prakse in postopka pri Sodni konferenci, znan kot Stalni odbor, 10. junija 2025 odobril objavo predlaganega novega zveznega dokaznega pravila 707 o strojno ustvarjenih dokazih, z javnim posvetovanjem od 15. avgusta 2025 do 16. februarja 2026 (United States Courts). Objava za posvet je zgodnji korak in ne sprejetje, pravilo pa je julija 2026 še vedno predlog in ni v veljavi.

Zakon NO FAKES Act iz leta 2026 (S.4591, 119. kongres) je Senatni pravosodni odbor 18. junija 2026 odredil v poročanje, še vedno pa ga mora sprejeti celoten senat in predstavniški dom. Julija 2026 predlog ni zakon (Congress.gov). Stopnjo postopka, izjeme in kaj bi se s sprejetjem spremenilo, spremljamo v kaj bi ustvaril zakon NO FAKES Act. Dokler zvezna pravica ne obstaja, so pravice, na katere se lahko zanesete, pravice posameznih zveznih držav in so neenotne, zato preberite kateri zakoni o digitalnih replikah veljajo v vaši zvezni državi, preden predpostavite, da imate zahtevek.

Pravilo FTC o ponarejanju identitete velja za ponarejanje državnih organov in podjetij od začetka veljavnosti 1. aprila 2024 (FTC, 1. april 2024). Dopolnilni postopek priprave pravil, ki bi pravilo razširil na ponarejanje posameznikov, vključno s kloniranjem glasu z UI, je bil predlagan 15. februarja 2024 in julija 2026 ni dokončan (FTC, 15. februar 2024).

Evropa ima poleg Akta o UI še drugo pot. Danska je Evropski komisiji priglasila spremembe svojega zakona o avtorskih pravicah, ki bi ljudem dale pravico do soglasja glede realističnih digitalnih posnemanj njihovih osebnih značilnosti, vključno z glasom, v veljavi 50 let po smrti, uveljavljeno prek mehanizmov za odstranjevanje po Aktu o digitalnih storitvah. Poročilo Raziskovalne službe Evropskega parlamenta, objavljeno januarja 2026, beleži, da naj bi spremembe začele veljati julija 2026 (EPRS, PE 782.611).

Medtem ko se vse to vleče, naredite tisto, kar velja, ne glede na to, kako bodo pravila padla: obdržite svoje izvirnike. Če boste kdaj morali dokazati, da je posnetek zares vaš, je koristen predmet neokrnjena izvirna datoteka z ohranjenimi metapodatki zajema, shranjena nekje z časovnim žigom, ki ga niste nadzirali, skupaj z zapisom, kdaj in zakaj ste posnetek naredili. Surovo datoteko kopirajte s telefona, preden aplikacija zvok ponovno kodira. Pet minut dela in najbližje verigi hrambe dokazov, kar jo lahko zgradi navaden človek.

Vse zgoraj govori o dokazovanju glasu po dejstvu, kar je najtežji možni čas za začetek. Alternativa je graditi zapis sproti.

Na Afterlife.ai™ vas intervjuva vodnik z imenom Idy®. Vaši odgovori postanejo datirani spomini, zajeti pod vašim računom ob znanem času, konkretna dejstva iz vašega življenja pa prihajajo samo iz teh spominov, ker navodila za izdelkom prepovedujejo izmišljanje tistega, česar nikoli niste rekli. Vaš glas se kloni iz posnetkov, ki jih naredite s snemalnikom v izdelku, na podlagi datiranega soglasja na vašem imenovanem računu, zgrajen samo iz teh zajemov v izdelku in ne iz zvoka, nabranega kje drugje. Če bi raje sami najprej opravili ta intervju, je metoda za pravilen intervju s sabo zapisana ločeno.

Zdaj poštene omejitve, iz izkušnje gradnje. Naši zapisi dokazujejo samo našo verigo in nič širšega. Povedo, da je bil ta zvok posnet tu, na ta datum, s tem računom, s tem soglasjem. Ne morejo overiti datoteke, ki je prišla od kjer koli drugje, in pomagajo le, če vas banka, platforma ali sodišče prosi, da jih predložite. Trenutno k izvoženemu zvoku ne pripenjamo poverilnic C2PA Content Credentials, zato datoteka, ki zapusti izdelek, potuje kot običajen zvok. In noben zapis soglasja ne ustavi nikogar, da bi vas kloniral iz epizode podkasta. Zapis soglasja vam da datiran, imenovan protizapis na dan, ko ga potrebujete.

Vsaka Persona, zgrajena na ta način, nosi datum začetka, datirane izvorne spomine, datirano soglasje na imenovanem računu za glasom in imenovan seznam ljudi, ki ste jih izbrali. Vsak od teh je zapis, ki ga je mogoče od nekoga zahtevati, goljufivi klic pa nima nobenega.

Medtem ko ste živi, lahko do vaše gradnje dostopajo samo ljudje, ki jih imenujete, privzeto pa ni imenovan nihče. Ena omejitev, ki jo je treba vedeti, preden izberete: po sprostitvi lahko imenovani izvršitelj povabi dodatne ljudi, zato to osebo imenujte z mislijo na to pooblastilo. Sprostitev poteka prek Executor Lock™, sedemdnevnega zadržanja s preverjanjem dokazov. Trditev, da ste umrli, sama po sebi ne sprosti ničesar. Predložiti je treba dokaze, teče sedemdnevno okno, vi pa ste obveščeni v trenutku, ko je prijava vložena, z datumom zaprtja tega okna, zato je mogoče lažno trditev izpodbijati, preden se karkoli odpre.

Prvih 25 spominov je brezplačnih, brez kartice, brezplačna gradnja pa ne poteče. To je del cenika, ki bi ga najbolj branil. Najslabša različica te panoge zaračuna žalujoči družini v trenutku, ko ji je najtežje odkloniti. O tem, kaj plačljive možnosti dodajo kasneje, stran z načrti pove več.

Pošten odgovor na kloniranje glasu ni, da svoj glas skrivate do konca življenja. Skrivanje ne deluje, vzorec je že zunaj, ljudje, ki vas imajo radi, pa ostanejo v ugibanju. Obdržite eno različico svojega glasu, ki pride s papirji.

Začnite graditi svojo zapuščino Brezplačna gradnja, 25 spominov, kartica ni potrebna.

Ali lahko dokažem, da je posnetek mojega glasu lažen?

Ne samo iz zvoka in ne s potrošniškim detektorjem. Raje napadite izvor datoteke: od kod je prišla, kdaj se je prvič pojavila, kdo jo je naložil, ali nosi kakšno podpisano poverilnico. Nato predložite svoje izvirnike z ohranjenimi metapodatki zajema za isto obdobje. Sodišča in platforme se odzovejo na ta zapis, ne na argument o valovni obliki.

Če kloniram svoj glas, ali poslabšam problem?

Samo če klon nastane brez nadzora. Tveganje pri kloniranju glasu je kopija brez soglasja, ki ne nosi nobenega zapisa o tem, kdo jo je naredil ali zakaj. Klon, ki ste ga ustvarili sami, iz zvoka, ki ste ga posneli, z datiranim soglasjem na vašem računu in z imenovanim seznamom ljudi, ki ste jih izbrali, je sledljiva različica vašega glasu. Nevarna kopija je tista, narejena brez vas.

Kdo je lastnik mojih glasovnih posnetkov in spominov?

Vi. Naši pogoji pravijo, da ostanete lastnik svoje vsebine, podjetju Idy pa dajo omejeno, neizključno licenco za obdelavo in shranjevanje te vsebine izključno za izvajanje storitve za vas, brez učenja modelov brez ločenega dogovora. Cene načrtov so na strani z načrti, ker je zastarela številka na članku slabša od nobene. Posamezne spomine lahko izbrišete kadar koli, z izbrisom računa pa se izbrišejo vaši spomini in shranjeni posnetki. Ena vrzel, povedana odkrito: danes ni brisanja z enim klikom za klonirani glas pri našem ponudniku sinteze, zato je ta odstranitev prošnja nam in ne gumb.

Kaj se zgodi, če Afterlife.ai ugasne?

Izvoz opravite, dokler lahko. Izvoz podatkov v nastavitvah računa vrne vaš profil, spomine in prepise pogovorov kot datoteko JSON, tolikokrat, kot želite. Dve pošteni vrzeli: izvoz še ne vključuje vaših zvočnih posnetkov in nismo objavili zaveze o prenehanju poslovanja, ki bi pokrivala, kaj se zgodi, če podjetje zapre. To vprašanje postavite vsakemu podjetju v tej kategoriji, preden z njim karkoli posnamete, nejasen odgovor pa obravnavajte kot odgovor.

• Kdo je lastnik klona glasu, ko ta obstaja

• Ali je kloniranje glasu varno, v preprostem jeziku

• Kaj pomeni, da si napačno zapomnjen, in kdo sme popraviti zapis

• Kako intervju zgradi UI različico vas

• Zakoni o globokih ponaredkih in podobi z UI po državah

1. European Union. Artificial Intelligence Act, Article 50, Transparency Obligations for Providers and Deployers of Certain AI Systems. Regulation (EU) 2024/1689. Velja od 2. avgusta 2026. https://artificialintelligenceact.eu/article/50/

2. European Union. Artificial Intelligence Act, Article 99, Penalties. Regulation (EU) 2024/1689. https://artificialintelligenceact.eu/article/99/

3. European Union. Artificial Intelligence Act, Article 2, Scope. Regulation (EU) 2024/1689. https://artificialintelligenceact.eu/article/2/

4. European Commission. Code of Practice on marking and labelling of AI-generated content. Končna različica objavljena 10. junija 2026. https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

5. Mishcon de Reya. EU AI Act simplified: unpacking the AI Omnibus agreement of May 2026. Začasni dogovor dosežen 7. maja 2026; prehodno obdobje do 2. decembra 2026 za označevanje po členu 50(2) pri sistemih, ki so že na trgu. https://www.mishcon.com/news/eu-ai-act-simplified-unpacking-the-ai-omnibus-agreement-of-may-2026

6. Federal Bureau of Investigation, Internet Crime Complaint Center. 2025 Internet Crime Report, "Artificial Intelligence (AI) Used in Cybercrime", stran 39. 22.364 pritožb, $893,346,472 prilagojene škode; investicijske pritožbe z objavljeno povezavo z UI nad $632 milijonov; goljufije z ogroženimi sorodniki nad $5 milijonov. https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf

7. Mai KT, Bray S, Davies T, Griffin LD. "Warning: Humans cannot reliably detect speech deepfakes." PLOS ONE, 2. avgust 2023. 529 udeležencev; 70,35 % skupne natančnosti v pogoju enega posnetka in 73 % pri globokih ponaredkih; 85,59 % v paru posnetkov; uvajalno usposabljanje je natančnost izboljšalo za 3,84 %. https://doi.org/10.1371/journal.pone.0285333

8. Cox J. "How I Broke Into a Bank Account With an AI-Generated Voice." Vice, 23. februar 2023. Lloyds Bank Voice ID; približno pet minut novinarjevega lastnega govora; več neuspelih poskusov, preden je klon prišel skozi. https://www.vice.com/en/article/how-i-broke-into-a-bank-account-with-an-ai-generated-voice/

9. ElevenLabs. Voice cloning: how it works. Razvijalska dokumentacija, preverjeno 30. julija 2026. „Less than two minutes of audio can produce a usable clone“; glasovni captcha „cannot guarantee that the provided recording truly belongs to the requester“. https://elevenlabs.io/docs/eleven-api/concepts/voice-cloning

10. Coalition for Content Provenance and Authenticity. C2PA Technical Specification 2.2, May 2025. https://spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html

11. Coalition for Content Provenance and Authenticity. C2PA Soft Binding API, specification 2.2. https://spec.c2pa.org/specifications/specifications/2.2/softbinding/Decoupled.html

12. Ding W, Guo H, Duan R, Wang G, Wang Y, Chen M, Yan Q. "Learning to Evade: Adaptive Attacks on Audio Watermarking." arXiv:2606.22310, 21. junij 2026. Zaznava pod 10 % pri zamenjavi in ustvarjanju, 0 % pri odstranitvi, pri dveh shemah vodnih žigov in treh naborih glasovnih podatkov. https://arxiv.org/abs/2606.22310

13. Chandra NA, Lee H, Murtfeldt R, et al. "Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024." arXiv:2503.02857. AUC za zvočne modele nižji za 48 % v primerjavi s prejšnjimi preizkusi; komercialni in dodatno naučeni modeli še vedno zaostajajo za forenzičnimi analitiki. https://arxiv.org/abs/2503.02857

14. Federal Communications Commission. Declaratory Ruling FCC 24-17, sprejeta 2. februarja 2024, objavljena 8. februarja 2024. Glasovi, ustvarjeni z UI, v klicih so „umetni“ po Telephone Consumer Protection Act. https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

15. Federal Communications Commission. Combating Spoofed Robocalls with Caller ID Authentication (STIR/SHAKEN). Preverjeno 30. julija 2026. https://www.fcc.gov/call-authentication

16. United States Congress. NO FAKES Act of 2026, S.4591, 119th Congress. Senatni pravosodni odbor ga je 18. junija 2026 odredil v poročanje. Julija 2026 ni zakon. https://www.congress.gov/bill/119th-congress/senate-bill/4591

17. Federal Trade Commission. "FTC Announces Impersonation Rule Goes into Effect Today", 1. april 2024. Pravilo o ponarejanju identitete državnih organov in podjetij v veljavi. https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-impersonation-rule-goes-effect-today

18. Federal Trade Commission. "FTC Proposes New Protections to Combat AI Impersonation of Individuals", 15. februar 2024. Dopolnilni postopek priprave pravil o ponarejanju identitete posameznikov julija 2026 ni dokončan. https://www.ftc.gov/news-events/news/press-releases/2024/02/ftc-proposes-new-protections-combat-ai-impersonation-individuals

19. United States Courts. Proposed Amendments Published for Public Comment. Dokazno pravilo 707 je 10. junija 2025 odobril Odbor za pravila prakse in postopka pri Sodni konferenci za objavo; obdobje posvetovanja od 15. avgusta 2025 do 16. februarja 2026. https://www.uscourts.gov/forms-rules/proposed-amendments-published-public-comment

20. European Parliamentary Research Service. "The Danish approach to copyright and deepfakes: A model for the EU?" PE 782.611, januar 2026. Pravica do soglasja glede realističnih digitalnih posnemanj osebnih značilnosti, vključno z glasom, v veljavi 50 let po smrti, uveljavljena prek Akta o digitalnih storitvah; začetek veljavnosti pričakovan julija 2026. https://www.europarl.europa.eu/RegData/etudes/ATAG/2026/782611/EPRS_ATA%282026%29782611_EN.pdf

21. Afterlife.ai. Terms of Service. Preverjeno 30. julija 2026. „You retain ownership of all content, memories, media, and data you input into the Platform“; omejena, neizključna licenca za obdelavo, shranjevanje in uporabo vsebine izključno za zagotavljanje storitve. https://www.afterlife.ai/terms-of-service

Kako je bila ta stran raziskana

Pravne trditve izhajajo iz primarnih virov: besedila Uredbe (EU) 2024/1689, lastne objave kodeksa ravnanja o označevanju in etiketiranju s strani Evropske komisije, besedila predloga zakona in odborovega zapisa na Congress.gov, objavljene izjavne odločbe FCC, lastnih sporočil za javnost FTC in strani United States Courts o predlaganih spremembah pravil. Tehnične trditve izhajajo iz specifikacije C2PA, lastne razvijalske dokumentacije ponudnika ter recenziranih raziskav ali predobjav, navedenih z identifikatorjem. Vsaka trditev o našem izdelku je bila preverjena z kodo, ki izdelek poganja, omejitve, navedene zgoraj, pa so tiste, ki jih koda dejansko ima. Kjer je bil uporabljen sekundarni vir, primarno besedilo še ni javno, kar velja za začasni dogovor AI Omnibus z dne 7. maja 2026.

Nedorečeno in zgoraj obravnavano kot nedorečeno: ali prehodni datum iz paketa Omnibus drži, kot je bilo dogovorjeno, ali S.4591 sploh bo sprejet, ali bo FTC pravilo o ponarejanju identitete razširila na posameznike, ali bo dokazno pravilo 707 sprejeto in kako bodo sodišča v praksi obravnavala strojno berljive oznake kot dokaz. Trajnost vodnih žigov je sporna in ne rešena, natančnost detektorjev pri zvoku iz resničnega sveta pa se spreminja tako hitro, da bodo zgoraj navedene številke iz preizkusov zastarele.

Če na tej strani najdete kaj napačnega ali zastarelega, nam sporočite prek strani za stik in stran bomo popravili ter ponastavili datum pregleda.

Nazadnje pregledano: 30. julij 2026. Ta stran vsebuje žive pravne in regulativne trditve, vključno z uporabo člena 50 Akta EU o umetni inteligenci od 2. avgusta 2026 in stanjem S.4591, zato je na 30-dnevnem ciklu ponovnega preverjanja, dokler se ta dejstva ne umirijo.