Zvuk glasa prestao je biti dokaz 2023. godine

Da biste dokazali da je glasovna snimka doista vaša, pitanje može riješiti pet vrsta zapisa, bilo u banci koja istražuje prijevaru, na sudu ili u obiteljskoj grupi na mobitelu, a nijedan od tih pet nije sama snimka.

• Strojno čitljiva oznaka na sintetičkom sadržaju pokazuje da je datoteku proizveo generator koji poštuje pravila. Od 2. kolovoza 2026. članak 50. Akta EU-a o umjetnoj inteligenciji (Uredba (EU) 2024/1689) zahtijeva da pružatelji sustava umjetne inteligencije koji generiraju sintetički zvuk označe svoje izlazne sadržaje u strojno čitljivom formatu i omoguće njihovo prepoznavanje kao umjetno generiranih ili izmijenjenih. Oznaka zakazuje kada je generator otvorenih težina, nalazi se u inozemstvu ili ne poštuje pravila, ili kada je oznaka prepisana.

• Ugrađeni metapodaci o porijeklu, to jest C2PA čvrsto vezivanje, pokazuju tko je potpisao datoteku i koje su se izmjene dogodile. Metapodaci zakazuju kada platforma ponovno kodira prenesenu datoteku i bez upozorenja odbaci cijeli paket.

• Meko vezivanje, to jest nevidljivi vodeni žig ili perceptivni otisak, omogućuje da se skinuta potvrda ponovno pronađe u registru. Meko vezivanje zakazuje pri prilagodljivim napadima i običnim prolascima kroz kodeke.

• Datiran zapis o pristanku pokazuje da se imenovana osoba složila na određeni datum. Zapis postoji samo ako ga je neka platforma zabilježila i sačuvala.

• Povratni poziv na broj koji ste već imali pokazuje da ste dobili broj upisan za tu osobu. Povratni pozivi zakazuju kada je spremljeni broj pogrešan, zastario ili preusmjeren.

Četiri od tih zapisa su inženjerstvo. Peti je telefonski broj koji već stoji u kontaktima vaše majke, a upravo se telefonski broj najbolje drži pod napadom.

Porijeklo je provjerljiva povijest datoteke: odakle zvuk dolazi, što je s njim učinjeno, tko je odobrio svaki korak. Industrijski standard je specifikacija C2PA, čija se oznaka za potrošače zove Content Credentials, a pristup je nenametljiv i ispravan. Izračunaju se kriptografski sažeci sadržaja. Za te se sažetke vežu izjave o tome koji je uređaj snimio zvuk, koje su izmjene primijenjene i je li bio uključen generativni model. Cijeli se paket potpiše (C2PA tehnička specifikacija 2.2, svibanj 2025.). Ako se datoteka promijeni, potpis ne vrijedi. Zvuku se ne vjeruje ni u čemu. Vjeruje se samo potpisanom lancu.

Slabost se pokaže čim počnete koristiti platformu, jer metapodaci putuju uz datoteku, a platforme ponovno kodiraju ono što se prenese. C2PA na to odgovara mekim vezivanjem, pa se potvrda izgubljena u prijenosu može vratiti iz registra pomoću vodenog žiga ili otiska (C2PA Soft Binding API). To pomaže, ali nitko ne bi smio tvrditi da je to jamstvo, iz razloga navedenih dva odjeljka niže.

Provjera vjerodostojnosti nekad je živjela u zvuku glasa. Danas živi u papirologiji oko snimke, a najjeftiniji sloj u cijelom nizu je fraza koju se vaša obitelj dogovorila prije nego što je telefon zazvonio.

Dokaz je samo jedan kutak šireg pitanja, a to je tko kontrolira vaš identitet, lice i glas nakon vaše smrti. Ta stranica je karta, a ova obrađuje kutak označen provjerom vjerodostojnosti.

U veljači 2023. novinar Joseph Cox snimio je pet minuta vlastitog govora, besplatnim potrošačkim alatom napravio klon, nazvao banku Lloyds i prošao Voice ID puštajući sintetički zvuk u slušalicu, uključujući frazu za upis „my voice is my password”. Prvi pokušaji nisu uspjeli. Ušao je nakon što je prilagodio ritam da zvuči prirodnije (Vice, 23. veljače 2023.).

Banka je izgradila proizvod za provjeru identiteta na pretpostavci da je ljudski glas teško krivotvoriti. Pretpostavka je istekla, a nitko to nije rekao proizvodu.

Vaše uho nije bolje od banke. U istraživanju na 529 sudionika, objavljenom u časopisu PLOS ONE 2. kolovoza 2023., Mai, Bray, Davies i Griffin utvrdili su da slušatelji točno prepoznaju lažni govor samo u 73% slučajeva kada čuju isječke jedan po jedan, uz ukupnu točnost od 70,35% u tom uvjetu s jednim isječkom, a kratka obuka za upoznavanje poboljšala je točnost u prosjeku za 3,84% (Mai i sur., 2023.). Isti slušatelji postigli su 85,59% kada su im uz pravi isječak istodobno puštali lažni, a prijevarni poziv nikada nije usporedba jedan uz drugoga. Kada se prosuđuje isječak po isječak, onako kako poziv stiže, ljudi su griješili u više od četvrtine slučajeva, a prethodno upozorenje jedva je pomaknulo broj. Taj rad star je tri godine, a generatori su se od tada poboljšali.

Urušio se i ulazni uvjet. Vlastita razvojna dokumentacija tvrtke ElevenLabs navodi da „less than two minutes of audio can produce a usable clone” (manje od dvije minute zvuka može dati upotrebljiv klon) (ElevenLabs voice cloning documentation). Dvije minute su govorna poruka na vašoj mobilnoj sekretarici plus jedan kratak video koji je netko objavio s vas na vjenčanju.

Sada priznanje, jer se naslovne brojke ovdje obično napuhuju. Centar za pritužbe na internetski kriminal FBI-a (IC3) zabilježio je 2025. godine 22.364 pritužbe koje spominju umjetnu inteligenciju, uz prilagođene gubitke od $893.346.472. Većina tog novca odnosila se na investicijske prijevare: gubici u investicijskim pritužbama s prijavljenom vezom s umjetnom inteligencijom premašili su $632 milijuna. Prijevare s hitnom nuždom, one u kojima klonirani glas glumi rođaka u nevolji, činile su prijavljene gubitke veće od $5 milijuna u 2025. (Godišnje izvješće IC3 za 2025., str. 39). Poziv s kloniranim glasom mali je dio velikog problema, a izvješće ne daje usporedbu s prethodnom godinom ni za jednu svoju brojku o umjetnoj inteligenciji, pa tko vam navodi stopu rasta baš za ovu prijevaru, taj broj nije dobio od IC3-a.

Mali dio velikog problema i dalje je poziv koji stiže do vaše majke. Smanjivanje količine vašeg glasa koja je javno dostupna zaseban je posao, opisan u kako smanjiti javni uzorak svog glasa.

Tržište želi gumb koji kaže pravo ili lažno, a dokazi kažu da takav gumb zasad ne postoji.

Na Deepfake-Eval-2024, mjerilu izrađenom od deepfakeova koji doista kruže društvenim mrežama, a ne iz laboratorijskih skupova podataka, površina ispod krivulje za audio detekcijske modele otvorenog koda pala je za 48% u odnosu na njihove rezultate na ranijim mjerilima, a istraživači navode da komercijalni detektori i fino podešeni modeli nadmašuju gotove modele otvorenog koda, ali i dalje zaostaju za točnošću forenzičkih analitičara deepfakeova (arXiv:2503.02857). Svaka web stranica koja vam nudi postotak pouzdanosti za prenesenu datoteku prodaje broj koji je izradio upravo ta vrsta modela.

Ako vam treba ovjeriti jednu određenu datoteku za sudski postupak ili policijsku prijavu, angažirajte forenzičkog stručnjaka za zvuk, koji je prema dokazima s mjerila i dalje najtočnija dostupna opcija.

Ni označavanje vas ne spašava, i to iz razloga koji je prozaičan, a ne tehnički. Članak 50. obvezuje pružatelje i subjekte koji uvode sustave u uporabu, a koji namjeravaju poštovati pravila. Netko tko na prijenosnom računalu pokreće govorni model otvorenih težina u jurisdikciji koja nikad nije čula za Akt o umjetnoj inteligenciji ne označava ništa, a nijedno pravilo o označavanju ne doseže unutar poziva uživo, koji uopće ne nosi metapodatke.

Nitko ne može obećati ni da oznaka preživi nakon što je ugrađena. Audio vodeni žigovi mogu se napasti, a napadi postaju sve jeftiniji. U lipnju 2026. istraživači koji objavljuju kao Ding i suradnici pokazali su prilagodljive napade koji su stope otkrivanja vodenog žiga spustili ispod 10% za zamjenu i stvaranje, a na nulu za uklanjanje, u svim shemama koje su testirali (arXiv:2606.22310).

I na kraju svega toga nema gumba za uklanjanje. Možete smanjiti javni uzorak svog glasa, možete se koristiti mehanizmima za uklanjanje sadržaja koje platforme nude, a ovisno o tome gdje živite, možda imate pravo temeljeno na pravu na javnost, osobnosti ili zaštiti podataka. Ništa od toga ne sprječava izradu kopije, a tko vam prodaje sprječavanje, obećava previše.

Članak 50. stvara obvezu transparentnosti, a ne pravo vlasništva, i ta razlika određuje što s tim pravilom možete učiniti.

Članak 50. stavak 2. zahtijeva da pružatelji sustava umjetne inteligencije koji generiraju sintetički zvuk, slike, video ili tekst osiguraju da su izlazni sadržaji „marked in a machine-readable format and detectable as artificially generated or manipulated” (označeni u strojno čitljivom formatu i prepoznatljivi kao umjetno generirani ili izmijenjeni) (članak 50.). Članak 50. stavak 1. zahtijeva da se osobi kaže da je u interakciji sa sustavom umjetne inteligencije, osim ako je to očito razumno obaviještenoj osobi. Članak 50. stavak 4. zahtijeva da subjekti koji uvode sustave u uporabu, a koriste deepfake slikovni, audio ili video sadržaj, otkriju da je sadržaj umjetno generiran ili izmijenjen. Sve to jasno i razlučivo, najkasnije pri prvoj interakciji ili izloženosti.

Postoje izuzeća. Pomoćno uređivanje koje bitno ne mijenja ulazni sadržaj izvan je opsega, kao i određena ovlaštena uporaba za provedbu zakona, a umjetnička, kreativna ili satirična djela moraju samo na prikladan način otkriti postojanje sintetičkog sadržaja.

Zube ima članak 99. Kršenje članka 50. povlači upravne novčane kazne do 15.000.000 EUR ili, za poduzetnika, do 3% ukupnog svjetskog godišnjeg prometa, ovisno o tome što je veće (članak 99.). Doseg je u članku 2., koji Uredbu primjenjuje na pružatelje i subjekte koji uvode sustave u uporabu, a imaju poslovni nastan izvan Unije, ako se izlazni sadržaj sustava umjetne inteligencije koristi u Uniji (članak 2.). Čitate li ovo u Sydneyju ili Chicagu, alati koje koristite vjerojatno će i dalje označavati svoje izlazne sadržaje, jer njihovi dobavljači prodaju u Europu.

Za označavanje su važna dva datuma. Obveza se primjenjuje od 2. kolovoza 2026. Prema paketu AI Omnibus, o kojem je privremeni dogovor postignut 7. svibnja 2026., pružatelji čiji su generativni sustavi već bili na tržištu prije tog datuma imaju rok do 2. prosinca 2026. za ispunjenje zahtjeva o označavanju iz članka 50. stavka 2., dok se sve ostale obveze iz članka 50. primjenjuju od 2. kolovoza bez prijelaznog razdoblja (Mishcon de Reya, svibanj 2026.). Europska komisija objavila je 10. lipnja 2026. završni Kodeks prakse o označavanju i označivanju sadržaja generiranog umjetnom inteligencijom. Potpisivanje Kodeksa je dobrovoljno, a obveze koje on pomaže pružateljima ispuniti primjenjuju se u svakom slučaju (Europska komisija).

Ono što vam članak donosi usko je, ali vrijedno. Sintetički zvuk koji poštuje pravila sam se prijavljuje, zbog čega neoznačena snimka koja kruži europskom platformom postaje pitanje koje vrijedi postaviti naglas. Članak ne odlučuje tko smije kopirati vaš glas i nijedna njegova verzija ne dopire do kriminalca koji zove vašu majku. Opseg, rokove i tko snosi koju obvezu opisuje što članak 50. zahtijeva i koga obvezuje.

Počnite graditi svoju ostavštinu Besplatna izrada, 25 uspomena, bez kartice.

Nijedno od ta tri pravila ne košta ni centa, a zajedno poražavaju napad koji ne mogu dotaknuti nikakvi standardi o porijeklu na svijetu, jer poziv uživo ne nosi ništa što bi se moglo provjeriti.

Dogovorite usmenu lozinku. Jedna kratka fraza koju dijeli cijela uža obitelj i koja se izgovara na početku svakog poziva o novcu ili hitnom slučaju. Ne ime ljubimca, ne ulica u kojoj ste živjeli, ne škola, ne ništa što stoji na javnom profilu. Neka se lako izgovara kad ste uplašeni. Ako netko tko zvuči točno kako treba ne može reći frazu, poziv tu završava. Pravilo mora biti apsolutno, jer je cijela zamisao prijevare s hitnom nuždom u tome da inzistiranje na postupku djeluje okrutno.

Uvedite pravilo povratnog poziva. Nikakav novac se ne šalje, a bankovni podaci i kodovi ne izgovaraju se na pozivu koji je došao vama. Prekinete vezu, pronađete osobu u svojim kontaktima i nazovete broj koji je već bio tamo. Nikada broj koji je dao pozivatelj. Provjera identiteta pozivatelja ne radi ono što većina ljudi pretpostavlja: prema opisu same američke Savezne komisije za komunikacije (FCC), STIR/SHAKEN omogućuje pružateljima da „verify that the caller ID information transmitted with a particular call matches the caller's real number” (provjere da informacija o identitetu pozivatelja prenesena uz određeni poziv odgovara stvarnom broju pozivatelja) (FCC, Caller ID Authentication). To potvrđuje broj, a ne govornika. Broj može biti potpuno pravi, a glas na liniji svejedno lažan.

Obećanje stavite na papir i potpišite stranicu. Jedan odlomak, ispisan, datiran i zalijepljen s unutarnje strane vratašca kuhinjskog ormarića: „Nikada te neću tražiti novac, poklon kartice, kriptovalute, bankovne podatke ni verifikacijske kodove glasovnim pozivom ili glasovnom porukom. Ako glas koji zvuči kao ja traži bilo što od toga, to nisam ja. Prekini vezu i nazovi me na broj koji imaš u telefonu.” Potpisano, s datumom ispod potpisa. Pretjerano, očito, a ipak pretvara zastrašujuću raspravu u jedanaest navečer u komad papira koji netko može pogledati dok mu je telefon još u ruci.

Dvije dopune vrijedne deset minuta. Smanjite javni uzorak: uklonite video s vjenčanja s javnog popisa, snimljenu poruku na mobilnoj sekretarici zamijenite zadanom porukom operatera, dvaput promislite prije nego što prenesete dugu neuređenu snimku sebe. I znajte da se u Sjedinjenim Državama pozivi koji koriste glasove generirane umjetnom inteligencijom smatraju „artificial” (umjetnima) prema Zakonu o zaštiti potrošača od telefonskih poziva (Telephone Consumer Protection Act), nakon deklaratornog rješenja FCC-a od 8. veljače 2024. (FCC 24-17), što je regulatorima dalo uporište koje prije nije postojalo.

Sva tri pravila obavljaju isti posao. Svako zamjenjuje prosudbu o tome kako glas zvuči zapisom koji netko može provjeriti.

Tko zakon u ovom području opisuje kao riješen, nije pročitao spis.

U Sjedinjenim Državama Stalni odbor (Standing Committee), to jest Odbor za pravila prakse i postupka Pravosudne konferencije, odobrio je 10. lipnja 2025. objavljivanje predloženog novog Saveznog pravila o dokazima 707 o dokazima koje je generirao stroj, uz razdoblje javnog savjetovanja od 15. kolovoza 2025. do 16. veljače 2026. (United States Courts). Objava radi savjetovanja je rani korak, a ne donošenje, i od srpnja 2026. pravilo je i dalje prijedlog i nije na snazi.

Zakon NO FAKES Act iz 2026. (S.4591, 119. Kongres) Pravosudni odbor Senata uputio je u daljnji postupak 18. lipnja 2026. i još treba proći cijeli Senat i Zastupnički dom. Od srpnja 2026. prijedlog nije zakon (Congress.gov). Faza, izuzeća i što bi se promijenilo njegovim donošenjem prate se u što bi NO FAKES Act stvorio. Dok savezno pravo ne postoji, prava na koja se možete osloniti su ona država, a ona su neujednačena, pa pročitajte koji se zakoni o digitalnim replikama primjenjuju u vašoj državi prije nego što pretpostavite da imate zahtjev.

Pravilo FTC-a o lažnom predstavljanju obuhvaća lažno predstavljanje kao državna tijela i tvrtke otkako je stupilo na snagu 1. travnja 2024. (FTC, 1. travnja 2024.). Dopunsko donošenje propisa koje bi pravilo proširilo na lažno predstavljanje kao pojedinca, uključujući kloniranje glasa umjetnom inteligencijom, predloženo je 15. veljače 2024. i od srpnja 2026. nije dovršeno (FTC, 15. veljače 2024.).

Europa ima drugi kolosijek koji teče uz Akt o umjetnoj inteligenciji. Danska je Europskoj komisiji prijavila izmjene svog Zakona o autorskom pravu kojima bi se ljudima dalo pravo na pristanak u pogledu realističnih digitalnih imitacija njihovih osobnih obilježja, uključujući glas, u trajanju od 50 godina nakon smrti, a provodilo bi se mehanizmima uklanjanja sadržaja iz Akta o digitalnim uslugama. Informativni dokument Istraživačke službe Europskog parlamenta objavljen u siječnju 2026. bilježi da bi izmjene trebale stupiti na snagu u srpnju 2026. (EPRS, PE 782.611).

Dok se sve to odvija, učinite ono što vrijedi kako god pravila završila: čuvajte svoje originale. Ako ikada morate pokazati da je snimka doista vaša, korisna je neizmijenjena izvorna datoteka s očuvanim metapodacima snimanja, pohranjena negdje uz vremensku oznaku koju niste kontrolirali, zajedno s bilješkom o tome kada ste snimku napravili i zašto. Kopirajte izvornu datoteku s telefona prije nego što je neka aplikacija ponovno kodira. Pet minuta posla i najbliže lancu skrbništva što običan čovjek može izgraditi.

Sve gore navedeno odnosi se na dokazivanje glasa naknadno, što je najteži mogući trenutak za početak. Alternativa je graditi zapis već pri unosu.

Na Afterlife.ai™ vodič zvan Idy® intervjuira vas. Vaši odgovori postaju datirane uspomene, zabilježene na vašem računu u poznato vrijeme, a konkretne činjenice iz vašeg života dolaze isključivo iz tih uspomena, jer upute iza proizvoda zabranjuju izmišljanje onoga što niste rekli. Vaš glas klonira se iz snimaka koje napravite snimačem unutar proizvoda, uz datiran pristanak na vašem imenovanom računu, i gradi se samo iz tih snimaka napravljenih u proizvodu, a ne iz zvuka prikupljenog negdje drugdje. Ako biste radije sami vodili taj intervju, metoda kako se ispravno intervjuirati opisana je zasebno.

Sada iskrena ograničenja, iz iskustva izgradnje. Naši zapisi dokazuju samo naš vlastiti lanac i ništa šire. Kažu da je ovaj zvuk snimljen ovdje, na ovaj datum, s ovog računa, uz ovaj pristanak. Ne mogu potvrditi vjerodostojnost datoteke koja je došla odnekud drugdje, a pomažu samo ako ih banka, platforma ili sud zatraže da ih predočite. Trenutno ne dodajemo C2PA Content Credentials izvezenom zvuku, pa datoteka koja napusti proizvod putuje kao običan zvuk. I nijedan zapis o pristanku ne sprječava da vas netko klonira iz epizode podcasta. Zapis o pristanku daje vam datiran, imenovan protuzapis onog dana kada vam zatreba.

Svaka Persona izgrađena na ovaj način nosi datum početka, datirane izvorne uspomene, datiran pristanak na imenovanom računu iza glasa i imenovan popis ljudi koje ste odabrali. Svaki od tih elemenata zapis je koji se od nekoga može zatražiti da ga predoči, a prijevarni poziv nema nijedan od njih.

Dok ste živi, do vaše izgradnje mogu doći samo ljudi koje imenujete i nitko nije imenovan prema zadanim postavkama. Jedno ograničenje koje trebate znati prije odabira: nakon otvaranja pristupa izvršitelj kojeg ste imenovali može pozvati dodatne osobe, pa tu osobu imenujte imajući na umu tu ovlast. Otvaranje pristupa ide preko Executor Lock™, sedmodnevne zadrške uz provjeru dokaza. Tvrdnja da ste umrli sama po sebi ne otvara ništa. Moraju se podnijeti dokazi, teče sedmodnevni rok, a vi se obavještavate čim se podnese prijava, uz datum završetka tog roka, pa se lažna tvrdnja može osporiti prije nego što se išta otvori.

Prvih 25 uspomena je besplatno, bez kartice, a besplatna izrada ne istječe. To je dio cjenika koji bih najžešće branio. Najgora verzija ove industrije naplaćuje ožalošćenu obitelj u trenutku kada joj je najteže odbiti. O tome što plaćene opcije dodaju kasnije, stranica s planovima to opisuje.

Iskren odgovor na kloniranje glasa nije skrivati glas do kraja života. Skrivanje ne djeluje, uzorak je već vani, a ljudi koji vas vole ostaju u nagađanju. Sačuvajte jednu verziju svog glasa koja dolazi s papirologijom.

Počnite graditi svoju ostavštinu Besplatna izrada, 25 uspomena, bez kartice.

Mogu li dokazati da je snimka mog glasa lažna?

Ne samo iz zvuka i ne potrošačkim detektorom. Umjesto toga napadnite porijeklo datoteke: odakle je došla, kada se prvi put pojavila, tko ju je prenio, nosi li ikakvu potpisanu potvrdu. Zatim predočite vlastite originale s očuvanim metapodacima snimanja za isto razdoblje. Sudovi i platforme reagiraju na taj zapis, a ne na raspravu o zvučnom valu.

Pogoršavam li problem ako kloniram vlastiti glas?

Samo ako klon nastaje bez kontrola. Rizik kloniranja glasa je kopija bez pristanka koja ne nosi nikakav zapis o tome tko ju je napravio i zašto. Klon koji ste sami napravili, iz zvuka koji ste snimili, uz datiran pristanak na vlastitom računu i imenovan popis ljudi koje ste odabrali, jest sljediva verzija vašeg glasa. Nesigurna kopija je ona napravljena bez vas.

Kome pripadaju moje glasovne snimke i uspomene?

Vama. Naši uvjeti kažu da zadržavate vlasništvo nad svojim sadržajem i daju tvrtki Idy ograničenu, neisključivu licencu za obradu i pohranu tog sadržaja isključivo radi pružanja usluge vama, bez treniranja modela bez zasebnog dogovora. Cijene planova nalaze se na stranici s planovima, jer zastarjela brojka na stranici članka gora je nego nikakva. Pojedinačne uspomene možete brisati kad god želite, a brisanjem računa uklanjaju se vaše uspomene i pohranjene snimke. Jedan nedostatak, rečen otvoreno: danas ne postoji brisanje jednim klikom za klonirani glas koji drži naš pružatelj sinteze, pa je to uklanjanje zahtjev nama, a ne gumb.

Što se događa ako Afterlife.ai prestane raditi?

Preuzmite izvoz dok možete. Izvoz podataka u postavkama računa vraća vaš profil, uspomene i transkripte razgovora kao JSON datoteku, koliko god često želite. Dva iskrena nedostatka: izvoz još ne uključuje vaše audio snimke, a nismo objavili obvezu o postupku zatvaranja koja bi pokrila što se događa ako tvrtka prestane postojati. Postavite to pitanje svakoj tvrtki u ovoj kategoriji prije nego što bilo što snimite kod bilo koje od njih, a nejasan odgovor smatrajte odgovorom.

• Kome pripada glasovni klon kada jednom postoji

• Je li kloniranje glasa sigurno, jednostavnim riječima

• Što znači biti pogrešno zapamćen i tko smije ispraviti zapis

• Kako intervju gradi UI verziju vas

• Zakoni o deepfakeovima i UI liku po državama

1. European Union. Artificial Intelligence Act, Article 50, Transparency Obligations for Providers and Deployers of Certain AI Systems. Regulation (EU) 2024/1689. Primjenjuje se od 2. kolovoza 2026. https://artificialintelligenceact.eu/article/50/

2. European Union. Artificial Intelligence Act, Article 99, Penalties. Regulation (EU) 2024/1689. https://artificialintelligenceact.eu/article/99/

3. European Union. Artificial Intelligence Act, Article 2, Scope. Regulation (EU) 2024/1689. https://artificialintelligenceact.eu/article/2/

4. European Commission. Code of Practice on marking and labelling of AI-generated content. Završna verzija objavljena 10. lipnja 2026. https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content

5. Mishcon de Reya. EU AI Act simplified: unpacking the AI Omnibus agreement of May 2026. Privremeni dogovor postignut 7. svibnja 2026.; prijelazno razdoblje do 2. prosinca 2026. za označavanje iz članka 50. stavka 2. kod sustava koji su već na tržištu. https://www.mishcon.com/news/eu-ai-act-simplified-unpacking-the-ai-omnibus-agreement-of-may-2026

6. Federal Bureau of Investigation, Internet Crime Complaint Center. 2025 Internet Crime Report, "Artificial Intelligence (AI) Used in Cybercrime", str. 39. 22.364 pritužbe, $893.346.472 prilagođenih gubitaka; investicijske pritužbe s prijavljenom vezom s umjetnom inteligencijom preko $632 milijuna; prijevare s hitnom nuždom preko $5 milijuna. https://www.ic3.gov/AnnualReport/Reports/2025_IC3Report.pdf

7. Mai KT, Bray S, Davies T, Griffin LD. "Warning: Humans cannot reliably detect speech deepfakes." PLOS ONE, 2. kolovoza 2023. 529 sudionika; ukupna točnost 70,35% u uvjetu s jednim isječkom i 73% na deepfake isječcima; 85,59% u uvjetu uparenih isječaka; upoznavanje je poboljšalo točnost za 3,84%. https://doi.org/10.1371/journal.pone.0285333

8. Cox J. "How I Broke Into a Bank Account With an AI-Generated Voice." Vice, 23. veljače 2023. Lloyds Bank Voice ID; otprilike pet minuta novinarovog vlastitog govora; nekoliko neuspjelih pokušaja prije nego što je klon prošao. https://www.vice.com/en/article/how-i-broke-into-a-bank-account-with-an-ai-generated-voice/

9. ElevenLabs. Voice cloning: how it works. Razvojna dokumentacija, provjereno 30. srpnja 2026. "Less than two minutes of audio can produce a usable clone"; voice captcha "cannot guarantee that the provided recording truly belongs to the requester". https://elevenlabs.io/docs/eleven-api/concepts/voice-cloning

10. Coalition for Content Provenance and Authenticity. C2PA Technical Specification 2.2, svibanj 2025. https://spec.c2pa.org/specifications/specifications/2.2/specs/C2PA_Specification.html

11. Coalition for Content Provenance and Authenticity. C2PA Soft Binding API, specifikacija 2.2. https://spec.c2pa.org/specifications/specifications/2.2/softbinding/Decoupled.html

12. Ding W, Guo H, Duan R, Wang G, Wang Y, Chen M, Yan Q. "Learning to Evade: Adaptive Attacks on Audio Watermarking." arXiv:2606.22310, 21. lipnja 2026. Otkrivanje ispod 10% za zamjenu i stvaranje, 0% za uklanjanje, na dvije sheme vodenog žiga i tri skupa glasovnih podataka. https://arxiv.org/abs/2606.22310

13. Chandra NA, Lee H, Murtfeldt R, et al. "Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024." arXiv:2503.02857. AUC niži za 48% kod audio modela u odnosu na ranija mjerila; komercijalni i fino podešeni modeli i dalje zaostaju za forenzičkim analitičarima. https://arxiv.org/abs/2503.02857

14. Federal Communications Commission. Declaratory Ruling FCC 24-17, doneseno 2. veljače 2024., objavljeno 8. veljače 2024. Glasovi generirani umjetnom inteligencijom u pozivima su "artificial" prema Zakonu o zaštiti potrošača od telefonskih poziva (Telephone Consumer Protection Act). https://docs.fcc.gov/public/attachments/FCC-24-17A1.pdf

15. Federal Communications Commission. Combating Spoofed Robocalls with Caller ID Authentication (STIR/SHAKEN). Provjereno 30. srpnja 2026. https://www.fcc.gov/call-authentication

16. United States Congress. NO FAKES Act of 2026, S.4591, 119th Congress. Pravosudni odbor Senata uputio u daljnji postupak 18. lipnja 2026. Od srpnja 2026. nije zakon. https://www.congress.gov/bill/119th-congress/senate-bill/4591

17. Federal Trade Commission. "FTC Announces Impersonation Rule Goes into Effect Today", 1. travnja 2024. Pravilo o lažnom predstavljanju kao državna tijela i tvrtke na snazi. https://www.ftc.gov/news-events/news/press-releases/2024/04/ftc-announces-impersonation-rule-goes-effect-today

18. Federal Trade Commission. "FTC Proposes New Protections to Combat AI Impersonation of Individuals", 15. veljače 2024. Dopunsko donošenje propisa o lažnom predstavljanju kao pojedinca nije dovršeno od srpnja 2026. https://www.ftc.gov/news-events/news/press-releases/2024/02/ftc-proposes-new-protections-combat-ai-impersonation-individuals

19. United States Courts. Proposed Amendments Published for Public Comment. Pravilo o dokazima 707 odobreno za objavu od strane Odbora za pravila prakse i postupka Pravosudne konferencije 10. lipnja 2025.; razdoblje savjetovanja od 15. kolovoza 2025. do 16. veljače 2026. https://www.uscourts.gov/forms-rules/proposed-amendments-published-public-comment

20. European Parliamentary Research Service. "The Danish approach to copyright and deepfakes: A model for the EU?" PE 782.611, siječanj 2026. Pravo na pristanak u pogledu realističnih digitalnih imitacija osobnih obilježja, uključujući glas, u trajanju od 50 godina nakon smrti, provodi se kroz Akt o digitalnim uslugama; očekuje se stupanje na snagu u srpnju 2026. https://www.europarl.europa.eu/RegData/etudes/ATAG/2026/782611/EPRS_ATA%282026%29782611_EN.pdf

21. Afterlife.ai. Terms of Service. Provjereno 30. srpnja 2026. "You retain ownership of all content, memories, media, and data you input into the Platform"; ograničena, neisključiva licenca za obradu, pohranu i korištenje sadržaja isključivo radi pružanja usluge. https://www.afterlife.ai/terms-of-service

Kako je ova stranica istraživana

Pravne tvrdnje potječu iz primarnih izvora: teksta Uredbe (EU) 2024/1689, vlastite objave Kodeksa prakse o označavanju i označivanju Europske komisije, teksta prijedloga zakona i evidencije odbora na Congress.gov, objavljenog deklaratornog rješenja FCC-a, vlastitih priopćenja FTC-a i stranice United States Courts o predloženim izmjenama pravila. Tehničke tvrdnje potječu iz specifikacije C2PA, razvojne dokumentacije samog dobavljača te recenziranih radova ili preprintova, navedenih po identifikatoru. Svaka tvrdnja o našem vlastitom proizvodu provjerena je u kodu koji pokreće proizvod, a ograničenja navedena gore ona su koja kod doista ima. Gdje je korišten sekundarni izvor, primarni tekst još nije javno dostupan, što vrijedi za privremeni dogovor o AI Omnibusu od 7. svibnja 2026.

Neriješeno i gore tretirano kao neriješeno: drži li se prijelazni datum iz Omnibusa kako je dogovoreno, hoće li S.4591 uopće proći, hoće li FTC proširiti pravilo o lažnom predstavljanju na pojedince, hoće li pravilo o dokazima 707 biti doneseno i kako će sudovi u praksi tretirati strojno čitljive oznake kao dokaz. Trajnost vodenog žiga je sporna, a ne riješena, a točnost detektora na zvuku iz stvarnog svijeta mijenja se dovoljno brzo da će se brojke s mjerila navedene gore zastarjeti.

Ako na ovoj stranici nađete nešto pogrešno ili zastarjelo, javite nam putem stranice za kontakt i ispravit ćemo stranicu i ponovno postaviti datum pregleda.

Posljednji pregled: 30. srpnja 2026. Ova stranica sadrži žive pravne i regulatorne tvrdnje, uključujući primjenu članka 50. Akta EU-a o umjetnoj inteligenciji od 2. kolovoza 2026. i status prijedloga S.4591, a nalazi se u ciklusu provjere svakih 30 dana dok se te činjenice ne smire.