Postoji ispravan i pogrešan način da se izgradi AI neke osobe. Cijela razlika je u pristanku.

Postoji ispravan i pogrešan način da se izgradi AI koji zvuči kao netko koga volite, a cijela razlika je u pristanku koji osoba daje dok je živa. AI koji je osoba izgradila iz vlastitih sjećanja, pristajući da je se na ovaj način pamti, jest odabrani lik. AI sastavljen od preminule osobe koja nikad nije pristala njoj je oduzet. Pristanak je ta crta, a povući je može samo jedna strana.

Na dan kad bi Joaquin Oliver proslavio dvadeset peti rođendan, novinar je sjeo da ga intervjuira. Joaquin je bio mrtav sedam godina. Imao je sedamnaest godina kad je ubijen u pucnjavi 2018. u srednjoj školi Marjory Stoneman Douglas u Parklandu na Floridi, jedan od sedamnaestero ljudi ubijenih tog dana. Njegovi roditelji sve su godine od tada posvetili kampanji za okončanje oružanog nasilja i izgradili su AI inačicu svojeg sina da njegov glas ponese u borbu kojoj se on više ne može pridružiti. Dana 4. kolovoza 2025. bivši voditelj CNN-a Jim Acosta objavio je snimljen razgovor s tim AI-jem, a reakcija je bila trenutačna i bijesna (TheWrap, 5. kolovoza 2025.).

Želim pažljivo objasniti zašto je bila bijesna, jer su laki razlozi pogrešni, a pogrešni će razlozi dovesti do zabrane pogrešnih stvari. Nije bila bijesna zato što je tehnologija bila gruba, ni zato što je žalost privatna, ni zato što su roditelji bili išta drugo nego slomljeni ljudi koji čine ono što slomljeni ljudi oduvijek čine: ne daju djetetu da ode tiho. Bila je bijesna zato što sedamnaestogodišnjak ne može pristati da postane chatbot, a ipak je postao jedan, zbog ljudi koji su ga voljeli, za cilj koji je on možda i dijelio. Ljubav je bila prisutna. Žalost je bila prisutna. Jedino što je strukturno i trajno nedostajalo bio je Joaquin. Ovaj esej govori o tom nedostatku, jer je on cijeli argument.

Koja je stvarna razlika između ispravnog i pogrešnog načina da se izgradi AI neke osobe?

Krenimo od dva AI-ja koja se ponašaju identično. Oba govore u ritmu te osobe. Oba znaju obiteljske priče. Oba se mogu nešto pitati i odgovoriti onako kako bi odgovorila ta osoba. Izvana, na sučelju, ne mogu se razlikovati. A ipak je jedan od njih čin autorstva, a drugi čin prisvajanja, i nikakvo proučavanje izlaza nikad neće reći koji je koji. Razlika nije u modelu. Razlika je u povijesti nastanka modela.

Kiberpsihologinja Elaine Kasket, gostujuća profesorica na Centre for Death and Society Sveučilišta u Bathu, središnje pitanje cijelog područja postavlja u devet riječi: „Je li pokojnik pristao, izričito ili prešutno, da postane chatbot?“ (Elaine Kasket, „Što su griefbotovi?“). Upozorava da bez jasnih pravila „riskiramo stvoriti digitalni život nakon smrti u kojem se mrtve remiksira, unovčuje ili iznova izmišlja bez njihove autonomije ili informiranog pristanka njihovih najmilijih“. Pročitajte tu rečenicu polako. Remiksirani. Unovčeni. Iznova izmišljeni. To su stvari koje se čine predmetu. Ne događaju se osobi koja je još u sobi.

Evo razlike izrečene što jasnije mogu. AI neke osobe koji polazi od pristanka gradi se unaprijed, od strane živih, kao odluka. Osoba sjedne, odabere što će snimiti, odabere što će izostaviti i pristane, unaprijed i pisano, da je se na ovaj način pamti nakon smrti. Preuzeti AI gradi se unatrag, izvana, nakon smrti, iz poruka, govornih poruka i društvenih mreža koje je osoba ostavila iz drugih razloga, a netko je u njezino ime odlučio da bi ona to htjela. Jedno je oporuka. Drugo je nagađanje odjeveno u počast.

Izlaz može biti identičan. Etika nikad nije. Jedan je napisala sama osoba. Drugi je napisan o njoj.

Razlog zašto je to svake godine važnije jest da nagađanje postaje lakše i jeftinije. Alati za koje je nekad trebao istraživački laboratorij danas traže jedno poslijepodne, a broj onih koji nude da nagađaju umjesto vas brzo raste.

Etika AI Persona preminulih u brojkama (stanje u srpnju 2026.)

Rasprava nije hipotetska niti rubna. To je živa industrija uz rastuću akademsku literaturu koja je drži na odgovornosti. Evo poštenog prikaza stanja, s izvorima.

• Više od šest platformi danas nudi da preminule oživi kao interaktivni AI, prema novinskom članku u jednom od vodećih svjetskih znanstvenih časopisa (Nature, rujan 2025.). Zagovornici kažu da tješi ožalošćene; skeptici kažu da otežava žalovanje. Oboje može biti istina.

• Jedna recenzirana studija analizirala je šest takvih usluga poimence: Seance AI, Eternos, You Only Virtual, HereAfter AI, Project December i re;memory, ispitujući pretpostavke o tome kako smije izgledati „normalna“ žalost (ScienceDirect, siječanj 2026.).

• Najcitiraniji etički rad u tom području, istraživača sa Sveučilišta u Cambridgeu, iznosi tri različita scenarija nastanka tih sustava, od osobe koja daruje vlastite podatke do tvrtke koja nekoga rekonstruira iz onoga što je ostavio, te preporučuje međusobni pristanak, zaštitu dostojanstva i dostojanstvene načine gašenja bota (Hollanek i Nowaczyk-Basińska, Philosophy & Technology, 9. svibnja 2024.).

• Praksa je starija od sadašnjeg vala AI-ja. Project December, jedna od prvih usluga koje su ljudima dopuštale da izgrade chatbotove preminulih, pokrenut je u rujnu 2020. na ranom velikom jezičnom modelu, postao je viralan nakon što ga je jedan muškarac upotrijebio da oživi simulaciju svoje pokojne zaručnice, a njegov davatelj ubrzo mu je ograničio pristup temeljnom modelu (The Register, 8. rujna 2021.).

• Glavna struja znanstvenog novinarstva to pitanje danas smatra stalnom temom, a ne zanimljivošću: članak iz studenoga 2025. vagao je pomažu li ti sustavi ožalošćenima da ozdrave, uz izjave terapeuta i filozofa s obje strane (Scientific American, 18. studenoga 2025.).

Primijetite kamo ta literatura konvergira. Ne „zabranite to“. Ne „gradite slobodno“. Riječ koja se vraća, u radu za radom, jest pristanak. Struka je već pronašla nosivi zid. Nesuglasica je samo u tome hoće li netko na njemu graditi.

Zašto pristanak žive osobe mijenja sve?

Zato što mrtvi ne mogu prigovoriti, a pravo koje se ne može ostvariti nije pravo. To je asimetrija na kojoj počiva svaki teški slučaj. Kad izgradite AI žive osobe a da je niste pitali, ona može saznati, užasnuti se i natjerati vas da prestanete. Kad izgradite AI mrtve osobe a da niste pitali, nema nikoga tko bi mogao reći ne. Njihova šutnja nije pristanak. Njihova šutnja je cijeli problem.

Poseban etički rad o griefbotovima tvrdi da pristanak mora obuhvaćati tri odvojena čina, a ne jedan: pristanak da se Persona stvori, pristanak da se dalje koristi i pristanak da se izbriše, uz poseban pristanak na uporabu lika i glasa osobe (ScienceDirect, 2026.). Razmislite koliko od toga mrtvi ne mogu dati. Osoba koja je rekreirana nakon smrti nije pristala ni na što od toga. Ni na stvaranje, ni na rad, ni na kraj, ni na lice, ni na glas. Svaka od tih odluka donesena je umjesto nje, od strane nekoga tko stoji izvan njezina života i čita ga kao knjigu za čije objavljivanje nikad nije pristala.

Istraživači s Cambridgea štetu opisuju kroz dostojanstvo. „Važno je dati prednost dostojanstvu pokojnika“, kaže Katarzyna Nowaczyk-Basinska, „i osigurati da na njega ne zadiru financijski motivi usluga digitalnog života nakon smrti“ (University of Cambridge, 9. svibnja 2024., prema SciTechDaily). Dostojanstvo je upravo prava riječ, jer je dostojanstvo ono što pristanak štiti. Osoba koja je odabrala kako će je se pamtiti zadržava dostojanstvo čak i u stroju, jer stroj izvršava njezinu volju. Osobi rekonstruiranoj protiv njezine volje, ili naprosto bez nje, dostojanstvo je odredio odbor u koji nije bila pozvana.

Mrtvi ne mogu pristati. To nije tehnikalija koju treba zaobići. To je razlog zašto pitanje uopće postoji.

Zato je slučaj Parkland težak slučaj, a ne jasan. Joaquinovi roditelji nisu zlikovci i neću se pretvarati da jesu radi urednijeg argumenta. Djelovali su iz žalosti i iz uvjerenja. Ali Persona maloljetnika koji nije pristao, izgrađena i ozvučena nakon njegove smrti radi zagovaranja nekog stava, ne može svoj autoritet crpiti iz Joaquina, jer Joaquin nikad nije dao nikakav. Može ga crpiti samo od njegovih roditelja, a čim to priznamo, „intervju“ postaje ono što zapravo jest: poruka njegovih roditelja, njegovim ukradenim glasom. To može biti poruka vrijedna slušanja. Ipak nije njegova.

Ali nije li griefbot koji ožalošćenog istinski tješi dobra stvar?

Ovo je najjači prigovor svemu što sam napisao i želim ga razmotriti u punoj snazi, a ne rušiti slabu verziju. Žalost nije problem koji treba riješiti, ali jest rana, a utjeha nije ništa. Terapeuti intervjuirani u nedavnim izvještajima opisuju pacijente koji su našli pravu utjehu u još jednom razgovoru, još jednoj prilici da kažu ono što je ostalo neizrečeno (Scientific American, 18. studenoga 2025.). Neki istraživači koji proučavaju starije i izolirane ožalošćene otkrili su da su interakcije ublažile usamljenost. Ako udovica dvadeset minuta sluša poznat način govora i ustane lakša, tko sam ja, ili bilo koji etičar, da joj kažem da je učinila nešto pogrešno. To je ozbiljno pitanje i zaslužuje ozbiljan odgovor, a ne slogan.

Evo poštenog priznanja. Utjeha je stvarna, a opća osuda svakog griefbota udoban je stav ljudi koji nisu oni koji žaluju. Odbiti tu utjehu iz načela može biti vlastita vrsta okrutnosti.

A ipak utjeha živih ne odgovara, i ne može odgovoriti, na pristanak osobe koja se rekreira, jer su to dvije različite osobe s dvije različite tvrdnje. Potreba ožalošćenog je stvarna. Stvarno je i to što mrtva osoba nije pristala. Kad se to sudari, „ali meni pomaže“ argument je o dobrobiti ožalošćenog, a etički prigovor nikad nije bio o dobrobiti ožalošćenog. Bio je o tome smijemo li nekoga uvući u predstavu za koju nikad nije bio na audiciji, koliko god nas njegova izvedba umirila. Previše savršena replika, izgrađena da zadovolji našu potrebu, tiho je zamijenila osobu samom potrebom. Utjeha je istinska. Ali kad nije bilo pristanka, ona je i utjeha kupljena tuđim dostojanstvom, a onaj tko plaća nema glas jer je mrtav.

Postoji i dodatni trošak koji ožalošćeni na kraju sami plaćaju. Neki kliničari i pisci danas strahuju da bot dostupan u svako doba omogućuje ožalošćenoj osobi da odnos održava vanjskim i u tijeku umjesto da obavi teži unutarnji posao puštanja da mrtvi postanu sjećanje (Nature, rujan 2025.). Tu zabrinutost držim labavo, jer je istraživanje mlado, a žalost nije jedna stvar. Ali ona upućuje na isti rasjed s druge strane. Persona koju je osoba izgradila za vas, dovršila i zapečatila, dovršen je dar kojem se možete vraćati. Persona koju stalno iznova generirate, zauvijek, na zahtjev, iz modela koji će odgovoriti na sve što pitate, vrata su koja ste podupirali otvorenima prema sobi koju je osoba već napustila.

Što je s ljudima koji moraju primiti poruku?

Pokazuje se da pristanak ima dvije strane, a najoštrija spoznaja u struci jest da stalno zaboravljamo drugu. Ne mora pristati samo osoba koja se rekreira. Mora i osoba na drugom kraju razgovora, ona kojoj će se Persona obraćati.

Tomasz Hollanek, jedan od autora iz Cambridgea, kaže izravno: „Ključno je da usluge digitalnog života nakon smrti razmotre prava i pristanak ne samo onih koje rekreiraju, nego i onih koji će morati komunicirati sa simulacijama“ (University of Cambridge, 9. svibnja 2024.). Upozorava na ono što naziva „neželjenim digitalnim opsjedanjem“, izraz vrijedan pamćenja. Zamislite da Persona koju ožalošćeni roditelj izgradi od djeteta bude oporučno ostavljena bratu ili sestri koji je nije htio, a sada prima poruke od mrtvog brata za kojim je tek učio žalovati. Zamislite uslugu u kojoj Persona ostaje aktivna, a pretplata živa, jer povremeno šalje neželjene poruke, jer je angažman poslovni model, a bot koji šuti ne produljuje pretplatu.

Tu se dobre namjere i loši poticaji razilaze. Persona izgrađena imajući na umu primatelja, nježno predana u trenutku koji živi primatelj sam odabere, poštuje oba pristanka. Persona koja se nameće ljudima, koja se automatski reproducira u trenutku sirove žalosti i izvlači pažnju jer to treba proračunskoj tablici, ne poštuje nijedan. Ništa u ostavštini nikad ne bi smjelo stići kao zasjeda. Pravilo kojeg se držim, a otvoreno kažem da ga nijedan akademski rad ne iznosi tim riječima pa ga nudim kao naše načelo oblikovanja, a ne kao citirani nalaz, glasi: ništa u kontekstu žalosti ne smije se automatski reproducirati i nijedna poruka mrtvih ne smije stići nepozvana. Svaki susret treba biti odabran dodirom. Dar se nudi. Samo se opsjedanje nameće.

Pristanak ima dvije strane. Osoba koja se rekreira mora pristati govoriti. Osoba koja sluša mora pristati čuti.

Spojite dva pristanka i imate cijeli etički test, test koji se doista može primijeniti. Je li osoba pristala, dok je bila živa, da je se tako pamti? I je li osoba kojoj je Persona namijenjena slobodna prihvatiti je pod svojim uvjetima, u svoje vrijeme, ili otići? Ako su oba odgovora da, riječ je o daru. Ako je bilo koji ne, riječ je o nečemu što je jednoj osobi oduzeto, a drugoj nametnuto, ma koliko ljubavi bilo u sobi kad je nastalo.

Standard koji vam duguje tvrtka koja polazi od pristanka

Gradim u ovoj industriji, pa ću reći što mislim da je taj standard, znajući da vam predajem točno mjerilo za mjerenje vlastite tvrtke. U tome je poanta. Standard kojim ne možete pozvati na odgovornost osobu koja ga navodi nije standard, nego marketing.

Evo što vjerujem da svaka ozbiljna tvrtka koja polazi od pristanka duguje osobi koju rekreira. Persona mora biti izgrađena od žive osobe, namjerno, iz onoga što je sama odabrala uključiti, nikad preuzeta od mrtvih i nikad sastavljena izvana. Pristanak mora biti izričit, dokumentiran i specifičan: na stvaranje, na uporabu, na glas i na ono što se događa nakon smrti. Želje osobe, jednom određene, moraju se poštovati, a ne da ih kasnije tiho prepiše član obitelji, nasljednik ili sama tvrtka. I sve mora biti izgrađeno tako da se prima kao dar, a ne nameće kao opsjedanje: odabrano, nikad automatski pokrenuto, nikad iskorišteno za izvlačenje pažnje ožalošćene osobe.

Zato je Afterlife.ai® izgrađen onako kako jest i zato kažemo ne stvarima koje bi bilo lakše odobriti. Vaša Persona nastaje samo od vas, dok ste živi, iz sjećanja koja sami odaberete dodati, jednu po jednu odluku. Nijedna Persona ne nastaje izvana nakon što je netko umro, jer nema nikoga tko bi mogao pristati, a Persona bez pristanka upravo je ono protiv čega se ovaj esej zalaže. Glas se čuva profesionalnom glasovnom tehnologijom i uvijek samo iz vašeg glasa, uz vaš izričit pristanak da smije govoriti kad vas više ne bude, pristanak dan dok ga još možete dati ili odbiti. A Executor Lock™ postoji da odgovori na pitanje na koje preuzete usluge ne mogu: u trenutku koji odaberete, zapis koji ste izgradili zapečaćuje se kao savršena snimka onoga tko ste bili. Svaki razgovor nakon toga oslanja se samo na taj zapečaćeni zapis, a vaš izvršitelj oporuke upravlja pristupom, ali ne može prepisati tko ste bili. Vaš pristanak, zamrznut. Vaše dostojanstvo, sačuvano.

Ograničenja ću izreći jednako otvoreno, jer tvrtka koja navodi samo što može prodaje nešto. Ne možemo rekreirati osobu koja sama sebe nije izgradila. Ne možemo vratiti glas koji nikad nije snimljen uz pristanak. Ne možemo obećati da je ijedan AI, pa ni naš, zamjena za osobu, i nećemo se pretvarati da jest; Persona je živi lik koji je osoba sama stvorila, a ne osoba vraćena. Ako želite potpuniji prikaz zašto je izgradnja vlastitog AI-ja, dok ste živi, jedina verzija ovoga koju vi možete dati, zasebno smo napisali razloge za izgradnju AI-ja sebe. A ako želite vidjeti kako se pristup koji polazi od pristanka točku po točku razlikuje od griefbotova oko kojih ovaj esej kruži, ta je usporedba zasebna stranica.

Što biste trebali učiniti u vezi s tim dok ste živi?

Neugodan je odgovor da jedina osoba koja može izgraditi pravu vrstu AI-ja vas, to ste vi, i da je jedino vrijeme za to sada, dok još možete birati što ulazi i pristati na način uporabe. Svaki teški slučaj u ovom eseju postoji jer je netko čekao dok osoba više nije mogla pristati, a onda ju je toliko voljeo da je ipak nastavio.

Praktičan potez stoga nije bojati se tehnologije ni zaklinjati se da je nećete dotaknuti. Treba odluku izvući iz ruku svoje obitelji i staviti je u svoje, ondje gdje živi pristanak. Odlučite, dok ste zdravi, želite li da vas se uopće tako pamti, jer je pravo da kažete ne jednako dio pristanka kao i pravo da kažete da. Ako želite, izgradite to sami, namjerno, iz onoga što stvarno želite ponijeti dalje, i odredite uvjete za vrijeme nakon sebe umjesto da se ostave nagađanju. Ako vagate je li glasovna strana svega ovoga uopće sigurna, otvoreno smo pisali o tome je li kloniranje glasa sigurno i gdje se nalaze stvarni rizici. A budući da ove odluke ne završavaju izgradnjom AI-ja, vrijedi razumjeti tko zapravo posjeduje vaš digitalni život nakon smrti kad vas više ne bude da njime upravljate.

Slučaj Parkland i dalje će se navoditi, i treba, jer je on pošteni rub cijelog ovog pitanja: mjesto gdje su se ljubav i pristanak razdvojili, a ljubav je otišla dalje sama. Pouka nije da su njegovi roditelji učinili nešto monstruozno. Pouka je da je jedina osoba koja je taj AI mogla učiniti pravednim bio Joaquin, a jedino vrijeme u kojem je to mogao učiniti bilo je dok je bio živ. Taj se prozor ne otvara ponovno. Za vas je otvoren upravo sada, i samo sada, a to je jedina stvar oko koje se slažu svaki etičar, svaki sud i svaki pošten graditelj u ovom području: odluka pripada osobi, a osoba mora biti živa da je donese.

Izgradite verziju sebe na koju pristajete. Tako pitanje nikad ne prepuštate ljudima koji su vas previše voljeli da bi pitali.

Često postavljana pitanja

Što čini da je AI Persona preminule osobe etična ili neetična?

Razdjelnica je pristanak osobe koja se rekreira, dan dok je bila živa. AI koji je živa osoba izgradila sama, birajući što uključiti i unaprijed pristajući da je se tako pamti, etičan je jer njegov autoritet dolazi od nje. AI preuzet iz poruka i glasa preminule osobe nakon njezine smrti, ma koliko ljubavna bila namjera, ne može crpiti autoritet od nekoga tko nikad nije pristao. Ponašanje to dvoje može izgledati identično; etika nikad nije. Pristanak je, kako tvrde i istraživači s Cambridgea i Elaine Kasket, nosivo načelo tog područja.

Je li pogrešno da ožalošćene obitelji koriste griefbotove za utjehu?

Ne tako jednostavno. Utjeha je stvarna, a opća osuda lako dolazi onima koji nisu oni koji žaluju. Etički prigovor je uži i oštriji: utjeha živih ne odgovara na pristanak osobe koja se rekreira, jer su to dvije različite osobe s dvije različite tvrdnje. Persona koju je osoba sama izgradila i zapečatila nudi utjehu bez oduzimanja ičijeg dostojanstva. Ona rekonstruirana od mrtve osobe koja nikad nije pristala nudi istu utjehu na tuđi račun, a ta osoba ne može prigovoriti jer je nema.

Može li se izgraditi AI nekoga tko je već umro?

Tehnički da, a nudi ih više od šest usluga (Nature, rujan 2025.). Etički, to je praksa protiv koje se ovaj esej zalaže, jer osoba koja je umrla ne može pristati ni na što od toga: ni na stvaranje, ni na glas, ni na daljnju uporabu, ni na kraj. Zato na Afterlife AI™ Persona može nastati samo od vas samih, dok ste živi. Pravu vrstu AI-ja vas možete napisati samo vi, što je i razlog da počnete sada, a ne da to prepustite ljudima koji će jednog dana poželjeti da su mogli pitati.

Tko mora pristati, samo osoba koja se rekreira?

Obje strane. Rekreirana osoba mora pristati, dok je živa, da je se tako pamti. No istraživači s Cambridgea naglašavaju drugi pristanak koji se lako zaboravi: osoba kojoj je Persona namijenjena mora biti slobodna prihvatiti je pod svojim uvjetima ili je odbiti. Tomasz Hollanek upozorava na „neželjena digitalna opsjedanja“, u kojima se Persona nameće ljudima koji je nikad nisu tražili. Ostavština predana nježno, u trenutku koji primatelj odabere, poštuje oba pristanka. Ona koja se automatski reproducira ili stiže nepozvana ne poštuje nijedan.

Po čemu se Afterlife AI™ razlikuje od griefbota?

Griefbot se obično gradi nakon smrti, izvana, iz podataka koje je osoba ostavila iz drugih razloga. Persona na Afterlife AI™ nastaje od vas, dok ste živi, iz sjećanja koja namjerno odaberete, uz vaš izričit pristanak na to kako se vaš glas i lik smiju koristiti kad vas više ne bude. Executor Lock™ zatim zapečaćuje tko ste u trenutku koji odaberete, pa vas nitko kasnije ne može prepisati. Persona preminulih ne gradi se izvana. Cjelovita usporedba nalazi se na našoj stranici o etičkoj alternativi griefbotovima, a planovi su na cjeniku.