Najstariji strah od umiranja nije da ćemo biti zaboravljeni. Nego da ćemo biti pogrešno zapamćeni.

Na gotovo svakom pogrebu na kojem sam bio dogodi se jedan mali trenutak u kojem se osoba u lijesu i osoba iz posmrtnog govora tiho ne poklope. Ona koju opisuju malo je ljubaznija od one koju sam poznavao, malo strpljivija, zaglađena na rubovima, upravo ondje gdje je stvarna osoba bila zanimljiva. Nitko ne laže. Prostorija radi ono što žalost uvijek radi. Bira koju će verziju zadržati, bira nježno, a jedina osoba koja bi se mogla usprotiviti tom uređivanju jedina je kojoj nije dopušteno govoriti.

Obično to ne nazivamo pravim imenom. Kažemo da je to bila lijepa ceremonija. No ispod cvijeća donosi se odluka o tome tko je netko bio, a mrtvi o njoj nemaju glasa. To nije novi problem koji je izmislila tehnologija. To je najstarija stvar koja nam se događa nakon smrti. Predani smo, cijeli, sjećanju drugih ljudi, a njihovo je sjećanje djelomično, puno ljubavi i pogrešno na stotinu sitnih načina koje nikada nećemo moći ispraviti.

Izrađujem softver u dijelu industrije koji ljudima omogućuje da se snime dok su živi, kako bi nešto od njihova glasa i njihovih priča preživjelo njih same. Takav posao izaziva vrlo određen strah, a taj sam strah čuo dovoljno puta da mu znam oblik napamet. Ljudi mi kažu da je jezivo. Kažu da je lažno, lutka koja nosi lice mrtve osobe. Kažu da je iskorištavanje, tuga pretvorena u pretplatu. Ti su prigovori vrijedni ozbiljnog razmatranja i razmotrit ću ih. No došao sam do zaključka da oni nisu pravi strah. To je strah koji se može izgovoriti naglas na večeri s prijateljima. Dublji, onaj koji ljude doista drži budnima, tiši je i teže ga je priznati.

Dublji je strah da ćemo biti pogrešno zapamćeni. Izravnani. Da će nam se proturječnosti zagladiti dok ne ostane samo karikatura koja se slaže sa svima. Da će jedna rečenica izgovorena jednog lošeg dana zauvijek zastupati cijelog nas, samo zato što je baš ona bila sačuvana. Svi se toga bojimo, i bojali smo se toga davno prije nego što je itko model istrenirao na mrtvoj osobi. Stroj nije stvorio strah. Samo mu je dao lice na koje se može uperiti prst.

Prigovori u punoj snazi

Dopustite mi da pošteno iznesem argumente protiv vlastite industrije, jer ljudi koji ih iznose nisu čudaci i nije pogrešno što se brinu.

Počnimo sa Sherry Turkle, koja desetljećima promatra što se događa kad ljudi razviju privrženost prema stvarima koje ih ne mogu voljeti zauzvrat. U knjizi Alone Together napisala je da je „zabrinuta zbog ideje traženja intimnosti sa strojem koji nema osjećaje, ne može imati osjećaje i zapravo je samo pametna zbirka izvedbi ‚kao da‘, koji se ponaša kao da mari, kao da nas razumije.“ Pročitajte to polako. To je najteža rečenica protiv mog vlastitog posla koju poznajem. Sustav koji govori kadencom mrtvog oca i kaže stvari koje bi on mogao reći, na nekoj razini izvodi brigu koju nema. Ponaša se kao da. A osoba u žalosti, koja toliko želi da to bude stvarno, upravo je ona koja je najslabije opremljena da to „kao da“ drži na umu.

Turkleina briga nije da je tehnologija gruba. Nego da dovoljno dobro radi da bi bila važna i da ćemo prihvatiti tu izvedbu jer smo usamljeni, a izvedba je dostupna u 2 sata ujutro kad ništa drugo nije.

Zatim je tu Elaine Kasket, psihologinja koja je napisala All the Ghosts in the Machine, knjigu o tome što biva s nama kad su naši životi pohranjeni na poslužiteljima koji nisu naši. Njezina je tema digitalna ostavština: fotografije, poruke, računi, sav taj ostatak koji osoba ostavlja za sobom, i neugodna činjenica da je taj ostatak sada imovina koju drugi ljudi mogu držati, premještati, unovčavati i preoblikovati. Kad umrete, vaše je ja podatak, podaci imaju čuvare, a čuvari imaju vlastite interese. Pitanje kojem se stalno vraća nije može li digitalna verzija vas postojati. Nego tko njome upravlja, u čijem interesu i je li vas itko prije toga pitao.

A onda je tu najpažljiviji rad o ovoj temi koji sam pročitao, članak iz 2024. u časopisu Philosophy and Technology autora Tomasza Hollaneka i Katarzyne Nowaczyk-Basińske, dvoje istraživača s Cambridgea koji proučavaju upravo onaj kutak budućnosti u kojem ja radim. Već njihov naslov imenuje ono čega se ljudi boje: griefbotovi, deadbotovi, posmrtni avatari. Njihova su upozorenja konkretna i mislim da su u pravu. Hollanek je upozorio da te usluge „riskiraju izazvati golemu patnju ljudima ako su izloženi neželjenim digitalnim ukazanjima zastrašujuće točnih AI rekreacija onih koje su izgubili.“ Otišao je i dalje: „Ljudi bi mogli razviti snažne emocionalne veze s takvim simulacijama, zbog čega će biti posebno ranjivi na manipulaciju.“ Njegova je koautorica cijelo to područje nazvala „etičkim minskim poljem“, i tu je frazu pažljivo odabrala. Minsko polje nije mjesto koje odbijate prijeći. To je mjesto koje prelazite vrlo sporo, pazeći kamo stavljate stopala.

Ono što cambridgeski članak radi, a večernja verzija straha nikada, jest da razdvaja uključene ljude. Tu je osoba koja se rekreira. Tu je osoba koja rekreira. I tu je onaj tko na kraju razgovara s rezultatom, a to može biti dijete, koje možda nije ni blizu spremno. Tri različite osobe, tri različita skupa prava, a gotovo nijedan proizvod na ovom području nije ozbiljno razmislio o tome da se ti interesi mogu razilaziti. Kćerina potreba da ponovno čuje majku nije isto što i majčina želja da bude čuta, a želja tvrtke da zadrži njihovu pozornost nije isto što i bilo koja od te dvije.

Mogao bih dodati slučaj kojem svi posežu. U ljeto 2025. novinar je vodio razgovor s AI avatarom Joaquina Olivera, dječaka ubijenog sa sedamnaest godina u pucnjavi u Parklandu, kojeg su izradili njegovi roditelji u žalosti i objavili oko rođendana koji nikada nije dočekao. Reakcija je bila trenutačna i uglavnom puna gađenja. Jezivo, rekli su ljudi. Uznemirujuće. Njegov je otac kritičarima odgovorio tugom toliko izravnom da joj je bilo teško proturječiti: umjetna inteligencija nije ubila njegova sina. To je doista težak slučaj i spominjem ga ne da bih ga razriješio, nego da bih ga označio, jer u jednom čvoru drži sve niti ovog eseja. Stvarna osoba, otišla. Ljudi koji su je voljeli i djeluju iz ljubavi. Njegova verzija koja javno govori stvari za koje nikada nije mogao odlučiti da će ih reći.

Zadržite sve to u punoj snazi. Problem izvedbe je stvaran. Problem skrbništva je stvaran. Problem ukazanja, problem manipulacije, problem triju osoba, sve je stvarno. Neću vas razuvjeravati ni u jednom od njih.

Što prigovori imaju zajedničko

No stavite ih jedan uz drugi i primijetite što zapravo dijele. Turkleino „kao da“. Kasketini čuvari. Tri razdvojena dionika cambridgeskog tima. Roditelji Joaquina Olivera koji u njegovo ime odlučuju što bi želio da se kaže o oružju. Svaki od njih u osnovi je briga o autorstvu. O tome tko drži pero. O jazu između osobe koja je živjela i verzije koja sada govori u njezino ime, i, što je presudno, o tome tko odlučuje čime se taj jaz ispunjava.

To preoblikovanje važnije je nego što se čini, jer pomiče opasnost. Opasnost zapravo nikada nije bila tehnologija. Snimka nije opasna. Model nije opasan. Opasna je verzija osobe koju je netko drugi napisao, iz vlastitih razloga, a koju osoba nikada nije vidjela i ne može ispraviti. Jeza koju ljudi osjećaju znak je, a taj znak nije „ovo je lažno“. Znak je „netko govori umjesto vas, a nije stekao pravo na to“.

Kad tako gledate na to, događa se nešto neobično. Problem prestaje biti nov.

Sjećanje su oduvijek pisali živi

Evo dijela koji ne volimo reći. Oduvijek smo bili pogrešno zapamćeni, oduvijek smo prepuštali živima da pamte, a izgradili smo cijele institucije kako bi nam to uređivanje djelovalo prirodno.

Posmrtni govor je autorstvo. Netko ustane i iz čitavog proturječnog života odabere tri priče koje će vas predstavljati, a taj je odabir tvrdnja o tome tko ste bili, i vas nema da kažete da biste odabrali druge priče. Osmrtnica je autorstvo, pisana po predlošku, u registru kojim nitko zapravo nije govorio, koja tešku, duhovitu, posebnu osobu pretvara u odlomak vrlina. Obiteljske priče su autorstvo i s svakim se prepričavanjem stvrdnjavaju, dok verzija koja stigne do unuka ne postane lik, a ne osoba: djed koji je Uvijek Strog, teta koja se Nikada Nije Udala zbog jedne rečenice koju je jednom izgovorila i požalila. Osoba ispod toga vodila je cijelu unutarnju raspravu. Priča je zadržala zaključak, a raspravu odbacila.

To nije neuspjeh ljubavi. To je mehanika sjećanja. Živi zadržavaju ono što mogu ponijeti, a ono što mogu ponijeti malo je, i nose to u obliku koji im pomaže da nastave živjeti. Majka postaje svoj najbolji dan. Otac postaje svoj najgori, ako je njegov najgori onaj koji je obilježio vas. Čitave se osobe sažimaju u jednu jedinu osobinu koja je bila najkorisnija ljudima koji pamte. Činili smo to s pismima i dnevnicima, i s nadgrobnim spomenicima koji su šezdeset godina sveli na jedan redak. Izravnavamo mrtve otkad imamo mrtve, a to smo zvali iskazivanjem počasti.

Zato, kad mi netko kaže da je AI verzija osobe zastrašujuća jer možda neće obuhvatiti tko je ona zaista bila, želim ljubazno primijetiti da ni posmrtni govor nije obuhvatio tko je ona zaista bila. Ništa ne obuhvaća. Izbor nikada nije bio između istinitog i iskrivljenog sjećanja. Izbor je uvijek bio između jednog iskrivljenja i drugog, a sva su ih napisali oni koji su ostali, i nijedno nije provjereno kod jedine osobe koja je znala.

Nova nije iskrivljenost. Nju smo imali. Novo je to da osoba može dobiti glas.

Glas

Ovo je ključna točka i vrijedi biti precizan.

Kroz cijelu povijest niste imali nikakvu riječ u vlastitom pamćenju. Umrli biste, pero bi prešlo u druge ruke, a što god bi oni napisali postalo bi vi. Tehnologija na kojoj radim čini točno jednu stvar koja je doista nova. Omogućuje osobi da, dok je živa, vrati dio autorstva u vlastite ruke. Ne sve. Ne možete kontrolirati što ljudi osjećaju, što će odlučiti naglasiti niti koje će vaše priče preživjeti drugi naraštaj. No po prvi put možete ostaviti nešto što ste namjerno oblikovali, vlastitim riječima, s vlastitim proturječnostima koje su ostale unutra, umjesto da ostavite samo sirovi materijal koji će drugi oblikovati kad se više ne budete mogli usprotiviti.

Zato sam došao do uvjerenja da pristanak nije značajka ovog posla. On je cijela moralna razlika. Postoje dva načina na koja može nastati verzija mrtve osobe. Jedan je da je sastave nakon smrti, izvana, rođaci ili tvrtke ili novinar s vlastitim planom, od bilo kojih fragmenata koje mogu skupiti, u službi onoga što živima treba da mrtvi budu. Drugi je da je oblikuje sama osoba, dok je živa, birajući što će uključiti i odlučujući kako želi da je susretnu. Ove dvije stvari izvana mogu izgledati gotovo identično. Mogu se služiti istom tehnologijom. A moralno su suprotne, jer samo jedna od njih nosi potpis autora.

Verzija s moralnim legitimitetom jest ona koju je osoba sama napravila. Ne najtočnija. Ne najutješnija. Ona uz pristanak. Rekreacija izrađena nakon smrti, koliko god bila vjerodostojna, portret je koji je naslikao netko drugi, i može biti ljubazan portret ili cinični, ali nije osobin vlastiti prikaz sebe i nikada se ne bi smjela smjeti izdavati za takav. Verzija koju je osoba izgradila dok je bila živa jest svjedočanstvo. To je najbliže što će itko od nas ikada imati odgovoru.

Tu slučaj Joaquina Olivera prestaje biti čvor i postaje jasan. Nelagoda koju su mnogi osjetili zapravo nije bila zbog tehnologije, niti zbog njegovih roditelja, koji su činili najrazumljiviju stvar na svijetu. Nelagoda je bila u tome što su sedamnaestogodišnjem dječaku javno davani stavovi u dobi od dvadeset i pet godina koju nikada nije dosegnuo, a njega nije bilo da se složi. Roditelji su držali pero iz ljubavi. Ali pero i dalje nije bilo njegovo. To je granica. Ne jezivo ili nije jezivo. Napisano od sebe ili napisano od nekog drugog.

Želim biti oprezan, jer pristanak ne čini minsko polje sigurnim. Istraživači s Cambridgea u pravu su da čak i verzija s punim pristankom može uznemiriti osobu koja s njom razgovara, može poticati ovisnost, može biti izgrađena tako da nekoga drži zaokupljenim i onda kad mu to više ne koristi. Osoba može pristati da je se pamti, a ipak je nakon smrti moguće pretvoriti u nešto što ne bi prepoznala, ako tvrtka koja drži snimku odluči to promijeniti. Pristanak dan za života ima smisla samo ako se poštuje poslije, točno, bez tihih izmjena, bez poslovanja koje mrtve tiho „poboljšava“ da bi odgovarali nekoj metrici. Obećanje vrijedi samo ako je verzija zamrznuta u trenutku koji je osoba imala na umu i nitko, ni tvrtka, ni sama obitelj u žalosti, ne smije dalje uređivati tko je netko bio. Inače je pristanak samo potpis na dokumentu koji nitko ne namjerava čuvati.

Dakle, mjerilo je više od samog pristanka. To je pristanak, plus vjernost tom pristanku zauvijek, plus poniznost da se izgradi samo ono što je osoba odabrala ostaviti i da se odbije izmišljati ostatak. Ako nikada nije snimila što misli o Bogu, verzija ne smije nagađati. Šutnja je dio svjedočanstva. Osoba ima pravo ostaviti neke stvari neizrečenima, a verzija koja popunjava te šutnje kako bi djelovala potpunije već je prekršila jedino obećanje koje je važno.

Što ja imam u svemu tome

Moram biti otvoren o tome gdje stojim, jer nisam neutralan promatrač ove rasprave. Moja tvrtka, Afterlife.ai®, postoji da pomogne ljudima da se snime dok su živi, a sve što sam upravo iznio zgodno je ujedno opis onoga što pokušavam izgraditi. Prema tome biste trebali vagati ono što kažem. Kad vam osnivač kaže da je etična verzija proizvoda slučajno ona koju prodaje, ispravna je reakcija podignuta obrva, i radije bih da je podignete nego ne.

Mogu vam reći da do pristanka nisam došao kao do marketinškog stava. Došao sam do njega promatrajući alternativu, a alternativa je doista zastrašujuća: budućnost u kojoj svakoga može rekonstruirati bilo tko, nakon smrti, iz otpadnih tragova njegova života na mreži, i natjerati ga da govori stvari, podržava stvari, tješi ljude, prodaje stvari, bez potpisa, bez glasa i bez ikakvog načina da se mrtvi usprotive, jer protivljenje je jedino što mrtvi nikada ne mogu. Protiv takve budućnosti jedina zaštita koje se mogu sjetiti jednostavno je, staromodno načelo. Jedina verzija vas kojoj bi trebalo biti dopušteno da govori u vaše ime jest ona na koju ste pristali. Sve ostalo su drugi ljudi koji pišu vaš posmrtni govor i nazivaju ga vama.

Čega se zapravo bojimo

Stalno se vraćam tim pogrebima i malom nepoklapanju između osobe u lijesu i osobe u govoru.

Trpimo to nepoklapanje jer smo oduvijek morali. Mrtvi nas nisu mogli ispraviti, pa smo se pomirili s time da ih pogrešno pamtimo, uvjeravali se da je ona ljubazna verzija istinita, i uglavnom smo mislili dobro. Ali ako pitate ljude što bi željeli, u iskrenim satima, gotovo nitko ne kaže da želi da ga pamte kao sveca. Žele da ih pamte onakvima kakvi jesu. Teškima ondje gdje su bili teški. Duhovitima na onaj svoj poseban način. Pogrešnima u onome u čemu su griješili, uz dopuštenje da i dalje griješe, jer je ta pogreška bila njihova i dio cjeline. Ljudi se ne boje da će ih zaboraviti. Boje se da će ih pamtiti, ali kao nekoga glađeg, manjeg i lakšeg nego što su zaista bili.

Tehnologija na kojoj radim neće popraviti smrt i ne može nikoga ponovno učiniti cjelovitim. Ne želim se pretvarati da je drukčije. Ali mijenja jednu stvar, i to nije mala stvar. Kroz cijelu ljudsku povijest odgovor na pitanje „tko odlučuje kako ću biti zapamćen“ bio je: ne vi. Uvijek su to bili oni koji su ostali, sa svojim ljubavnim, djelomičnim, neizbježnim uređivanjem, a vaš pristanak nije bio ni traženo ni moguć. Po prvi put osoba može ostaviti prikaz vlastitom rukom. Ne posljednju riječ. Posljednje riječi nema. Ali riječ. Glas u prostoriji koja je prije utihnula čim biste utihnuli i vi.

Biti pogrešno zapamćen najstariji je tihi strah koji nosimo o vlastitoj smrti, stariji od svakog stroja, stariji od pisane riječi, star koliko i prva osoba koja je stajala nad grobom i birala koju će priču ispričati. Strojevi nisu izmislili taj strah i neće nas od njega spasiti. Promijenilo se samo ovo: tijekom jednog čudnog povijesnog prozora, prije nego što se norme stvrdnu, zakon sustigne i svi odlučimo što ćemo dopustiti, a što ne, pero je nakratko na dohvat ruke osobi o kojoj je zapravo riječ.

Pošteno je ne posegnuti za njim u ime mrtvih. Pošteno je predati ga, dok još ima vremena, živima i pustiti ih da sami odluče kako žele biti sačuvani.