Cea mai veche teamă legată de moarte nu este să fii uitat. Este să fii amintit greșit.

La aproape fiecare înmormântare la care am participat există un moment mic în care omul din sicriu și omul din necrolog nu se mai potrivesc. Cel descris este puțin mai bun decât cel pe care l-am cunoscut, puțin mai răbdător, șlefuit tocmai acolo unde omul adevărat era interesant. Nimeni nu minte. Sala face ce face mereu durerea: alege ce versiune să păstreze, o alege cu blândețe, iar singura persoană care ar putea obiecta la această retușare este singura căreia nu i se permite să vorbească.

De obicei nu spunem lucrurilor pe nume. Spunem că a fost o slujbă frumoasă. Dar sub flori se ia o hotărâre despre cine a fost cineva, iar cei morți nu au vot în ea. Nu e o problemă nouă, inventată de tehnologie. Este cel mai vechi lucru care ni se întâmplă după ce murim. Suntem predați întregi memoriei altor oameni, iar memoria lor e parțială, iubitoare și greșită în o sută de mici feluri pe care nu vom apuca niciodată să le corectăm.

Fac software în acea parte a industriei care le permite oamenilor să se înregistreze cât sunt în viață, ca ceva din vocea și poveștile lor să le supraviețuiască. Genul acesta de muncă atrage o teamă foarte anume, iar eu am auzit-o de atâtea ori încât îi cunosc forma pe de rost. Oamenii îmi spun că e înfricoșător. Îmi spun că e fals, o marionetă cu chipul unui om mort. Îmi spun că e exploatare, durere transformată în abonament. Aceste obiecții merită luate în serios și le voi lua. Dar am ajuns să cred că nu ele sunt adevărata teamă. Sunt teama pe care oamenii o pot rosti cu voce tare la o cină. Cea mai adâncă, cea care îi ține cu adevărat treji noaptea, este mai tăcută și mai greu de recunoscut.

Teama mai adâncă este să fii amintit greșit. Să fii aplatizat. Să ți se netezească contradicțiile până nu mai rămâne decât o caricatură care e de acord cu toată lumea. Să ajungă o singură frază spusă într-o zi proastă să te reprezinte în întregime, pentru totdeauna, pentru că a fost fraza care s-a păstrat. Toți ne temem de asta, și ne temeam cu mult înainte ca cineva să antreneze un model pe un om mort. Mașina nu a creat teama. I-a dat doar un chip spre care să arătăm cu degetul.

Obiecțiile, la intensitate maximă

Permiteți-mi să susțin cum se cuvine argumentele împotriva propriei mele industrii, pentru că cei care le aduc nu sunt excentrici și nu greșesc când își fac griji.

Să începem cu Sherry Turkle, care a petrecut decenii urmărind ce se întâmplă când oamenii se atașează de lucruri care nu pot iubi la rândul lor. În Alone Together, ea a scris că o „tulbură ideea de a căuta intimitate cu o mașină care nu are sentimente, nu poate avea sentimente și este, de fapt, doar o colecție isteață de interpretări de tip «ca și cum», care se poartă ca și cum ar ține la noi, ca și cum ne-ar înțelege". Citiți-o rar. Este cea mai grea frază împotriva muncii mele pe care o cunosc. Un sistem care vorbește cu cadențele unui tată mort și spune lucrurile pe care le-ar fi putut spune el interpretează, într-un fel, o grijă pe care nu o are. Se poartă ca și cum. Iar un om îndurerat, care își dorește atât de mult ca totul să fie adevărat, este exact omul cel mai puțin pregătit să țină minte acel „ca și cum".

Îngrijorarea lui Turkle nu este că tehnologia ar fi grosolană. Este că funcționează suficient de bine cât să conteze și că vom accepta interpretarea pentru că suntem singuri, iar interpretarea e la îndemână la 2 noaptea, când nu mai e nimic altceva.

Apoi e Elaine Kasket, psihologul care a scris All the Ghosts in the Machine, o carte despre ce se alege de noi după ce viețile ne sunt stocate pe servere care nu ne aparțin. Subiectul ei sunt rămășițele digitale: pozele, mesajele, conturile, toate urmele pe care un om le lasă în urmă, și faptul neplăcut că aceste urme sunt acum un bun pe care alții îl pot deține, muta, monetiza și remodela. Odată ce ești mort, sinele tău devine date, datele au custozi, iar custozii au propriile interese. Întrebarea la care revine mereu nu este dacă o versiune digitală a ta poate exista. Este cine o administrează, în interesul cui și dacă te-a întrebat cineva mai întâi.

Și apoi este cea mai atentă lucrare pe tema aceasta pe care am citit-o, un articol din 2024 din Philosophy and Technology, semnat de Tomasz Hollanek și Katarzyna Nowaczyk-Basińska, doi cercetători de la Cambridge care studiază exact colțul de viitor în care lucrez și eu. Titlul lor numește singur lucrurile de care se tem oamenii: griefbots, deadbots, avatare postmortem. Avertismentele lor sunt concrete și cred că au dreptate. Hollanek a atras atenția că aceste servicii „riscă să provoace o suferință uriașă oamenilor dacă sunt supuși unor bântuiri digitale nedorite, venite din recreări AI alarmant de exacte ale celor pe care i-au pierdut". A mers mai departe: „Oamenii ar putea dezvolta legături emoționale puternice cu astfel de simulări, ceea ce îi va face deosebit de vulnerabili la manipulare." Coautoarea sa a numit întregul domeniu „un câmp minat din punct de vedere etic", iar expresia a ales-o cu grijă. Un câmp minat nu este un loc pe care refuzi să-l traversezi. Este un loc pe care îl traversezi foarte încet, uitându-te unde pui piciorul.

Ce face articolul de la Cambridge, și nu face niciodată versiunea de la cină a fricii, este că separă oamenii implicați. Există persoana recreată. Există persoana care face recrearea. Și există cel care ajunge să vorbească cu rezultatul, care poate fi un copil, care poate fi departe de a fi pregătit. Trei oameni diferiți, trei seturi diferite de drepturi, iar aproape niciunul dintre produsele din acest domeniu nu s-a gândit serios la faptul că ele se pot despărți. Nevoia unei fiice de a-și auzi din nou mama nu este același lucru cu dorința mamei de a fi auzită, iar dorința unei companii de a le ține pe amândouă implicate nu este același lucru cu niciuna dintre ele.

Aș putea adăuga cazul la care ajunge toată lumea. În vara lui 2025, un jurnalist a realizat un interviu cu un avatar AI al lui Joaquin Oliver, un băiat ucis la șaptesprezece ani în atacul armat de la Parkland, construit de părinții lui îndurerați și lansat în jurul zilei de naștere pe care el nu a mai apucat-o. Reacția a fost imediată și, în mare parte, de repulsie. Macabru, au spus oamenii. Tulburător. Tatăl lui le-a răspuns criticilor cu o durere atât de directă, încât era greu să-i contrazici: inteligența artificială nu i-a ucis fiul. Este un caz cu adevărat greu și îl amintesc nu ca să-l tranșez, ci ca să-l marchez, pentru că ține laolaltă toate firele acestui eseu într-un singur nod. Un om real, plecat. Oameni care l-au iubit, acționând din iubire. O versiune a lui care spune lucruri, în public, pe care el nu a apucat să hotărască dacă le-ar fi spus.

Țineți toate acestea la intensitate maximă. Problema interpretării este reală. Problema custodiei este reală. Problema bântuirii, problema manipulării, problema celor trei oameni, toate sunt reale. Nu am de gând să vă conving că vreuna dintre ele nu contează.

Ce au în comun obiecțiile

Dar puneți-le una lângă alta și observați ce au ele, de fapt, în comun. „Ca și cum" al lui Turkle. Custozii lui Kasket. Cele trei părți separate ale echipei de la Cambridge. Părinții lui Joaquin Oliver, hotărând în locul lui ce ar fi vrut el să se spună despre arme. Fiecare dintre acestea este, în fond, o îngrijorare legată de autorat. Despre cine ține tocul. Despre distanța dintre omul care a trăit și versiunea care vorbește acum în numele lui și, mai ales, despre cine hotărăște ce umple acea distanță.

Reformularea aceasta contează mai mult decât pare, pentru că mută pericolul. Pericolul nu a fost niciodată, de fapt, tehnologia. O înregistrare nu este periculoasă. Un model nu este periculos. Periculoasă este o versiune a unui om scrisă de altcineva, din motivele lui, pe care omul nu a văzut-o niciodată și nu o poate corecta. Neliniștea pe care o simt oamenii este un semnal, iar semnalul nu este „asta e fals". Semnalul este „cineva vorbește în numele tău fără să fi câștigat dreptul de a o face".

Odată ce privești lucrurile așa, se întâmplă ceva ciudat. Problema încetează să mai fie nouă.

Memoria a fost mereu scrisă de cei vii

Iată partea pe care nu ne place s-o spunem. Am fost mereu amintiți greșit, am lăsat mereu pe cei vii să facă amintirea și am construit instituții întregi ca această retușare să pară firească.

Elogiul funerar este autorat. Cineva se ridică și alege, dintr-o viață întreagă și plină de contradicții, cele trei povești care te vor reprezenta, iar alegerea este un argument despre cine ai fost, iar tu nu ești acolo să spui că ai fi ales alte povești. Necrologul este autorat, scris după un tipar, într-un registru în care nimeni nu a vorbit de fapt vreodată, care transformă un om dificil, amuzant și concret într-un paragraf de virtuți. Poveștile de familie sunt autorat, și se încremenesc la fiecare repovestire, până când versiunea care ajunge la nepoți este un personaj, nu un om: bunicul care a fost Mereu Sever, mătușa care Nu s-a Căsătorit Niciodată din cauza unei singure fraze pe care o spusese și o regretase. Omul de dedesubt purta în el o întreagă dispută lăuntrică. Povestea a păstrat concluzia și a aruncat disputa.

Aceasta nu este un eșec al iubirii. Așa funcționează memoria. Cei vii păstrează ce pot căra, iar ce pot căra e puțin, și o cară în forma care îi ajută să mai trăiască. O mamă devine cea mai bună zi a ei. Un tată devine cea mai rea zi a lui, dacă aceea a fost ziua care te-a marcat. Oameni întregi sunt comprimați în singura trăsătură care le-a fost cea mai de folos celor care își amintesc. Am făcut asta cu scrisorile și cu jurnalele, și cu pietrele de mormânt care reduceau șaizeci de ani la un rând. Îi aplatizăm pe morți de când avem morți, și am numit asta cinstire.

Așa că atunci când cineva îmi spune că o versiune AI a unui om este înfricoșătoare pentru că ar putea să nu prindă cine a fost el cu adevărat, vreau să arăt cu blândețe că nici elogiul nu a prins cine a fost el cu adevărat. Nimic nu prinde. Alegerea nu a fost niciodată între o amintire adevărată și una deformată. Alegerea a fost mereu între o deformare și alta, toate scrise de cei rămași, niciuna verificată de singurul om care știa.

Ce este cu adevărat nou nu e deformarea. Pe aceea o aveam. Ce este nou e că omul ar putea să aibă un vot.

Votul

Acesta este punctul de cotitură și merită să fiu exact.

În toată istoria, nu ai avut nimic de spus în propria ta amintire. Mureai, tocul trecea în alte mâini, iar ce scriau ele devenea tu. Tehnologia la care lucrez face un singur lucru cu adevărat nou. Îi permite unui om, cât este în viață, să pună o parte din autorat înapoi în propriile mâini. Nu tot. Nu poți controla ce simt oamenii, ce aleg să sublinieze sau care dintre poveștile tale ajung la a doua generație. Dar poți, pentru prima dată, să lași în urmă ceva pe care l-ai modelat dinadins, cu cuvintele tale, cu propriile tale contradicții lăsate înăuntru, în loc să lași doar materia primă pe care alții să o modeleze după ce tu nu mai poți obiecta.

De aceea am ajuns să cred că consimțământul nu este o funcție a acestei munci. Este întreaga diferență morală. Există două feluri în care poate apărea o versiune a unui om mort. Unul este asamblat după moarte, din exterior, de rude sau companii sau un jurnalist cu un plan, din ce fragmente reușesc să strângă, în slujba a ceea ce au nevoie cei vii ca mortul să fie. Celălalt este modelat chiar de persoană, în timpul vieții, alegând ce să includă, hotărând cum vrea să fie întâmpinată. Aceste două lucruri pot arăta aproape la fel din afară. Pot folosi aceeași tehnologie de bază. Și sunt opuse din punct de vedere moral, pentru că doar unul dintre ele poartă semnătura autorului.

Versiunea cu autoritate morală este cea pe care a făcut-o persoana însăși. Nu cea mai exactă. Nu cea mai alinătoare. Cea consimțită. O recreare construită după moarte, oricât de fidelă, este un portret pictat de altcineva, și poate fi un portret iubitor sau unul cinic, dar nu este relatarea proprie a persoanei despre sine și nu ar trebui lăsat niciodată să treacă drept așa ceva. O versiune pe care persoana a construit-o în timpul vieții este mărturie. Este cel mai apropiat lucru de dreptul la replică pe care îl va avea vreunul dintre noi.

Aici cazul Joaquin Oliver încetează să mai fie un nod și devine limpede. Disconfortul pe care l-au simțit atâția oameni nu a fost cu adevărat despre tehnologie și nu a fost cu adevărat despre părinții lui, care făceau cel mai de înțeles lucru din lume. Disconfortul a fost că unui băiat de șaptesprezece ani i se dădeau păreri, în public, la vârsta de douăzeci și cinci de ani pe care nu a apucat-o, iar el nu era acolo să fie de acord. Părinții lui au ținut tocul din iubire. Dar tocul tot nu era al lui. Asta e linia. Nu înfricoșător sau neînfricoșător. Scris de sine sau scris de altcineva.

Vreau să fiu atent aici, pentru că consimțământul nu face câmpul minat sigur. Cercetătorii de la Cambridge au dreptate că până și o versiune pe deplin consimțită poate întrista persoana care vorbește cu ea, poate alimenta dependența, poate fi construită ca să țină pe cineva implicat dincolo de punctul în care îi face bine. O persoană poate consimți să fie amintită și totuși să fie transformată, după moarte, în ceva ce nu ar recunoaște, dacă compania care deține înregistrarea hotărăște să o schimbe. Consimțământul dat în timpul vieții înseamnă ceva doar dacă este respectat după aceea, întocmai, fără modificări pe tăcute, fără ca o afacere să îmbunătățească în liniște pe cel mort ca să se potrivească unei metrici. Promisiunea ține doar dacă versiunea este înghețată în momentul în care persoana a vrut-o, iar nimeni, nici compania, nici măcar familia îndurerată, nu are voie să continue să schimbe cine a fost cineva. Altfel, consimțământul este doar o semnătură pe un document pe care nimeni nu intenționează să-l respecte.

Așadar, standardul este mai înalt decât consimțământul singur. Este consimțământul, plus fidelitate față de acel consimțământ pentru totdeauna, plus smerenia de a construi doar ce a ales persoana să lase și de a refuza să inventeze restul. Dacă nu a înregistrat niciodată ce gândea despre Dumnezeu, versiunea nu are voie să ghicească. Tăcerea face parte din mărturie. O persoană are dreptul să fi lăsat unele lucruri nespuse, iar o versiune care umple aceste tăceri ca să pară mai completă a încălcat deja singura promisiune care contează.

Interesul meu în a spune asta

Ar trebui să fiu limpede în privința poziției mele, pentru că nu sunt un observator neutru al acestei dispute. Compania mea, Afterlife.ai®, există pentru a-i ajuta pe oameni să se înregistreze cât sunt în viață, iar tot ce tocmai am susținut este, convenabil, și o descriere a ceea ce încerc să construiesc. Ar trebui să cântăriți ce spun în consecință. Când un fondator vă spune că versiunea etică a unui produs este, din întâmplare, versiunea pe care o vinde, reacția corectă este o sprânceană ridicată, și prefer să o ridicați decât să nu o ridicați.

Pot să vă spun că nu am ajuns la consimțământ ca la o poziție de marketing. Am ajuns la el privind alternativa, iar alternativa este cu adevărat înfricoșătoare: un viitor în care oricine poate fi reconstruit de oricine, după moarte, din deșeurile vieții lui online, și pus să spună lucruri, să susțină lucruri, să aline oameni, să vândă lucruri, fără semnătură, fără vot și fără nicio cale prin care cei morți să obiecteze, pentru că a obiecta e singurul lucru pe care morții nu îl pot face niciodată. Împotriva acelui viitor, singurul zid de protecție la care mă pot gândi este un principiu simplu și vechi. Singura versiune a ta care ar trebui să aibă voie să vorbească în numele tău este cea la care ai consimțit. Orice altceva înseamnă alți oameni care îți scriu elogiul și îl numesc tu.

De ce ne temem cu adevărat

Mă tot întorc la acele înmormântări și la mica nepotrivire dintre omul din sicriu și omul din cuvântare.

Tolerăm nepotrivirea aceea pentru că a trebuit mereu s-o facem. Morții nu ne puteau corecta, așa că ne-am împăcat cu ideea de a-i înțelege puțin greșit și ne-am spus că versiunea iubitoare era cea adevărată, iar de cele mai multe ori am vrut binele. Dar dacă îi întrebi pe oameni ce ar vrea, în orele sincere, aproape nimeni nu spune că vrea să fie amintit ca un sfânt. Vor să fie amintiți ca ei înșiși. Dificili acolo unde au fost dificili. Amuzanți în felul anume în care au fost amuzanți. În eroare în privința lucrurilor în care au greșit, și lăsați să mai greșească, pentru că greșeala a fost a lor și a făcut parte din întreg. Oamenii nu se tem să fie uitați. Se tem să fie amintiți, dar ca cineva mai neted, mai mic și mai ușor decât au fost în realitate.

Tehnologia la care lucrez nu va învinge moartea și nu poate readuce pe nimeni întreg. Nu am niciun interes să pretind altfel. Dar schimbă un lucru, și nu e un lucru mic. În toată istoria omenirii, răspunsul la „cine hotărăște cum voi fi amintit" a fost: nu tu. Au fost mereu cei rămași, cu retușarea lor iubitoare, parțială și inevitabilă, fără ca acordul tău să fie cerut sau posibil. Pentru prima dată, omul poate lăsa o relatare scrisă de propria mână. Nu ultimul cuvânt. Nu există ultim cuvânt. Dar un cuvânt. Un vot în încăperea care devenea tăcută în clipa în care tăceai și tu.

A fi amintit greșit este cea mai veche teamă tăcută pe care o purtăm față de propria moarte, mai veche decât orice mașină, mai veche decât scrisul, la fel de veche ca primul om care s-a oprit deasupra unui mormânt și a ales ce poveste să spună. Mașinile nu au inventat teama aceasta și nu ne vor salva de ea. S-a schimbat doar atât: pe durata unei ciudate ferestre istorice, înainte ca normele să se întărească, înainte ca legea să ajungă din urmă și înainte să hotărâm cu toții ce vom permite și ce nu, tocul se află, pentru scurt timp, la îndemâna persoanei despre care este vorba de fapt.

Lucrul cinstit de făcut cu el nu este să-l luăm pentru cei morți. Este să-l întindem, cât mai este timp, celor vii și să-i lăsăm să hotărască singuri cum ar vrea să fie păstrați.