A haláltól való félelem legrégebbi formája nem az, hogy elfelednek. Hanem az, hogy rosszul emlékeznek rád.

Szinte minden temetésen, amelyen részt vettem, van egy apró pillanat, amikor a koporsóban fekvő ember és a búcsúbeszédben megidézett ember csendben elválik egymástól. Akiről beszélnek, az egy kicsit kedvesebb, mint akit én ismertem, egy kicsit türelmesebb, és éppen azokon a szélein van lecsiszolva, ahol az igazi ember érdekes volt. Senki nem hazudik. A terem azt teszi, amit a gyász mindig: kiválasztja, melyik változatot őrizze meg, és gyengéden választ, az az egyetlen ember pedig, aki tiltakozhatna a szerkesztés ellen, az egyetlen, akinek nem szabad megszólalnia.

Ezt általában nem nevezzük nevén. Szép szertartásnak mondjuk. De a virágok alatt döntés születik arról, ki volt valaki, és a halottnak nincs szavazata. Ez nem a technológia által kitalált új probléma. Ez a legrégebbi dolog, ami velünk történik a halálunk után. Egészben átadnak minket más emberek emlékezetének, az pedig részleges, szerető, és száz apró ponton téves, amit soha nem javíthatunk ki.

Olyan szoftvereket építek, amelyek lehetővé teszik, hogy az emberek életükben rögzítsék magukat, hogy a hangjukból és a történeteikből valami túlélje őket. Ez a munka egészen különleges félelmet vonz, és már elég sokszor hallottam, hogy kívülről ismerem az alakját. Azt mondják, hátborzongató. Azt mondják, hamis, bábu, amely egy halott ember arcát viseli. Azt mondják, kizsákmányoló, a gyászból előfizetést csinál. Ezeket az ellenvetéseket érdemes komolyan venni, és komolyan is fogom venni őket. De úgy gondolom, nem ezek az igazi félelem. Ezek azok a félelmek, amelyeket egy vacsorán hangosan ki lehet mondani. A mélyebb, amely valójában ébren tartja az embereket, csendesebb, és nehezebb bevallani.

A mélyebb félelem az, hogy rosszul emlékeznek rád. Hogy laposra gyúrnak. Hogy az ellentmondásaidat addig simítják el, amíg csak egy karikatúra marad, amely mindenkivel egyetért. Hogy egyetlen rossz napon kimondott egyetlen mondatod örökre az egész személyedet helyettesíti, mert éppen az maradt fenn. Mindannyian félünk ettől, és féltünk már jóval azelőtt, hogy bárki halott emberek adataival betanított volna egy modellt. A gép nem hozta létre a félelmet. Csak arcot adott neki, amelyre rámutathatunk.

Az ellenvetések teljes súlyukban

Hadd érveljek rendesen a saját iparágam ellen, mert akik ezt teszik, nem különcök, és nem alaptalanul aggódnak.

Kezdjük Sherry Turkle-lel, aki évtizedekig figyelte, mi történik, amikor az emberek kötődni kezdenek olyasmihez, ami nem tud viszontszeretni. Az Alone Together című könyvében azt írta, hogy "nyugtalanítja az a gondolat, hogy valaki bensőséges viszonyt keres egy olyan géppel, amelynek nincsenek érzései, nem is lehetnek, és amely valójában csupán 'mintha'-előadások ügyes gyűjteménye: úgy viselkedik, mintha törődne velünk, mintha megértene minket." Olvasd lassan. Ez a legkeményebb mondat, amelyet a saját munkám ellen ismerek. Az a rendszer, amely egy elhunyt apa hanglejtésével beszél, és azokat mondja, amiket ő mondhatott volna, valamilyen szinten olyan törődést játszik el, amilyen nincs benne. Úgy viselkedik, mintha. A gyászoló ember pedig, aki annyira szeretné, hogy valódi legyen, éppen az, aki a legkevésbé képes észben tartani ezt a "mintha"-t.

Turkle aggodalma nem az, hogy a technológia kezdetleges. Hanem az, hogy éppen elég jól működik ahhoz, hogy számítson, és hogy elfogadjuk az előadást, mert magányosak vagyunk, az előadás pedig hajnali 2-kor is elérhető, amikor semmi más nem az.

Aztán ott van Elaine Kasket, a pszichológus, aki az All the Ghosts in the Machine című könyvet írta arról, mi lesz velünk, ha az életünket olyan szervereken tárolják, amelyek nem a mieink. A témája a digitális hagyaték: a fotók, az üzenetek, a fiókok, mindaz a nyom, amit az ember maga után hagy, és az kellemetlen tény, hogy ez a nyom ma már olyan érték, amelyet mások birtokolhatnak, áthelyezhetnek, pénzzé tehetnek és átformálhatnak. Ha meghalsz, az éned adat, az adatnak pedig gazdái vannak, és a gazdáknak megvannak a maguk érdekeik. A kérdés, amelyhez újra meg újra visszatér, nem az, hogy létezhet-e belőled digitális változat. Hanem az, hogy ki működteti, kinek az érdekében, és megkérdezte-e ezt valaki előbb tőled.

Végül ott a legalaposabb munka, amelyet erről olvastam: egy 2024-es tanulmány a Philosophy and Technology folyóiratban, Tomasz Hollanek és Katarzyna Nowaczyk-Basińska tollából, két cambridge-i kutatóéból, akik pontosan a jövőnek azt a szegletét vizsgálják, amelyben én is dolgozom. Már a címük megnevezi, mitől félnek az emberek: griefbotok, deadbotok, halál utáni avatárok. A figyelmeztetéseik konkrétak, és szerintem igazuk van. Hollanek úgy fogalmazott, hogy ezek a szolgáltatások "azzal a kockázattal járnak, hogy hatalmas szenvedést okoznak azoknak, akiket váratlan digitális kísértések érnek az elvesztett szeretteik riasztóan pontos mesterséges intelligenciás másaitól." Továbbment: "Az emberek erős érzelmi kötődést alakíthatnak ki az ilyen szimulációkhoz, ami különösen kiszolgáltatottá teszi őket a manipulációnak." A szerzőtársa az egész területet "etikai aknamezőnek" nevezte, és gondosan választotta ezt a kifejezést. Az aknamező nem olyan hely, amelyen nem szabad átmenni. Olyan hely, amelyen nagyon lassan megyünk át, és vigyázunk, hová lépünk.

A cambridge-i tanulmány azt teszi, amit a vacsoraasztali változat soha: szétválasztja az érintetteket. Van az, akit újraalkotnak. Van az, aki újraalkotja. És van, aki a végeredménnyel beszélgetni fog, aki lehet gyerek is, aki egyáltalán nem biztos, hogy kész erre. Három különböző ember, három különböző joggal, és ezen a területen szinte egyetlen termék sem gondolta végig komolyan, hogy ezek elválhatnak egymástól. Egy lánynak az a szükséglete, hogy újra halljon anyját, nem ugyanaz, mint anyjának az a kívánsága, hogy meghallgassák, és egy cég azon szándéka, hogy mindkettőjüket lekösse, egyikükével sem azonos.

Felhozhatnám azt az esetet is, amelyhez mindenki nyúl. 2025 nyarán egy újságíró interjút készített Joaquin Oliver mesterséges intelligenciás avatárjával. Joaquint tizenhét évesen ölték meg a parklandi lövöldözésben, az avatárt a gyászoló szülei készítették, és a soha el nem ért születésnapja környékén tették közzé. A reakció azonnali volt, és többnyire undor. Hátborzongató, mondták az emberek. Zavaró. Az apja a bírálóknak olyan közvetlen fájdalommal válaszolt, hogy nehéz volt vitatkozni vele: nem a mesterséges intelligencia ölte meg a fiát. Ez valóban nehéz eset, és nem azért hozom szóba, hogy eldöntsem, hanem hogy megjelöljem, mert ebben az egy csomóban benne van az esszé minden szála. Egy valódi ember, aki elment. Emberek, akik szerették, és a szeretetből cselekedtek. És egy változata, amely nyilvánosan olyan dolgokat mond, amelyekről ő sosem dönthette el, hogy kimondja-e.

Tartsd mindezt teljes súlyában. A játszott törődés problémája valódi. A felügyelet problémája valódi. A kísértés problémája, a manipuláció problémája, a három ember problémája, mind valódi. Egyiktől sem fogom eltéríteni senkit.

Mi a közös az ellenvetésekben

De tedd őket egymás mellé, és figyeld meg, mi bennük a közös. Turkle "mintha"-ja. Kasket gazdái. A cambridge-i csapat három szétváló érintettje. Joaquin Oliver szülei, akik az ő nevében döntenek arról, mit akarna mondani a fegyverekről. Ezek mindegyike végső soron aggodalom a szerzőség miatt. Arról, hogy ki fogja a tollat. Arról a hézagról, amely az élt ember és az ő nevében most megszólaló változat között van, és mindenekelőtt arról, hogy ki dönt abban, mi töltse ki ezt a hézagot.

Ez az újrakeretezés többet számít, mint amilyennek látszik, mert áthelyezi a veszélyt. A veszély sosem a technológia volt. Egy felvétel nem veszélyes. Egy modell nem veszélyes. Az veszélyes, ha valakinek egy olyan változatát, amelyet valaki más írt a maga céljaira, az illető sosem látta, és nem tudja kijavítani. A hátborzongatás, amit az emberek éreznek, jelzés, de a jelzés nem az, hogy "ez hamis". A jelzés az, hogy "valaki a nevedben beszél, akinek ehhez nincs joga".

Ha így nézzük, különös dolog történik. A probléma megszűnik újnak lenni.

Az emlékezetet mindig az élők írták

Most jön az, amit nem szívesen mondunk ki. Mindig rosszul emlékeztek ránk, mindig az élőkre bíztuk az emlékezést, és egész intézményeket építettünk azért, hogy a szerkesztés természetesnek tűnjön.

A búcsúbeszéd szerzőség. Valaki feláll, és egy ellentmondásokkal teli életből kiválaszt három történetet, amelyek téged képviselnek, a válogatás pedig érvelés arról, ki voltál, és te nem vagy ott, hogy elmondd, te másokat választottál volna. A gyászjelentés szerzőség, sablon szerint írva, olyan nyelven, amelyen soha senki nem beszélt, és amely egy nehéz, mulatságos, egyedi emberből az erények egyetlen bekezdését csinálja. A családi történetek szerzőség, és minden újramesélésnél megkeményednek, míg az unokáknak továbbadott változat már szereplő, nem ember: a nagyapa, aki Mindig Szigorú volt, a nagynéni, aki Sosem Ment Férjhez egyetlen mondat miatt, amelyet egyszer kimondott és megbánt. A felszín alatt lévő embernek egész belső vitája volt. A történet a következtetést megtartotta, a vitát eldobta.

Ez nem a szeretet kudarca. Ez az emlékezet mechanikája. Az élők azt tartják meg, amit el tudnak vinni, az pedig kevés, és olyan formában viszik, amely segít nekik élni tovább. Az anya a legjobb napjává válik. Az apa a legrosszabb napjává, ha a legrosszabb napja az volt, amelyik nyomot hagyott benned. Egész embereket sűrítenek abba az egyetlen vonásba, amely az emlékezőknek a legtöbbet segített. Ezt tettük levelekkel és naplókkal, és fejfákkal, amelyek hatvan évet egyetlen sorra redukáltak. Amióta halottaink vannak, azóta lapítjuk laposra őket, és tiszteletnek neveztük.

Ezért ha valaki azt mondja nekem, hogy egy ember mesterséges intelligenciás változata azért ijesztő, mert talán nem ragadja meg, ki volt valójában, szelíden rámutatnék, hogy a búcsúbeszéd sem ragadta meg, ki volt valójában. Semmi nem ragadja meg. A választás sosem a hű és a torzított emlékezet között volt. Mindig az egyik torzítás és a másik között, mindet a hátramaradottak írták, és egyiket sem vetették össze az egyetlen emberrel, aki tudta.

Ami valóban új, az nem a torzítás. Az már megvolt. Az új az, hogy az embernek szavazata lehet.

A szavazat

Ez a sarokpont, és érdemes pontosan fogalmazni.

A történelem során egyszer sem volt beleszólásod a saját emlékezetedbe. Meghaltál, a toll más kezébe került, és bármit írtak is, az lettél te. Az a technológia, amelyen dolgozom, pontosan egyetlen valóban új dolgot tesz. Lehetővé teszi, hogy az ember életében a szerzőség egy részét visszavegye a saját kezébe. Nem az egészét. Nem irányíthatod, mit éreznek az emberek, mit hangsúlyoznak, vagy hogy a történeteid közül melyik éli túl a második nemzedéket. De hagyhatsz magad után valamit, amit szándékosan, a saját szavaiddal formáltál, az ellentmondásaiddal együtt, ahelyett hogy csak nyersanyagot hagynál másoknak, hogy formálják, miután már nem tiltakozhatsz.

Ezért jutottam arra, hogy a beleegyezés nem funkciója ennek a munkának. Az egész erkölcsi különbség. Kétféleképpen jöhet létre egy elhunyt ember valamilyen változata. Az egyik a halál után áll össze, kívülről, rokonok, cégek vagy egy szándékkal író újságíró által, abból a töredékből, amit össze tudnak gyűjteni, annak szolgálatában, amivé az élőknek a halottat kell tenniük. A másikat maga az ember formálja, életében, kiválasztva, mi kerüljön bele, eldöntve, hogyan akar találkozni másokkal. Kívülről ez a kettő majdnem egyformának látszhat. Ugyanazt a technológiát használhatják. És erkölcsileg szemben állnak egymással, mert csak az egyiken van a szerző aláírása.

Erkölcsi tekintélye annak a változatnak van, amelyet az ember maga készített. Nem a legpontosabbnak. Nem a legvigasztalóbbnak. Annak, amelybe beleegyezett. A halál után készült újraalkotás, bármilyen életszerű is, valaki más festette portré, lehet szerető vagy cinikus, de nem az ember saját beszámolója önmagáról, és soha nem szabadna megengedni, hogy annak adják ki magát. Az a változat, amelyet az ember életében épített, vallomás. A legközelebbi dolog, amit bárki is kaphat arra, hogy visszaszóljon.

Itt a Joaquin Oliver-eset megszűnik csomó lenni, és világossá válik. A kellemetlen érzés, amelyet oly sokan éreztek, nem igazán a technológiáról szólt, és nem is a szüleiről, akik a világ legmegértőbb dolgát tették. A kellemetlen az volt, hogy egy tizenhét éves fiúnak nyilvánosan véleményt adtak egy huszonöt évesen, amelyet sosem ért el, ő pedig nem volt ott, hogy egyetértsen. A szülei szeretetből tartották a tollat. De a toll mégsem az övé volt. Ez a határ. Nem az, hogy hátborzongató-e vagy sem. Hanem az, hogy az én írta-e, vagy valaki más.

Óvatos akarok lenni, mert a beleegyezés nem teszi biztonságossá az aknamezőt. A cambridge-i kutatóknak igazuk van, hogy még a teljesen beleegyezéssel készült változat is szenvedést okozhat annak, aki beszélget vele, függőséget alakíthat ki, és úgy is megépíthető, hogy tovább lekösse az embert annál, ami jó neki. Valaki beleegyezhet, hogy emlékezzenek rá, és a halála után mégis olyasmivé válhat, amit nem ismerne fel, ha a felvételt tartó cég úgy dönt, megváltoztatja. Az életben megadott beleegyezés csak akkor ér valamit, ha utána betartják, pontosan, csendes szerkesztések nélkül, és anélkül, hogy egy vállalkozás egy mutatószám kedvéért csendben "javítgatja" a halottat. Az ígéret csak akkor állja meg a helyét, ha a változat abban a pillanatban fagy meg, amikor az ember úgy gondolta, és senki, sem a cég, sem a gyászoló család nem szerkesztheti tovább, ki volt valaki. Máskülönben a beleegyezés csak egy aláírás egy olyan dokumentumon, amelyet senki nem akar betartani.

A mérce tehát magasabb, mint a puszta beleegyezés. Beleegyezés, plusz örökre hűség ehhez a beleegyezéshez, plusz az alázat, hogy csak azt építsük meg, amit az ember hagyni akart, és megtagadjuk a többi kitalálását. Ha sosem rögzítette, mit gondol Istenről, a változat nem találgathat. A hallgatás is a vallomás része. Az embernek jogában áll, hogy bizonyos dolgokat kimondatlanul hagyjon, és az a változat, amely kitölti ezeket a csendeket, hogy teljesebbnek tűnjön, már megszegte az egyetlen ígéretet, amely számít.

Mi az érdekem ebben

Egyenesen el kell mondanom, hol állok, mert nem vagyok semleges megfigyelője ennek a vitának. A cégem, az Afterlife.ai®, azért létezik, hogy segítsen az embereknek életükben rögzíteni önmagukat, és mindaz, amit most érveltem, kényelmes módon annak leírása is, amit építeni próbálok. Ennek megfelelően mérlegeld a szavaimat. Ha egy alapító azt mondja, hogy egy termék etikus változata éppen az, amelyet ő árul, a helyes válasz egy felvont szemöldök, és inkább szeretném, ha felvonnád, mint ha nem.

Azt mondhatom, hogy a beleegyezéshez nem marketingállásként jutottam el. Úgy jutottam el hozzá, hogy a másik lehetőséget néztem, az pedig valóban ijesztő: olyan jövő, amelyben bárkit újraalkothat bárki a halála után az online élete hulladékából, és ráadja, hogy mondjon dolgokat, támogasson dolgokat, vigasztaljon embereket, eladjon dolgokat, aláírás nélkül, szavazat nélkül, és anélkül, hogy a halottnak lehetősége volna tiltakozni, mert a tiltakozás az egyetlen dolog, amit a halott soha nem tehet meg. Ezzel a jövővel szemben az egyetlen védőfal, amelyet ismerek, egy egyszerű, régimódi elv. Az egyetlen változata, amelynek szabad megszólalnia a nevedben, az, amelyikbe beleegyeztél. Minden más az, hogy mások írják a búcsúbeszédedet, és azt mondják rá, hogy te vagy.

Mitől félünk valójában

Újra és újra visszatérek azokhoz a temetésekhez, és ahhoz az apró eltéréshez a koporsóban fekvő ember és a beszédben szereplő ember között.

Eltűrjük ezt az eltérést, mert mindig is kénytelenek voltunk. A halott nem javíthatott ki minket, ezért megbékéltünk azzal, hogy egy kicsit rosszul mondjuk el őt, és azt mondtuk magunknak, hogy a szerető változat az igaz, és többnyire jót akartunk. De ha megkérdezed az embereket, mit akarnának az őszinte órákban, szinte senki nem mondja, hogy szentként szeretne megmaradni. Önmagukként szeretnének megmaradni. Nehezen kezelhetően ott, ahol nehezek voltak. Mulatságosan úgy, ahogy ők voltak mulatságosak. Tévedve azokban a dolgokban, amelyekben tévedtek, és továbbra is megengedve nekik a tévedést, mert a tévedés az övék volt, és része volt az egésznek. Az emberek nem attól félnek, hogy elfelejtik őket. Attól félnek, hogy emlékeznek rájuk, de simábbra, kisebbre és könnyebbre, mint amilyenek valójában voltak.

A technológia, amelyen dolgozom, nem fogja megoldani a halált, és senkit nem tud újra egésszé tenni. Nem érdekel, hogy másképp állítsam be. De egy dolgot megváltoztat, és az nem kis dolog. Az emberiség egész története során a "ki dönti el, hogyan emlékeznek rám" kérdésre a válasz az volt: nem te. Mindig a hátramaradottak voltak, akik szerető, részleges, elkerülhetetlen szerkesztésüket végezték, a te beleegyezésedet sem kérve, sem kérhetve. Az ember először hagyhat maga után egy beszámolót a saját kezéből. Nem az utolsó szót. Nincs utolsó szó. De egy szót. Egy szavazatot abban a teremben, amely korábban abban a pillanatban elnémult, amikor te is.

A rosszul emlékezés a halálunkkal kapcsolatos legrégebbi csendes félelem, régebbi minden gépnél, régebbi az írásnál, olyan régi, mint az első ember, aki egy sír fölött állt, és kiválasztotta, melyik történetet mondja el. A gépek nem találták fel ezt a félelmet, és nem fognak megmenteni tőle. Csak annyi változott, hogy egy különös történelmi ablak idejére, mielőtt a normák megszilárdulnak, a törvény utolér, és mindannyian eldöntjük, mit engedünk meg és mit nem, a toll egy rövid időre elérhető közelségben van annak, akiről valójában szól.

A becsületes dolog vele nem az, hogy a halottaknak ragadjuk meg. Hanem hogy amíg van idő, az élőknek adjuk át, és hagyjuk, hogy maguk döntsék el, hogyan szeretnének megmaradni.