De oudste angst over sterven is niet dat we vergeten worden. Het is dat we verkeerd worden herinnerd.

Bij bijna elke uitvaart waar ik ben geweest, is er een klein moment waarop de persoon in de kist en de persoon in de toespraak stilletjes niet meer samenvallen. Degene die wordt beschreven is net wat vriendelijker dan degene die ik kende, net wat geduldiger, de randjes afgeschuurd waar de echte mens juist interessant was. Niemand liegt. De zaal doet wat verdriet altijd doet. Ze kiest welke versie ze bewaart, ze kiest dat zachtjes, en de enige die misschien bezwaar zou maken tegen de bewerking is de enige die niet mag spreken.

Meestal noemen we dit niet bij de naam. We noemen het een mooie plechtigheid. Maar onder de bloemen wordt een beslissing genomen over wie iemand was, en de doden hebben daarin geen stem. Dat is geen nieuw probleem dat door technologie is bedacht. Het is het oudste dat ons overkomt nadat we zijn gestorven. We worden in zijn geheel overgedragen aan de herinnering van anderen, en hun herinnering is onvolledig, liefdevol en op honderd kleine punten onjuist, zonder dat we het ooit kunnen rechtzetten.

Ik bouw software in het deel van de sector waarmee mensen zichzelf tijdens hun leven kunnen vastleggen, zodat er iets van hun stem en hun verhalen hen overleeft. Dat soort werk roept een heel specifieke angst op, en ik heb die angst inmiddels zo vaak gehoord dat ik de vorm ervan uit mijn hoofd ken. Mensen zeggen me dat het luguber is. Ze zeggen dat het nep is, een marionet met het gezicht van een overledene. Ze zeggen dat het uitbuiting is, verdriet omgezet in een abonnement. Die bezwaren zijn het waard om serieus te nemen, en dat ga ik doen. Maar ik ben gaan denken dat dit niet de echte angst is. Het is de angst die mensen op een verjaardagsfeestje hardop kunnen uitspreken. De diepere angst, die mensen echt wakker houdt, is stiller en moeilijker toe te geven.

De diepere angst is verkeerd herinnerd worden. Platgeslagen worden. Dat je tegenstrijdigheden worden gladgestreken tot er niets overblijft dan een karikatuur die het met iedereen eens is. Dat één zin die je op één slechte dag zei voor altijd voor jou als geheel moet doorgaan, omdat het toevallig de zin was die bewaard bleef. Daar zijn we allemaal bang voor, en we waren er al bang voor lang voordat iemand een model trainde op een overledene. De machine heeft die angst niet gemaakt. Ze heeft er alleen een gezicht aan gegeven om naar te wijzen.

De bezwaren, op volle sterkte

Laat me de zaak tegen mijn eigen sector goed uiteenzetten, want de mensen die haar maken zijn geen dwarsliggers en ze hebben alle reden tot zorg.

Begin bij Sherry Turkle, die al tientallen jaren onderzoekt wat er gebeurt als mensen zich hechten aan dingen die niet van hen kunnen houden. In Alone Together schreef ze dat ze "verontrust was door het idee om intimiteit te zoeken bij een machine die geen gevoelens heeft, geen gevoelens kan hebben en in wezen slechts een slimme verzameling 'alsof'-optredens is, die zich gedraagt alsof ze erom geeft, alsof ze ons begrijpt." Lees dat langzaam. Het is de hardste zin tegen mijn eigen werk die ik ken. Een systeem dat spreekt met de tongval van een overleden vader en zegt wat hij misschien gezegd zou hebben, voert op een bepaald niveau een zorg op die het niet heeft. Het gedraagt zich alsof. En iemand in rouw, die zo graag wil dat het echt is, is precies degene die het slechtst in staat is dat "alsof" voor ogen te houden.

Turkles zorg is niet dat de technologie ruw is. Het is dat ze goed genoeg werkt om ertoe te doen, en dat we het optreden zullen aanvaarden omdat we eenzaam zijn en het optreden om 2 uur 's nachts beschikbaar is, wanneer niets anders dat is.

Dan is er Elaine Kasket, de psychologe die All the Ghosts in the Machine schreef, een boek over wat er van ons wordt zodra ons leven is opgeslagen op servers die we niet bezitten. Haar onderwerp is digitale nalatenschap: de foto's, de berichten, de accounts, al het restant dat een mens achterlaat, en het ongemakkelijke feit dat dit restant nu een bezit is dat anderen kunnen vasthouden, verplaatsen, te gelde maken en hervormen. Zodra je dood bent, is je zelf data, en data heeft beheerders, en die beheerders hebben hun eigen belangen. De vraag waar ze steeds op terugkomt is niet of een digitale versie van jou kan bestaan. Het is wie die mag laten draaien, in wiens belang, en of iemand het jou eerst heeft gevraagd.

En dan is er het zorgvuldigste werk dat ik hierover heb gelezen, een artikel uit 2024 in Philosophy and Technology van Tomasz Hollanek en Katarzyna Nowaczyk-Basińska, twee onderzoekers aan Cambridge die precies het hoekje van de toekomst bestuderen waarin ik werk. Alleen al hun titel noemt wat mensen vrezen: griefbots, deadbots, postmortale avatars. Hun waarschuwingen zijn concreet, en ik denk dat ze gelijk hebben. Hollanek waarschuwde dat deze diensten "het risico lopen enorme ontreddering te veroorzaken bij mensen die te maken krijgen met ongewenste digitale spookverschijningen van alarmerend nauwkeurige AI-nabootsingen van degenen die ze hebben verloren." Hij ging verder: "Mensen kunnen een sterke emotionele band met zulke simulaties ontwikkelen, waardoor ze bijzonder kwetsbaar worden voor manipulatie." Zijn medeauteur noemde het hele terrein "een ethisch mijnenveld", en ze koos die woorden met zorg. Een mijnenveld is geen plek die je weigert over te steken. Het is een plek die je heel langzaam oversteekt, terwijl je let op waar je je voeten zet.

Wat het artikel uit Cambridge doet en wat de verjaardagsfeestjesversie van de angst nooit doet, is de betrokkenen uit elkaar halen. Er is de persoon die wordt nagebootst. Er is de persoon die nabootst. En er is wie er uiteindelijk met het resultaat praat, en dat kan een kind zijn, dat er misschien helemaal niet aan toe is. Drie verschillende mensen, drie verschillende sets rechten, en bijna geen enkel product op dit terrein heeft goed nagedacht over het feit dat die uit elkaar kunnen lopen. De behoefte van een dochter om haar moeder weer te horen is niet hetzelfde als de wens van haar moeder om gehoord te worden, en de wens van een bedrijf om hen allebei betrokken te houden is geen van beide.

Ik zou ook het geval kunnen noemen waar iedereen naar grijpt. In de zomer van 2025 hield een journalist een interview met een AI-avatar van Joaquin Oliver, een jongen die op zijn zeventiende werd gedood bij de schietpartij in Parkland, gemaakt door zijn rouwende ouders en gepresenteerd rond de verjaardag die hij nooit kreeg. De reactie was onmiddellijk en voornamelijk walging. Gruwelijk, zeiden mensen. Verontrustend. Zijn vader antwoordde de critici met een verdriet zo rechtstreeks dat het moeilijk te weerleggen was: kunstmatige intelligentie heeft zijn zoon niet gedood. Het is werkelijk een moeilijk geval, en ik breng het niet ter sprake om het op te lossen maar om het te markeren, want het bevat alle draden van dit essay in één knoop. Een echt mens, weg. Mensen die van hem hielden en uit liefde handelden. Een versie van hem die in het openbaar dingen zegt die hij nooit heeft kunnen besluiten te zeggen.

Houd dat alles op volle sterkte vast. Het optredenprobleem is echt. Het beheerprobleem is echt. Het spookprobleem, het manipulatieprobleem, het driepersonenprobleem, ze zijn allemaal echt. Ik ga je geen enkele ervan uit je hoofd praten.

Wat de bezwaren gemeen hebben

Maar leg ze naast elkaar en let op wat ze eigenlijk delen. Turkles "alsof". Kaskets beheerders. De drie uit elkaar getrokken betrokkenen van het team uit Cambridge. De ouders van Joaquin Oliver die namens hem beslissen wat hij over wapens gezegd zou willen hebben. Elk daarvan is in de kern een zorg over auteurschap. Over wie de pen vasthoudt. Over de kloof tussen de persoon die leefde en de versie die nu in zijn naam spreekt, en vooral over wie mag bepalen wat die kloof opvult.

Die herformulering is belangrijker dan ze lijkt, want ze verplaatst het gevaar. Het gevaar was nooit echt de technologie. Een opname is niet gevaarlijk. Een model is niet gevaarlijk. Gevaarlijk is een versie van een persoon die iemand anders om eigen redenen heeft geschreven, die de persoon nooit heeft gezien en niet kan corrigeren. Het griezelige gevoel dat mensen hebben is een signaal, en het signaal is niet "dit is nep". Het signaal is "iemand spreekt voor jou die daar het recht niet voor heeft verdiend."

Als je het zo bekijkt, gebeurt er iets vreemds. Het probleem is niet langer nieuw.

Herinnering werd altijd door de levenden geschreven

Dit is het deel dat we niet graag zeggen. We zijn altijd verkeerd herinnerd, we hebben het herinneren altijd aan de levenden overgelaten, en we hebben hele instituties gebouwd om het bewerken natuurlijk te laten voelen.

De lofrede is auteurschap. Iemand staat op en kiest uit een heel tegenstrijdig leven de drie verhalen die jou moeten vertegenwoordigen, en die keuze is een betoog over wie je was, en jij bent er niet om te zeggen dat je andere verhalen zou hebben gekozen. Het overlijdensbericht is auteurschap, geschreven volgens een sjabloon, in een register waarin niemand ooit echt sprak, dat een lastig, grappig, specifiek mens tot een alinea deugden maakt. Familieverhalen zijn auteurschap, en ze worden met elke herhaling harder, tot de versie die aan de kleinkinderen wordt doorgegeven een personage is en geen mens: de grootvader die Altijd Streng was, de tante die Nooit Trouwde vanwege één zin die ze ooit zei en betreurde. De persoon eronder voerde een hele innerlijke discussie. Het verhaal hield de conclusie en gooide de discussie weg.

Dit is geen falen van liefde. Het is de werking van het geheugen. De levenden bewaren wat ze kunnen dragen, en wat ze kunnen dragen is weinig, en ze dragen het in de vorm die hen helpt door te leven. Een moeder wordt haar beste dag. Een vader wordt zijn slechtste, als zijn slechtste de dag was die jou tekende. Hele mensen worden samengeperst tot de ene eigenschap die het nuttigst was voor wie zich herinnerde. Dat deden we met brieven en dagboeken, en met grafstenen die zestig jaar terugbrachten tot één regel. We platten de doden al zo lang af als er doden zijn, en we noemden het eerbetoon.

Dus wanneer iemand me zegt dat een AI-versie van een persoon beangstigend is omdat ze misschien niet vastlegt wie die persoon echt was, wil ik er zachtjes op wijzen dat de lofrede dat ook niet deed. Niets doet dat. De keuze was nooit tussen een ware herinnering en een vertekende. De keuze was altijd tussen de ene vertekening en de andere, allemaal geschreven door de achterblijvers, geen enkele getoetst aan de enige die het wist.

Nieuw is niet de vertekening. Die hadden we al. Nieuw is dat de persoon een stem kan krijgen.

De stem

Dit is het scharnierpunt, en het loont om precies te zijn.

De hele geschiedenis lang had je geen zeggenschap over hoe je herinnerd werd. Je stierf, de pen ging naar andere handen, en wat zij schreven werd jij. De technologie waaraan ik werk doet precies één ding dat echt nieuw is. Ze laat iemand, tijdens zijn leven, een deel van het auteurschap terugleggen in zijn eigen handen. Niet alles. Je kunt niet bepalen wat mensen voelen, wat ze benadrukken of welke van je verhalen de tweede generatie overleven. Maar je kunt voor het eerst iets nalaten dat je bewust hebt vormgegeven, in je eigen woorden, met je eigen tegenstrijdigheden erin, in plaats van alleen het ruwe materiaal na te laten dat anderen vormen als jij niet meer kunt protesteren.

Daarom ben ik gaan geloven dat toestemming geen onderdeel van dit werk is. Het is het volledige morele verschil. Er zijn twee manieren waarop een versie van een overledene kan ontstaan. De ene wordt na de dood van buitenaf samengesteld, door familie of bedrijven of een journalist met een agenda, uit welke fragmenten ze ook kunnen verzamelen, ten dienste van wat de levenden nodig hebben dat de doden zijn. De andere wordt door de persoon zelf gevormd, tijdens zijn leven, door te kiezen wat erin komt en te bepalen hoe hij ontmoet wil worden. Die twee kunnen van buitenaf bijna identiek lijken. Ze kunnen dezelfde onderliggende technologie gebruiken. En ze zijn moreel elkaars tegenpool, omdat maar één van beide de handtekening van de auteur draagt.

De versie met morele gelding is de versie die de persoon zelf maakte. Niet de meest nauwkeurige. Niet de meest troostende. De versie waarvoor toestemming is gegeven. Een nabootsing die na de dood is gebouwd, hoe levensecht ook, is een portret geschilderd door iemand anders, en het kan een liefdevol portret zijn of een cynisch, maar het is niet het eigen verslag van de persoon over zichzelf en het mag nooit voor zo'n verslag doorgaan. Een versie die de persoon tijdens zijn leven bouwde is een getuigenis. Het is het dichtst dat wie van ons ook ooit bij het terugpraten zal komen.

Hier houdt de zaak van Joaquin Oliver op een knoop te zijn en wordt ze verhelderend. Het onbehagen dat zo velen voelden ging niet echt over de technologie en niet echt over zijn ouders, die het meest begrijpelijke deden wat er is. Het onbehagen was dat een zeventienjarige jongen in het openbaar meningen kreeg toegedicht, op een leeftijd van vijfentwintig die hij nooit bereikte, en dat hij er niet was om het ermee eens te zijn. Zijn ouders hielden de pen uit liefde. Maar de pen was nog steeds niet de zijne. Dat is de grens. Niet luguber of niet luguber. Geschreven door het zelf, of geschreven door iemand anders.

Ik wil hier voorzichtig zijn, want toestemming maakt het mijnenveld niet veilig. De onderzoekers uit Cambridge hebben gelijk dat zelfs een volledig toegestane versie de persoon die ermee praat kan ontredderen, afhankelijkheid kan kweken, en zo kan worden gebouwd dat iemand betrokken blijft voorbij het punt dat goed voor hem is. Iemand kan toestemming geven om herinnerd te worden en na zijn dood toch veranderd worden in iets wat hij niet zou herkennen, als het bedrijf dat de opname bewaart besluit haar aan te passen. Toestemming die tijdens het leven is gegeven betekent alleen iets als ze achteraf wordt nagekomen, precies, zonder stille bewerkingen, zonder dat een bedrijf de doden stilletjes verbetert om een meetwaarde te halen. De belofte houdt alleen stand als de versie wordt bevroren op het moment dat de persoon het meende, en niemand, niet het bedrijf, zelfs de rouwende familie niet, mag blijven bewerken wie iemand was. Anders is toestemming slechts een handtekening onder een document dat niemand van plan is na te leven.

Dus de lat ligt hoger dan toestemming alleen. Het is toestemming, plus voor altijd trouw aan die toestemming, plus de bescheidenheid om alleen te bouwen wat de persoon koos na te laten en te weigeren de rest te verzinnen. Als iemand nooit heeft opgenomen wat hij over God dacht, mag de versie niet gaan raden. Stilte is een deel van het getuigenis. Een mens mag dingen onuitgesproken hebben gelaten, en een versie die die stiltes opvult om completer te lijken heeft de enige belofte die telt al gebroken.

Het belang dat ik hierbij heb

Ik moet duidelijk zijn over waar ik sta, want ik ben geen neutrale waarnemer in dit debat. Mijn bedrijf, Afterlife.ai®, bestaat om mensen te helpen zichzelf vast te leggen terwijl ze leven, en alles wat ik zojuist betoogde is gemakshalve ook een beschrijving van wat ik probeer te bouwen. Weeg wat ik zeg dus dienovereenkomstig. Als een oprichter je vertelt dat de ethische versie van een product toevallig de versie is die hij verkoopt, is de juiste reactie een opgetrokken wenkbrauw, en ik zie liever dat je die optrekt dan niet.

Wat ik je kan vertellen is dat ik niet uit marketingoverwegingen tot toestemming kwam. Ik kwam erbij door het alternatief te zien, en dat alternatief is werkelijk beangstigend: een toekomst waarin iedereen door iedereen kan worden gereconstrueerd, na de dood, uit de uitlaatgassen van zijn online leven, en dingen kan laten zeggen, goedkeuren, mensen kan laten troosten, dingen kan laten verkopen, zonder handtekening en zonder stem en zonder dat de doden bezwaar kunnen maken, want bezwaar maken is het ene wat de doden nooit kunnen. Tegen die toekomst is de enige brandmuur die ik kan bedenken een eenvoudig, ouderwets beginsel. De enige versie van jou die in jouw naam mag spreken is die waarmee je hebt ingestemd. Al het andere is dat anderen jouw lofrede schrijven en het jou noemen.

Waar we echt bang voor zijn

Ik kom steeds terug op die uitvaarten, en op het kleine verschil tussen de persoon in de kist en de persoon in de toespraak.

We verdragen dat verschil omdat we dat altijd hebben moeten doen. De doden konden ons niet corrigeren, dus we sloten vrede met het feit dat we ze een beetje verkeerd weergaven, en we vertelden onszelf dat de liefdevolle versie de ware was, en meestal bedoelden we het goed. Maar als je mensen vraagt wat ze zouden willen, in de eerlijke uren, zegt bijna niemand dat hij als heilige herinnerd wil worden. Ze willen herinnerd worden als zichzelf. Lastig waar ze lastig waren. Grappig op de specifieke manier waarop zij grappig waren. Fout over de dingen waar ze fout over zaten, en mogen blijven dwalen, omdat die fout van hen was en bij het geheel hoorde. Wat mensen vrezen is niet vergeten worden. Het is herinnerd worden, maar herinnerd als iemand die gladder en kleiner en makkelijker was dan ze in werkelijkheid waren.

De technologie waaraan ik werk lost de dood niet op en kan niemand weer heel maken. Ik heb er geen belang bij anders te doen alsof. Maar ze verandert wel één ding, en dat is niet klein. De hele menselijke geschiedenis lang was het antwoord op "wie bepaalt hoe ik word herinnerd": niet jij. Het waren altijd de achterblijvers, die hun liefdevolle, onvolledige, onvermijdelijke bewerking deden, zonder dat jouw toestemming werd gevraagd of mogelijk was. Voor het eerst kan de persoon een verslag in eigen hand nalaten. Niet het laatste woord. Er is geen laatste woord. Maar een woord. Een stem in de kamer die altijd verstomde op het moment dat jij verstomde.

Verkeerd herinnerd worden is de oudste stille angst die we over onze eigen dood met ons meedragen, ouder dan welke machine ook, ouder dan het geschreven woord, zo oud als de eerste mens die bij een graf stond en koos welk verhaal hij zou vertellen. De machines hebben die angst niet uitgevonden en ze zullen ons er niet van redden. Wat er is veranderd is alleen dit: voor de duur van één vreemd historisch venster, voordat de normen verstenen en de wet bijbeent en wij allemaal besluiten wat we wel en niet zullen toestaan, is de pen even binnen bereik van degene over wie het werkelijk gaat.

Het eerlijke om ermee te doen is niet om hem voor de doden te grijpen. Het is om hem, zolang het nog kan, aan de levenden te geven, en hen zelf te laten bepalen hoe ze bewaard willen worden.