Den ældste frygt ved at dø er ikke at blive glemt. Det er at blive husket forkert.

Til næsten alle begravelser, jeg har siddet til, er der et lille øjeblik, hvor personen i kisten og personen i mindeordene stille holder op med at ligne hinanden. Den, der beskrives, er lidt venligere end den, jeg kendte, lidt mere tålmodig, slebet af på de kanter, hvor det rigtige menneske var interessant. Ingen lyver. Rummet gør bare, hvad sorgen altid gør. Det vælger, hvilken version der skal bevares, og det vælger blidt, og den ene person, der måske ville protestere mod redigeringen, er den eneste, der ikke må tale.

Vi kalder det sjældent ved dets rette navn. Vi kalder det en smuk afskedshøjtidelighed. Men under blomsterne bliver der truffet en beslutning om, hvem et menneske var, og de døde har ingen stemme i den. Det er ikke et nyt problem, opfundet af teknologien. Det er det ældste, der sker for os, efter vi er døde. Vi bliver overladt, hele og holdent, til andre menneskers erindring, og deres erindring er ufuldstændig og kærlig og forkert på hundrede små måder, vi aldrig får lov at rette.

Jeg bygger software i den del af branchen, der lader mennesker optage sig selv, mens de lever, så noget af deres stemme og deres historier overlever dem. Den slags arbejde vækker en meget bestemt frygt, og jeg har hørt den så mange gange nu, at jeg kender dens form udenad. Folk fortæller mig, at det er uhyggeligt. De fortæller mig, at det er falsk, en dukke med en død persons ansigt. De fortæller mig, at det er udnyttende, sorg lavet om til et abonnement. De indvendinger er værd at tage alvorligt, og det vil jeg gøre. Men jeg er kommet til at tro, at de ikke er den egentlige frygt. De er den frygt, man kan sige højt til en middag. Den dybere, den der virkelig holder folk vågne, er stillere og sværere at indrømme.

Den dybere frygt er at blive husket forkert. At blive fladtrykt. At få sine modsigelser glattet væk, indtil der kun er en karikatur tilbage, som er enig med alle. At få én sætning, man sagde på én dårlig dag, til at stå for hele sig selv, for evigt, fordi det var den sætning, der blev gemt. Vi er alle bange for det, og vi var det længe før nogen trænede en model på en død person. Maskinen skabte ikke frygten. Den gav den bare et ansigt at pege på.

Indvendingerne i fuld styrke

Lad mig føre sagen imod min egen branche ordentligt, for dem, der fører den, er ikke særlinge, og de har ikke uret i at være bekymrede.

Begynd med Sherry Turkle, som i årtier har fulgt med i, hvad der sker, når mennesker knytter sig til ting, der ikke kan elske dem tilbage. I Alone Together skrev hun, at hun var „troubled by the idea of seeking intimacy with a machine that has no feelings, can have no feelings, and is really just a clever collection of 'as if' performances, behaving as if it cared, as if it understood us“ (i dansk gengivelse: bekymret over tanken om at søge intimitet hos en maskine, der ikke har følelser, ikke kan have følelser og i bund og grund blot er en snedig samling af „som om“-forestillinger, der opfører sig, som om den brød sig om os, som om den forstod os). Læs det langsomt. Det er den hårdeste sætning, jeg kender, imod mit eget arbejde. Et system, der taler med en død fars tonefald og siger de ting, han måske ville have sagt, opfører i et eller andet omfang en omsorg, det ikke har. Det opfører sig som om. Og et sørgende menneske, der så inderligt ønsker, at det er ægte, er netop den, der er dårligst rustet til at holde „som om“ fast i tankerne.

Turkles bekymring er ikke, at teknologien er grov. Det er, at den virker godt nok til at have betydning, og at vi vil tage imod forestillingen, fordi vi er ensomme, og forestillingen er tilgængelig klokken 2 om natten, når intet andet er.

Så er der Elaine Kasket, psykologen, der skrev All the Ghosts in the Machine, en bog om, hvad der bliver af os, når vores liv ligger gemt på servere, vi ikke ejer. Hendes emne er digitale efterladenskaber: fotos, beskeder, konti, alt det, et menneske efterlader, og den ubehagelige kendsgerning, at disse efterladenskaber nu er en værdi, andre kan have i hænde, flytte, tjene penge på og omforme. Når du er død, er dit selv data, og data har forvaltere, og forvalterne har deres egne interesser. Det spørgsmål, hun bliver ved med at vende tilbage til, er ikke, om en digital version af dig kan eksistere. Det er, hvem der får lov at drive den, og i hvis interesse, og om nogen spurgte dig først.

Og så er der det mest omhyggelige arbejde, jeg har læst om emnet, en artikel fra 2024 i Philosophy and Technology af Tomasz Hollanek og Katarzyna Nowaczyk-Basińska, to forskere ved Cambridge, der studerer netop det hjørne af fremtiden, som jeg arbejder i. Allerede deres titel nævner det, folk frygter: griefbots, deadbots, postmortem avatars. Deres advarsler er konkrete, og jeg tror, de har ret. Hollanek advarede om, at disse tjenester „run the risk of causing huge distress to people if they are subjected to unwanted digital hauntings from alarmingly accurate AI recreations of those they have lost“ (på dansk: risikerer at påføre mennesker stor lidelse, hvis de udsættes for uønsket digital hjemsøgelse fra foruroligende præcise AI-genskabelser af dem, de har mistet). Han gik videre: „People might develop strong emotional bonds with such simulations, which will make them particularly vulnerable to manipulation“ (på dansk: Folk kan udvikle stærke følelsesmæssige bånd til sådanne simulationer, hvilket gør dem særligt sårbare over for manipulation). Hans medforfatter kaldte hele området „an ethical minefield“ (en etisk minemark), og hun valgte udtrykket med omhu. En minemark er ikke et sted, man nægter at krydse. Det er et sted, man krydser meget langsomt og med øje for, hvor man sætter fødderne.

Det, Cambridge-artiklen gør, og som middagsbordsudgaven af frygten aldrig gør, er at skille de involverede ad. Der er den person, der genskabes. Der er den person, der genskaber. Og der er den, der ender med at tale med resultatet, som kan være et barn, som slet ikke er klar. Tre forskellige mennesker, tre forskellige sæt rettigheder, og næsten ingen af produkterne på dette område har tænkt grundigt over, at de kan trække i hver sin retning. En datters behov for at høre sin mor igen er ikke det samme som morens ønske om at blive hørt, og en virksomheds ønske om at holde dem begge engagerede er ikke det samme som nogen af delene.

Jeg kunne tilføje det eksempel, alle rækker ud efter. I sommeren 2025 lavede en journalist et interview med en AI-avatar af Joaquin Oliver, en dreng på sytten år, der blev dræbt ved skyderiet i Parkland, bygget af hans sørgende forældre og udgivet omkring den fødselsdag, han aldrig fik. Reaktionen kom med det samme og var for det meste væmmelse. Makabert, sagde folk. Foruroligende. Hans far svarede kritikerne med en sorg så direkte, at det var svært at argumentere imod: kunstig intelligens dræbte ikke hans søn. Det er en virkelig svær sag, og jeg tager den op, ikke for at afgøre den, men for at markere den, fordi den holder alle essayets tråde samlet i én knude. Et virkeligt menneske, væk. Mennesker, der elskede ham og handlede af kærlighed. En version af ham, der offentligt siger ting, som han aldrig fik lov at bestemme, at han ville sige.

Hold fast i alt dette i fuld styrke. Problemet med forestillingen er ægte. Problemet med forvaltningen er ægte. Problemet med hjemsøgelsen, problemet med manipulationen, problemet med de tre personer, alt sammen ægte. Jeg vil ikke tale dig fra nogen af dem.

Hvad indvendingerne har til fælles

Men stil dem side om side og læg mærke til, hvad de i virkeligheden deler. Turkles „som om“. Kaskets forvaltere. Cambridge-holdets tre adskilte interessenter. Joaquin Olivers forældre, der på hans vegne bestemmer, hvad han ville have sagt om våben. Hver eneste af dem er i bund og grund en bekymring om forfatterskab. Om, hvem der holder pennen. Om kløften mellem det menneske, der levede, og den version, der nu taler i vedkommendes navn, og, afgørende, om hvem der får lov at bestemme, hvad der fylder den kløft.

Den omformulering betyder mere, end den ser ud til, for den flytter faren. Faren var aldrig for alvor teknologien. En optagelse er ikke farlig. En model er ikke farlig. Det farlige er en version af et menneske, som en anden har forfattet, af egne grunde, og som mennesket aldrig har set og ikke kan rette. Det uhyggelige, folk mærker, er et signal, og signalet er ikke „det her er falsk“. Signalet er „nogen taler på dine vegne, som ikke har gjort sig fortjent til retten“.

Når man først ser det sådan, sker der noget mærkeligt. Problemet holder op med at være nyt.

Erindringen er altid blevet skrevet af de levende

Her er den del, vi ikke bryder os om at sige. Vi er altid blevet husket forkert, vi har altid ladet de levende stå for erindringen, og vi har bygget hele institutioner for at få redigeringen til at føles naturlig.

Mindetalen er forfatterskab. Én rejser sig og vælger, fra et helt modsigelsesfuldt liv, de tre historier, der skal repræsentere dig, og udvælgelsen er et argument om, hvem du var, og du er der ikke for at sige, at du ville have valgt nogle andre. Mindeordet i avisen er forfatterskab, skrevet efter en skabelon, i et sprog, ingen nogensinde har talt, og som gør et vanskeligt, morsomt, helt specifikt menneske til et afsnit om dyder. Familiehistorier er forfatterskab, og de stivner for hver gang, de fortælles, indtil den version, der gives videre til børnebørnene, er en figur og ikke et menneske: bedstefaren, der Altid var Streng, tanten, der Aldrig Blev Gift på grund af én sætning, hun engang sagde og fortrød. Mennesket nedenunder havde en hel indre diskussion i gang. Historien beholdt konklusionen og kastede diskussionen væk.

Det er ikke en kærlighedssvigt. Det er hukommelsens mekanik. De levende beholder det, de kan bære, og det, de kan bære, er lidt, og de bærer det i den form, der hjælper dem med at leve videre. En mor bliver til sin bedste dag. En far bliver til sin værste, hvis hans værste var den, der satte sig spor i dig. Hele mennesker presses sammen til det ene træk, der var mest nyttigt for dem, der huskede. Vi gjorde det med breve og dagbøger og med gravsten, der skar tres år ned til en enkelt linje. Vi har fladtrykt de døde, så længe vi har haft døde, og vi kaldte det at ære dem.

Så når nogen siger til mig, at en AI-version af et menneske er skræmmende, fordi den måske ikke fanger, hvem vedkommende egentlig var, vil jeg blidt gøre opmærksom på, at mindetalen heller ikke fangede, hvem vedkommende egentlig var. Det gør intet. Valget stod aldrig mellem en sand erindring og en forvrænget. Valget har altid stået mellem én forvrængning og en anden, alle forfattet af dem, der blev tilbage, og ingen af dem kontrolleret mod den eneste, der kendte svaret.

Det, der er virkelig nyt, er ikke forvrængningen. Den havde vi. Det nye er, at mennesket kan få en stemme.

Stemmen

Det er omdrejningspunktet, og det er værd at være præcis her.

Gennem hele historien havde du ingen indflydelse på din egen erindring. Du døde, og pennen gik over i andre hænder, og det, de skrev, blev dig. Den teknologi, jeg arbejder med, gør præcis én ting, der virkelig er ny. Den lader et menneske, mens det lever, lægge noget af forfatterskabet tilbage i sine egne hænder. Ikke det hele. Du kan ikke styre, hvad folk føler, eller hvad de vælger at fremhæve, eller hvilke af dine historier der overlever anden generation. Men du kan for første gang efterlade noget, du selv har formet med vilje, med dine egne ord og med dine egne modsigelser i behold, i stedet for kun at efterlade råmaterialet, så andre kan forme det, efter du ikke længere kan protestere.

Derfor er jeg kommet til at tro, at samtykke ikke er en funktion i dette arbejde. Det er hele den moralske forskel. Der er to måder, hvorpå en version af en død kan komme til at eksistere. Den ene sættes sammen efter døden, udefra, af pårørende eller virksomheder eller en journalist med en dagsorden, af de brudstykker, de kan finde, til gavn for det, de levende har brug for, at den døde skal være. Den anden formes af mennesket selv, mens det lever, ved at vælge, hvad der skal med, og beslutte, hvordan det vil mødes. De to ting kan se næsten ens ud udefra. De kan bruge den samme underliggende teknologi. Og de er moralsk hinandens modsætning, fordi kun den ene bærer forfatterens underskrift.

Den version, der har moralsk gyldighed, er den, mennesket selv har lavet. Ikke den mest nøjagtige. Ikke den mest trøstende. Den, der er givet samtykke til. En genskabelse bygget efter døden, uanset hvor livagtig den er, er et portræt malet af en anden, og det kan være et kærligt portræt eller et kynisk, men det er ikke menneskets egen beretning om sig selv, og det må aldrig få lov at gå for at være det. En version, mennesket selv byggede, mens det levede, er et vidnesbyrd. Det er det nærmeste, nogen af os nogensinde kommer på at svare igen.

Her holder Joaquin Oliver-sagen op med at være en knude og bliver i stedet klargørende. Det ubehag, så mange følte, handlede ikke rigtig om teknologien og ikke rigtig om hans forældre, som gjorde det mest forståelige i verden. Ubehaget var, at en dreng på sytten fik meninger, offentligt, i en alder af femogtyve, som han aldrig nåede, og han var der ikke for at give sit samtykke. Hans forældre holdt pennen af kærlighed. Men pennen var stadig ikke hans. Det er skillelinjen. Ikke uhyggeligt eller ikke uhyggeligt. Forfattet af mennesket selv, eller forfattet af en anden.

Jeg vil være forsigtig her, for samtykke gør ikke minemarken sikker. Cambridge-forskerne har ret i, at selv en version, der er givet fuldt samtykke til, kan påføre den, der taler med den, lidelse, kan skabe afhængighed og kan bygges til at holde nogen engageret ud over det punkt, hvor det er godt for dem. Et menneske kan give samtykke til at blive husket og alligevel efter døden blive til noget, det ikke ville genkende, hvis den virksomhed, der har optagelsen, beslutter at ændre den. Samtykke givet i levende live betyder kun noget, hvis det overholdes bagefter, præcist, uden stille redigeringer, uden at en virksomhed i al ubemærkethed forbedrer de døde, så de passer til et nøgletal. Løftet holder kun, hvis versionen er frosset i det øjeblik, mennesket mente det, og ingen, hverken virksomheden eller den sørgende familie, får lov at blive ved med at redigere i, hvem nogen var. Ellers er samtykke blot en underskrift på et dokument, ingen har til hensigt at holde.

Så standarden er højere end samtykke alene. Det er samtykke, plus trofasthed mod det samtykke for evigt, plus ydmygheden til kun at bygge det, mennesket valgte at efterlade, og til at nægte at opfinde resten. Hvis vedkommende aldrig optog, hvad han eller hun mente om Gud, må versionen ikke gætte. Tavsheden er en del af vidnesbyrdet. Et menneske har lov til at have efterladt nogle ting usagt, og en version, der fylder de tavsheder ud for at virke mere komplet, har allerede brudt det eneste løfte, der betyder noget.

Min egen interesse i at sige det her

Jeg bør være ærlig om, hvor jeg står, for jeg er ikke en neutral iagttager af denne diskussion. Min virksomhed, Afterlife.ai®, findes for at hjælpe mennesker med at optage sig selv, mens de lever, og alt, hvad jeg lige har argumenteret for, er også belejligt nok en beskrivelse af det, jeg forsøger at bygge. Du bør veje, hvad jeg siger, derefter. Når en grundlægger fortæller dig, at den etiske udgave af et produkt tilfældigvis er den, han sælger, er det rette svar et løftet øjenbryn, og jeg vil hellere, at du løfter det, end at du lader være.

Det, jeg kan fortælle dig, er, at jeg ikke nåede frem til samtykke som en markedsføringsposition. Jeg nåede frem til det ved at se på alternativet, og alternativet er virkelig skræmmende: en fremtid, hvor enhver kan genskabes af enhver, efter døden, ud fra sit onlineliv, og få lagt ord i munden, bakke ting op, trøste, sælge, uden underskrift og uden stemme og uden nogen mulighed for, at de døde kan protestere, for at protestere er det eneste, de døde aldrig kan. Mod den fremtid er den eneste brandmur, jeg kan komme i tanke om, et enkelt, gammeldags princip. Den eneste version af dig, der må tale i dit navn, er den, du har sagt ja til. Alt andet er andre, der skriver dit mindeord og kalder det dig.

Hvad vi egentlig frygter

Jeg vender hele tiden tilbage til de begravelser og den lille uoverensstemmelse mellem personen i kisten og personen i talen.

Vi tåler den uoverensstemmelse, fordi vi altid har måttet. De døde kunne ikke rette os, så vi sluttede fred med at få dem lidt forkert, og vi fortalte os selv, at den kærlige version var den sande, og for det meste mente vi det godt. Men hvis man spørger folk, hvad de ville ønske sig i de ærlige timer, er der næsten ingen, der siger, at de vil huskes som en helgen. De vil huskes som sig selv. Besværlige, hvor de var besværlige. Morsomme på den helt specifikke måde, de var morsomme. Forkerte i det, de tog fejl af, og med lov til at blive ved med at tage fejl, fordi fejlen var deres og en del af helheden. Det, folk frygter, er ikke at blive glemt. Det er at blive husket, men husket som en, der var glattere og mindre og lettere, end de i virkeligheden var.

Den teknologi, jeg arbejder med, vil ikke kunne løse døden, og den kan ikke gøre nogen hel igen. Jeg har ingen interesse i at lade, som om andet. Men den ændrer én ting, og det er ikke en lille ting. Gennem hele menneskehedens historie var svaret på „hvem bestemmer, hvordan jeg bliver husket“: ikke dig. Det var altid de efterladte, der stod for deres kærlige, ufuldstændige, uundgåelige redigering, uden at dit samtykke blev søgt eller kunne søges. For første gang kan mennesket efterlade en beretning med egen hånd. Ikke det sidste ord. Der er intet sidste ord. Men et ord. En stemme i det rum, der plejede at blive tavst i samme øjeblik, du blev det.

At blive husket forkert er den ældste stille frygt, vi bærer på vores egen død, ældre end nogen maskine, ældre end det skrevne ord, så gammel som det første menneske, der stod over en grav og valgte, hvilken historie der skulle fortælles. Maskinerne opfandt ikke den frygt, og de vil ikke redde os fra den. Det eneste, der har ændret sig, er dette: i længden af ét mærkeligt historisk vindue, før normerne stivner, og loven kommer efter, og vi alle beslutter, hvad vi vil og ikke vil tillade, er pennen et kort øjeblik inden for rækkevidde for det menneske, den i virkeligheden handler om.

Det ærlige at gøre med den er ikke at gribe den på de dødes vegne. Det er, mens der stadig er tid, at give den til de levende og lade dem selv bestemme, hvordan de gerne vil bevares.