Den äldsta rädslan inför döden är inte att glömmas. Det är att bli ihågkommen på fel sätt.

På nästan varje begravning jag suttit igenom finns ett litet ögonblick då personen i kistan och personen i minnestalet tyst och stilla inte stämmer överens. Den som beskrivs är lite vänligare än den jag kände, lite tålmodigare, avslipad där den riktiga människan var intressant. Ingen ljuger. Rummet gör det sorgen alltid gör. Det väljer vilken version som ska bevaras, och det väljer varsamt, och den enda som skulle kunna invända mot redigeringen är den enda som inte får tala.

Vi brukar inte kalla det vad det är. Vi kallar det en fin ceremoni. Men under blommorna fattas ett beslut om vem någon var, och de döda har ingen röst i det. Det är inget nytt problem som tekniken har hittat på. Det är det äldsta som händer oss efter att vi har dött. Vi överlämnas, helt och hållet, till andra människors minne, och deras minne är ofullständigt, kärleksfullt och felaktigt på hundra små sätt som vi aldrig får chansen att rätta till.

Jag bygger programvara inom den del av branschen som låter människor spela in sig själva medan de lever, så att något av deras röst och deras berättelser överlever dem. Det är ett arbete som väcker en alldeles särskild rädsla, och jag har hört den så många gånger nu att jag kan dess form utantill. Folk säger att det är kusligt. De säger att det är falskt, en marionett som bär en död människas ansikte. De säger att det är utnyttjande, sorg som förvandlats till en prenumeration. Invändningarna förtjänar att tas på allvar, och det ska jag göra. Men jag har kommit att tro att de inte är den verkliga rädslan. De är den rädsla man kan säga högt på en middagsbjudning. Den djupare, den som faktiskt håller människor vakna, är tystare och svårare att erkänna.

Den djupare rädslan är att bli ihågkommen fel. Att bli tillplattad. Att få sina motsägelser utslätade tills ingenting återstår utom en karikatyr som håller med alla. Att en enda mening du sade en dålig dag ska få stå för hela dig, för alltid, bara för att det var den som blev sparad. Vi är alla rädda för det, och vi var rädda för det långt innan någon tränade en modell på en död människa. Maskinen skapade inte rädslan. Den gav den bara ett ansikte att peka på.

Invändningarna, i full styrka

Låt mig föra fram argumenten mot min egen bransch ordentligt, för de som framför dem är inga foliehattar och de har goda skäl att oroa sig.

Börja med Sherry Turkle, som i decennier har studerat vad som händer när människor knyter an till saker som inte kan älska dem tillbaka. I Alone Together skrev hon att hon var "oroad över tanken på att söka intimitet med en maskin som inte har några känslor, inte kan ha några känslor, och egentligen bara är en smart samling av 'som om'-föreställningar, som beter sig som om den brydde sig, som om den förstod oss." Läs det långsamt. Det är den hårdaste mening jag känner mot mitt eget arbete. Ett system som talar med en död fars tonfall och säger sådant han skulle kunna ha sagt spelar, på något plan, upp en omsorg det inte har. Det beter sig som om. Och en sörjande människa, som så desperat vill att det ska vara på riktigt, är precis den som har minst förmåga att hålla "som om" i minnet.

Turkles oro är inte att tekniken är primitiv. Den är att den fungerar tillräckligt bra för att spela roll, och att vi kommer att acceptera föreställningen eftersom vi är ensamma och föreställningen finns tillgänglig kl. 2 på natten när ingenting annat gör det.

Sedan finns Elaine Kasket, psykologen som skrev All the Ghosts in the Machine, en bok om vad som blir av oss när våra liv lagras på servrar som vi inte äger. Hennes ämne är digitala kvarlevor: fotona, meddelandena, kontona, allt det som en människa lämnar efter sig, och det obekväma faktum att dessa kvarlevor nu är en tillgång som andra kan äga, flytta, tjäna pengar på och forma om. När du är död är ditt jag data, och data har förvaltare, och förvaltarna har sina egna intressen. Frågan hon ständigt återvänder till är inte om en digital version av dig kan finnas. Det är vem som får driva den, i vems intresse, och om någon frågade dig först.

Och så finns det mest omsorgsfulla arbete jag har läst om detta, en artikel från 2024 i Philosophy and Technology av Tomasz Hollanek och Katarzyna Nowaczyk-Basińska, två forskare vid Cambridge som studerar just det hörn av framtiden där jag arbetar. Redan titeln nämner det människor är rädda för: griefbots, deadbots, postmortem avatars. Deras varningar är specifika, och jag tror att de har rätt. Hollanek varnade för att dessa tjänster "riskerar att orsaka enorm ångest hos människor om de utsätts för oönskade digitala hemsökelser från alarmerande exakta AI-återskapelser av dem de har förlorat." Han gick längre: "Människor kan utveckla starka känslomässiga band till sådana simuleringar, vilket gör dem särskilt sårbara för manipulation." Hans medförfattare kallade hela området "ett etiskt minfält", och hon valde frasen med omsorg. Ett minfält är inte en plats man vägrar korsa. Det är en plats man korsar mycket långsamt, med blicken på var man sätter fötterna.

Det Cambridge-artikeln gör, och som middagsbjudningsversionen av rädslan aldrig gör, är att skilja de inblandade åt. Det finns personen som återskapas. Det finns personen som återskapar. Och det finns den som till slut pratar med resultatet, som kan vara ett barn, som kan vara långt ifrån redo. Tre olika personer, tre olika uppsättningar rättigheter, och nästan ingen av produkterna på det här området har tänkt ordentligt på att de kan gå isär. En dotters behov av att höra sin mamma igen är inte detsamma som hennes mammas önskan att bli hörd, och ett företags önskan att hålla båda engagerade är inte detsamma som någotdera.

Jag skulle kunna lägga till fallet som alla tar fram. Sommaren 2025 gjorde en journalist en intervju med en AI-avatar av Joaquin Oliver, en pojke som dödades som sjuttonåring i skolskjutningen i Parkland, byggd av hans sörjande föräldrar och släppt runt den födelsedag han aldrig fick. Reaktionen kom omedelbart och var mest avsky. Makabert, sade folk. Obehagligt. Hans pappa bemötte kritikerna med en sorg så rak att den var svår att argumentera mot: det var inte artificiell intelligens som dödade hans son. Det är ett genuint svårt fall, och jag tar upp det inte för att lösa det utan för att markera det, eftersom det rymmer alla trådar i den här essän i en enda knut. En verklig människa, borta. Människor som älskade honom och handlade av kärlek. En version av honom som säger saker offentligt som han aldrig fick bestämma att han skulle säga.

Håll fast vid allt detta i full styrka. Prestationsproblemet är verkligt. Förvaltarproblemet är verkligt. Hemsökelseproblemet, manipulationsproblemet, problemet med de tre personerna, alla är verkliga. Jag tänker inte prata bort något av dem.

Vad invändningarna har gemensamt

Men lägg dem sida vid sida och lägg märke till vad de egentligen delar. Turkles "som om". Kaskets förvaltare. Cambridgeforskarnas tre åtskilda intressenter. Joaquin Olivers föräldrar som beslutar, å hans vägnar, vad han skulle vilja ha sagt om vapen. Var och en av dem är i grunden en oro över författarskap. Över vem som håller i pennan. Över klyftan mellan den som levde och den version som nu talar i hens namn, och, avgörande, över vem som får bestämma vad som fyller den klyftan.

Den omformuleringen betyder mer än den verkar, eftersom den flyttar faran. Faran var egentligen aldrig tekniken. En inspelning är inte farlig. En modell är inte farlig. Farlig är en version av en människa som någon annan har författat, av egna skäl, som människan aldrig såg och inte kan rätta. Den obehagskänsla folk upplever är en signal, och signalen är inte "det här är falskt". Signalen är "någon talar för dig som inte har förtjänat rätten att göra det".

När du ser det så händer något märkligt. Problemet slutar vara nytt.

Minnet har alltid skrivits av de levande

Här kommer det vi inte gärna säger. Vi har alltid blivit ihågkomna fel, vi har alltid låtit de levande sköta minnandet, och vi har byggt hela institutioner för att få redigeringen att kännas naturlig.

Minnestalet är författarskap. Någon reser sig och väljer, ur ett helt motsägelsefullt liv, de tre berättelser som ska representera dig, och urvalet är ett argument om vem du var, och du är inte där för att säga att du skulle ha valt andra berättelser. Dödsannonsen är författarskap, skriven efter mall, i ett tonläge som ingen någonsin pratade i, som förvandlar en svår, rolig och särpräglad människa till ett stycke dygder. Släkthistorier är författarskap, och de hårdnar för varje återberättande, tills versionen som förs vidare till barnbarnen är en rollfigur, inte en människa: morfadern som Alltid Var Sträng, fastern som Aldrig Gifte Sig på grund av en enda mening hon en gång sade och ångrade. Människan under ytan hade en hel inre dispyt på gång. Berättelsen behöll slutsatsen och kastade bort dispyten.

Det här är inget misslyckande för kärleken. Det är minnets mekanik. De levande behåller det de orkar bära, och det de orkar bära är litet, och de bär det i den form som hjälper dem att leva vidare. En mor blir sin bästa dag. En far blir sin sämsta, om det var den som märkte dig. Hela människor pressas ihop till den enda egenskap som var mest användbar för dem som minns. Vi gjorde så med brev och dagböcker, och med gravstenar som kortade ner sextio år till en rad. Vi har plattat till de döda så länge vi har haft de döda, och vi kallade det att hedra dem.

Så när någon säger till mig att en AI-version av en människa är skrämmande eftersom den kanske inte fångar vem personen egentligen var, vill jag varsamt påpeka att minnestalet inte heller fångade vem personen egentligen var. Ingenting gör det. Valet stod aldrig mellan ett sant minne och ett förvrängt. Valet har alltid stått mellan en förvrängning och en annan, alla författade av dem som blev kvar, ingen av dem kontrollerad mot den enda som visste.

Det som verkligen är nytt är inte förvrängningen. Den hade vi. Det nya är att människan kan få en röst.

Rösten

Det här är svängpunkten, och den förtjänar att beskrivas exakt.

Under hela historien hade du ingen röst i hur du blev ihågkommen. Du dog, och pennan gick över till andra händer, och det de skrev blev du. Tekniken jag arbetar med gör exakt en sak som verkligen är ny. Den låter en människa, medan hen lever, lägga tillbaka en del av författarskapet i sina egna händer. Inte allt. Du kan inte styra vad människor känner, vad de väljer att lyfta fram eller vilka av dina berättelser som överlever andra generationen. Men du kan, för första gången, lämna efter dig något som du formade med flit, med dina egna ord, med dina egna motsägelser kvar, i stället för att bara lämna råmaterialet åt andra att forma när du inte längre kan invända.

Därför har jag kommit att tro att samtycke inte är en funktion i det här arbetet. Det är hela den moraliska skillnaden. Det finns två sätt för en version av en död människa att komma till. Det ena är att den sätts samman efter döden, utifrån, av släktingar eller företag eller en journalist med en agenda, av de fragment de kan samla ihop, för att tillgodose vad de levande behöver att de döda ska vara. Det andra är att den formas av personen själv, medan hen lever, som väljer vad som ska ingå och bestämmer hur hen vill bli mött. De här två kan se nästan identiska ut utifrån. De kan använda samma underliggande teknik. Och de är moraliskt varandras motsatser, eftersom bara den ena bär författarens signatur.

Versionen med moralisk tyngd är den som personen själv gjorde. Inte den mest exakta. Inte den mest tröstande. Den samtyckta. Ett återskapande som byggts efter döden, hur verklighetstroget det än är, är ett porträtt målat av någon annan, och det kan vara ett kärleksfullt porträtt eller ett cyniskt, men det är inte personens egen redogörelse för sig själv och det får aldrig tillåtas passera som en sådan. En version som personen byggde medan hen levde är ett vittnesmål. Det är det närmaste någon av oss någonsin kommer att få att svara tillbaka.

Här slutar fallet Joaquin Oliver vara en knut och blir klargörande. Obehaget så många kände handlade egentligen inte om tekniken och egentligen inte om hans föräldrar, som gjorde det mest begripliga i världen. Obehaget var att en sjuttonårig pojke tilldelades åsikter, offentligt, vid en tjugofemårsålder han aldrig nådde, och han var inte där för att hålla med. Hans föräldrar höll fram pennan av kärlek. Men pennan var ändå inte hans. Det är gränsen. Inte kuslig eller inte kuslig. Författad av jaget, eller författad av någon annan.

Jag vill vara försiktig här, för samtycke gör inte minfältet säkert. Cambridgeforskarna har rätt i att även en fullt samtyckt version kan skapa ångest hos den som talar med den, kan främja beroende, kan byggas för att hålla någon engagerad längre än vad som är bra för hen. En människa kan samtycka till att bli ihågkommen och ändå, efter döden, förvandlas till något hen inte skulle känna igen, om företaget som innehar inspelningen bestämmer sig för att ändra den. Samtycke som getts i livet betyder bara något om det hedras efteråt, exakt, utan tysta redigeringar, utan att ett företag i det tysta förbättrar de döda för att passa ett nyckeltal. Löftet håller bara om versionen är fryst i det ögonblick personen menade, och ingen, inte företaget, inte ens den sörjande familjen, får fortsätta redigera vem någon var. Annars är samtycke bara en underskrift på ett dokument som ingen tänker hålla.

Så ribban ligger högre än samtycke ensamt. Det är samtycke, plus trohet mot det samtycket för all framtid, plus ödmjukheten att bara bygga det personen valde att lämna efter sig och att vägra uppfinna resten. Om hen aldrig spelade in vad hen tänkte om Gud får versionen inte gissa. Tystnaden är en del av vittnesmålet. En människa får lämna vissa saker osagda, och en version som fyller de tystnaderna för att verka mer komplett har redan brutit det enda löfte som räknas.

Min egen insats i det jag säger

Jag bör vara tydlig med var jag står, för jag är ingen neutral betraktare av det här resonemanget. Mitt företag, Afterlife.ai®, finns för att hjälpa människor att spela in sig själva medan de lever, och allt jag just har argumenterat för är också, bekvämt nog, en beskrivning av vad jag försöker bygga. Du bör väga det jag säger därefter. När en grundare säger att den etiska versionen av en produkt råkar vara den version han säljer, är det rätta svaret en höjd ögonbrynsbåge, och jag vill hellre att du höjer den än inte.

Det jag kan säga är att jag inte kom fram till samtycke som en marknadsföringsposition. Jag kom fram till det genom att betrakta alternativet, och alternativet är genuint skrämmande: en framtid där vem som helst kan rekonstrueras av vem som helst, efter döden, ur avgasen från sitt liv på nätet, och förmås säga saker, ställa sig bakom saker, trösta människor, sälja saker, utan underskrift och utan röst och utan någon möjlighet för de döda att invända, eftersom att invända är det enda de döda aldrig kan göra. Mot den framtiden är den enda brandvägg jag kan komma på en enkel, gammaldags princip. Den enda version av dig som ska få tala i ditt namn är den du har gått med på. Allt annat är andra människor som skriver ditt minnestal och kallar det dig.

Vad vi egentligen är rädda för

Jag återvänder hela tiden till de där begravningarna, och den lilla skillnaden mellan personen i kistan och personen i talet.

Vi tolererar den skillnaden eftersom vi alltid har fått göra det. De döda kunde inte rätta oss, så vi slöt fred med att få dem lite fel, och vi intalade oss att den kärleksfulla versionen var den sanna, och för det mesta menade vi väl. Men om du frågar människor vad de skulle vilja, i de ärliga timmarna, säger nästan ingen att de vill bli ihågkomna som helgon. De vill bli ihågkomna som sig själva. Svåra där de var svåra. Roliga på det särskilda sätt de var roliga. Fel i det de hade fel i, och tillåtna att fortsätta ha fel, eftersom felet var deras och en del av helheten. Det människor fruktar är inte att glömmas. Det är att bli ihågkomna, men som någon jämnare och mindre och enklare än de egentligen var.

Tekniken jag arbetar med kommer inte att bota döden och kan inte göra någon hel igen. Jag har inget intresse av att låtsas något annat. Men den ändrar en sak, och det är ingen liten sak. Under hela människans historia har svaret på "vem bestämmer hur jag blir ihågkommen" varit: inte du. Det var alltid de kvarlevande, med sin kärleksfulla, ofullständiga, oundvikliga redigering, där ditt samtycke varken efterfrågades eller var möjligt. För första gången kan människan lämna en redogörelse med egen hand. Inte det sista ordet. Det finns inget sista ord. Men ett ord. En röst i rummet som förr tystnade i samma stund som du.

Att bli ihågkommen fel är den äldsta tysta rädsla vi bär inför vår egen död, äldre än någon maskin, äldre än det skrivna ordet, lika gammal som den första människan som stod vid en grav och valde vilken berättelse som skulle berättas. Maskinerna uppfann inte den rädslan och de kommer inte att rädda oss från den. Det som har förändrats är bara detta: under ett enda egendomligt historiskt fönster, innan normerna stelnar och lagen hinner ikapp och vi alla bestämmer vad vi kommer att tillåta och inte tillåta, finns pennan en kort stund inom räckhåll för den som det faktiskt handlar om.

Det ärliga är inte att gripa den för de dödas räkning. Det är att räcka den, medan det ännu finns tid, till de levande, och låta dem själva avgöra hur de vill bli bevarade.