La paura più antica del morire non è essere dimenticati. È essere ricordati nel modo sbagliato.

In quasi tutti i funerali a cui ho partecipato c'è un piccolo momento in cui la persona nella bara e la persona descritta nell'elogio funebre smettono, in silenzio, di coincidere. Quella di cui si parla è un po' più gentile di quella che conoscevo io, un po' più paziente, levigata proprio negli angoli in cui la persona vera era interessante. Nessuno mente. La sala fa ciò che il lutto fa sempre: sceglie quale versione tenere, la sceglie con delicatezza, e l'unica persona che potrebbe opporsi a quel ritocco è l'unica a cui non è permesso parlare.

Di solito non lo chiamiamo con il suo nome. Lo chiamiamo una bella cerimonia. Ma sotto i fiori si sta prendendo una decisione su chi fosse quella persona, e i morti non hanno voto. Non è un problema nuovo inventato dalla tecnologia. È la cosa più antica che ci capita dopo la morte. Veniamo consegnati, interi, al ricordo di altre persone, e il loro ricordo è parziale, affettuoso e sbagliato in cento piccoli modi che non potremo mai correggere.

Sviluppo software in quella parte del settore che permette alle persone di registrarsi da vive, perché qualcosa della loro voce e delle loro storie sopravviva a loro. È un lavoro che attira una paura molto precisa, e l'ho sentita così tante volte ormai da conoscerne la forma a memoria. Le persone mi dicono che è inquietante. Mi dicono che è finto, un burattino che porta il volto di un morto. Mi dicono che è sfruttamento, il dolore trasformato in un abbonamento. Sono obiezioni che vanno prese sul serio, e lo farò. Ma sono arrivato a pensare che non siano la paura vera. Sono la paura che si riesce a dire ad alta voce a una cena tra amici. Quella più profonda, quella che toglie davvero il sonno, è più silenziosa e più difficile da ammettere.

La paura più profonda è essere ricordati nel modo sbagliato. Essere appiattiti. Vedere le proprie contraddizioni levigate fino a lasciare solo una caricatura che dà ragione a tutti. Vedere una frase detta in una giornata storta prendere il posto dell'intera persona, per sempre, solo perché era quella che è stata salvata. Tutti abbiamo questa paura, e la avevamo molto prima che qualcuno addestrasse un modello su una persona morta. La macchina non ha creato la paura. Le ha solo dato un volto a cui puntare il dito.

Le obiezioni, nella loro forma più forte

Lasciami esporre come si deve le ragioni contro il mio stesso settore, perché chi le sostiene non è un esaltato e non ha torto a preoccuparsi.

Comincio da Sherry Turkle, che da decenni osserva cosa succede quando le persone si legano a cose che non possono ricambiare il loro affetto. In Alone Together (in italiano «Insieme ma soli») ha scritto di essere «turbata dall'idea di cercare intimità con una macchina che non ha sentimenti, non può averne, ed è in realtà solo un'abile raccolta di prestazioni "come se", che si comporta come se le importasse, come se ci capisse». Leggila lentamente. È la frase più dura che conosca contro il mio lavoro. Un sistema che parla con le cadenze di un padre morto e dice le cose che lui avrebbe potuto dire, a un certo livello, recita una cura che non possiede. Si comporta "come se". E una persona in lutto, che desidera così tanto che sia vero, è proprio quella meno attrezzata per tenere a mente quel "come se".

La preoccupazione di Turkle non è che la tecnologia sia rozza. È che funziona abbastanza bene da contare, e che accetteremo la finzione perché siamo soli e la finzione è disponibile alle 2 di notte, quando nient'altro lo è.

Poi c'è Elaine Kasket, la psicologa che ha scritto All the Ghosts in the Machine, un libro su ciò che resta di noi quando la nostra vita è archiviata su server che non ci appartengono. Il suo tema sono i resti digitali: le foto, i messaggi, gli account, tutto il residuo che una persona lascia dietro di sé, e il fatto scomodo che questo residuo è ormai un bene che altri possono detenere, spostare, monetizzare e rimodellare. Una volta morti, il nostro io è un insieme di dati, i dati hanno dei custodi, e i custodi hanno i propri interessi. La domanda a cui lei torna di continuo non è se possa esistere una versione digitale di te. È chi ha il diritto di gestirla, nell'interesse di chi, e se qualcuno ti abbia chiesto il permesso prima.

E poi c'è il lavoro più accurato che io abbia letto su questo tema, un articolo del 2024 su Philosophy and Technology di Tomasz Hollanek e Katarzyna Nowaczyk-Basińska, due ricercatori di Cambridge che studiano proprio l'angolo di futuro in cui lavoro io. Già il titolo nomina ciò che spaventa le persone: griefbot, deadbot, avatar postumi. I loro avvertimenti sono precisi e credo siano giusti. Hollanek ha messo in guardia che questi servizi «rischiano di causare enorme angoscia alle persone se queste subiscono infestazioni digitali indesiderate da parte di ricreazioni dell'IA allarmantemente accurate di chi hanno perso». E ha aggiunto: «Le persone potrebbero sviluppare forti legami emotivi con queste simulazioni, il che le renderà particolarmente vulnerabili alla manipolazione». La sua coautrice ha definito l'intero ambito «un campo minato etico», e ha scelto quell'espressione con cura. Un campo minato non è un luogo che si rifiuta di attraversare. È un luogo che si attraversa molto lentamente, guardando dove si mettono i piedi.

Ciò che l'articolo di Cambridge fa, e che la versione da cena tra amici della paura non fa mai, è distinguere le persone coinvolte. C'è la persona che viene ricreata. C'è la persona che la ricrea. E c'è chi finisce per parlare con il risultato, che può essere un bambino, che può non essere affatto pronto. Tre persone diverse, tre insiemi di diritti diversi, e quasi nessuno dei prodotti di questo settore ha riflettuto a fondo sul fatto che possano divergere. Il bisogno di una figlia di sentire di nuovo sua madre non coincide con il desiderio di sua madre di essere ascoltata, e il desiderio di un'azienda di tenerle coinvolte entrambe non coincide con nessuno dei due.

Potrei citare il caso a cui tutti arrivano. Nell'estate del 2025 un giornalista ha condotto un'intervista con un avatar IA di Joaquin Oliver, un ragazzo ucciso a diciassette anni nella sparatoria di Parkland, creato dai genitori in lutto e presentato intorno al compleanno che lui non ha mai festeggiato. La reazione è stata immediata e per lo più di repulsione. Macabro, hanno detto in molti. Inquietante. Suo padre ha risposto ai critici con un dolore così diretto che era difficile ribattere: non è stata l'intelligenza artificiale a uccidere suo figlio. È un caso davvero difficile, e lo cito non per scioglierlo ma per segnalarlo, perché tiene in un unico nodo tutti i fili di questo saggio. Una persona vera, scomparsa. Persone che l'amavano e agivano per amore. Una versione di lui che dice cose, in pubblico, che lui non ha mai potuto decidere di dire.

Tieni tutto questo nella sua forma più forte. Il problema della finzione è reale. Il problema della custodia è reale. Il problema delle infestazioni, quello della manipolazione, quello delle tre persone: tutti reali. Non ho intenzione di convincerti del contrario su nessuno di essi.

Ciò che le obiezioni hanno in comune

Ma mettile una accanto all'altra e nota che cosa condividono davvero. Il "come se" di Turkle. I custodi di Kasket. I tre soggetti separati del team di Cambridge. I genitori di Joaquin Oliver che decidono, al suo posto, che cosa avrebbe voluto dire sulle armi. Ognuna di queste, in fondo, è una preoccupazione sulla paternità del racconto. Su chi tiene la penna. Sul divario tra la persona che è vissuta e la versione che ora parla a suo nome e, soprattutto, su chi decide che cosa riempie quel divario.

Questa riformulazione conta più di quanto sembri, perché sposta il pericolo. Il pericolo non è mai stato davvero la tecnologia. Una registrazione non è pericolosa. Un modello non è pericoloso. Ciò che è pericoloso è una versione di una persona scritta da qualcun altro, per i propri scopi, che la persona non ha mai visto e non può correggere. L'inquietudine che le persone provano è un segnale, e il segnale non è «questo è finto». Il segnale è «qualcuno parla al posto tuo senza averne guadagnato il diritto».

Una volta che lo vedi in questo modo, succede una cosa strana. Il problema smette di essere nuovo.

La memoria è sempre stata scritta dai vivi

Ecco la parte che non ci piace dire. Siamo sempre stati ricordati nel modo sbagliato, abbiamo sempre lasciato che fossero i vivi a ricordare, e abbiamo costruito intere istituzioni per far sembrare naturale quel ritocco.

L'elogio funebre è un atto di scrittura. Qualcuno si alza e sceglie, tra un'intera vita contraddittoria, le tre storie che ti rappresenteranno, e quella scelta è una tesi su chi fossi, e tu non sei lì per dire che avresti scelto storie diverse. Il necrologio è un atto di scrittura, composto secondo un modello, in un registro in cui nessuno ha mai davvero parlato, che trasforma una persona difficile, divertente, unica in un paragrafo di virtù. Le storie di famiglia sono un atto di scrittura, e si induriscono a ogni racconto, finché la versione che arriva ai nipoti è un personaggio, non una persona: il nonno che era Sempre Severo, la zia che Non Si È Mai Sposata per una frase che disse una volta e di cui si pentì. La persona sotto quella frase conduceva un intero dibattito interiore. La storia ha tenuto la conclusione e ha buttato via la discussione.

Non è un fallimento dell'amore. È la meccanica della memoria. I vivi tengono ciò che riescono a portare, ciò che riescono a portare è poco, e lo portano nella forma che li aiuta a continuare a vivere. Una madre diventa il suo giorno migliore. Un padre diventa il suo peggiore, se il suo peggiore è quello che ti ha segnato. Persone intere vengono compresse nell'unico tratto che è stato più utile a chi ricordava. L'abbiamo fatto con le lettere e i diari, e con le lapidi che riducevano sessant'anni a una riga. Appiattiamo i morti da quando abbiamo i morti, e lo abbiamo chiamato onorarli.

Quindi, quando qualcuno mi dice che una versione IA di una persona fa paura perché potrebbe non cogliere chi fosse davvero, vorrei fargli notare con gentilezza che nemmeno l'elogio funebre ha colto chi fosse davvero. Nulla ci riesce. La scelta non è mai stata tra un ricordo fedele e uno deformato. È sempre stata tra una distorsione e un'altra, tutte scritte da chi resta, nessuna verificata con l'unica persona che sapeva.

Ciò che è davvero nuovo non è la distorsione. Quella l'avevamo già. Ciò che è nuovo è che la persona potrebbe avere voce in capitolo.

Il voto

Questo è il punto di svolta, e vale la pena essere precisi.

Per tutta la storia non hai avuto voce in capitolo sul tuo stesso ricordo. Morivi, la penna passava ad altre mani, e qualunque cosa scrivessero diventava te. La tecnologia su cui lavoro fa una sola cosa davvero nuova. Permette a una persona, finché è in vita, di rimettere nelle proprie mani una parte della paternità del racconto. Non tutta. Non puoi controllare ciò che le persone provano, né ciò che scelgono di sottolineare, né quali delle tue storie sopravviveranno alla seconda generazione. Ma puoi, per la prima volta, lasciare qualcosa che hai plasmato di proposito, con le tue parole, con le tue contraddizioni lasciate dentro, invece di lasciare solo la materia prima che altri modelleranno quando non potrai più obiettare.

Per questo sono arrivato a credere che il consenso non sia una funzione di questo lavoro. È l'intera differenza morale. Ci sono due modi in cui può nascere una versione di una persona morta. Uno è assemblato dopo la morte, dall'esterno, da parenti o aziende o un giornalista con un'agenda, con i frammenti che riescono a raccogliere, al servizio di ciò che i vivi hanno bisogno che i morti siano. L'altro è plasmato dalla persona stessa, in vita, scegliendo che cosa includere, decidendo come vuole essere incontrata. Queste due cose possono sembrare quasi identiche dall'esterno. Possono usare la stessa tecnologia di base. E sono moralmente opposte, perché solo una delle due porta la firma dell'autore.

La versione che ha dignità morale è quella che la persona ha creato. Non la più accurata. Non la più consolante. Quella consensuale. Una ricreazione costruita dopo la morte, per quanto realistica, è un ritratto dipinto da qualcun altro: può essere un ritratto affettuoso o cinico, ma non è il racconto che la persona fa di sé e non dovrebbe mai poter passare per tale. Una versione che la persona ha costruito in vita è una testimonianza. È la cosa più vicina a una risposta che ciascuno di noi potrà mai avere.

È qui che il caso di Joaquin Oliver smette di essere un nodo e diventa chiarificatore. Il disagio che tanti hanno provato non riguardava davvero la tecnologia e non riguardava davvero i suoi genitori, che facevano la cosa più comprensibile del mondo. Il disagio era che a un ragazzo di diciassette anni venivano attribuite opinioni, in pubblico, all'età di venticinque anni che non ha mai raggiunto, e lui non era lì per essere d'accordo. I suoi genitori tenevano la penna per amore. Ma la penna non era comunque la sua. Questo è il confine. Non inquietante o non inquietante. Scritto da sé, o scritto da qualcun altro.

Voglio essere prudente su questo punto, perché il consenso non rende sicuro il campo minato. I ricercatori di Cambridge hanno ragione: anche una versione pienamente consensuale può turbare chi ci parla, può favorire la dipendenza, può essere costruita per tenere qualcuno coinvolto oltre il punto in cui gli fa bene. Una persona può acconsentire a essere ricordata e venire comunque trasformata, dopo la morte, in qualcosa che non riconoscerebbe, se l'azienda che custodisce la registrazione decide di cambiarla. Il consenso dato in vita ha significato solo se viene rispettato dopo, esattamente, senza modifiche silenziose, senza che un'azienda migliori di nascosto i morti per adattarli a una metrica. La promessa regge solo se la versione è congelata nel momento in cui la persona l'ha voluta, e nessuno, né l'azienda né la famiglia in lutto, può continuare a modificare chi fosse qualcuno. Altrimenti il consenso è solo una firma su un documento che nessuno intende rispettare.

Quindi lo standard è più alto del solo consenso. È il consenso, più la fedeltà a quel consenso per sempre, più l'umiltà di costruire soltanto ciò che la persona ha scelto di lasciare e di rifiutarsi di inventare il resto. Se non ha mai registrato che cosa pensava di Dio, la versione non può tirare a indovinare. Il silenzio fa parte della testimonianza. Una persona ha il diritto di aver lasciato alcune cose non dette, e una versione che riempie quei silenzi per sembrare più completa ha già infranto l'unica promessa che conta.

Che cosa ho in gioco nel dirlo

Devo essere chiaro su dove mi trovo, perché non sono un osservatore neutrale di questo dibattito. La mia azienda, Afterlife.ai®, esiste per aiutare le persone a registrarsi mentre sono in vita, e tutto ciò che ho appena sostenuto è anche, comodamente, una descrizione di ciò che sto cercando di costruire. Dovresti valutare ciò che dico di conseguenza. Quando un fondatore ti dice che la versione etica di un prodotto è per caso quella che vende lui, la reazione giusta è un sopracciglio alzato, e preferisco che tu lo alzi piuttosto che no.

Posso dirti che non sono arrivato al consenso come posizione di marketing. Ci sono arrivato guardando l'alternativa, e l'alternativa è davvero spaventosa: un futuro in cui chiunque può essere ricostruito da chiunque, dopo la morte, a partire dalle tracce della sua vita online, e indotto a dire cose, sostenere cose, consolare persone, vendere cose, senza firma, senza voto e senza alcun modo per i morti di opporsi, perché opporsi è l'unica cosa che i morti non possono mai fare. Contro quel futuro, l'unica barriera che mi viene in mente è un principio semplice e all'antica. L'unica versione di te a cui dovrebbe essere permesso di parlare a tuo nome è quella a cui hai dato il tuo consenso. Tutto il resto sono altre persone che scrivono il tuo elogio funebre e lo chiamano te.

Di che cosa abbiamo davvero paura

Continuo a tornare a quei funerali, e al piccolo scarto tra la persona nella bara e la persona nel discorso.

Tolleriamo quello scarto perché abbiamo sempre dovuto farlo. I morti non potevano correggerci, così ci siamo rassegnati a ricordarli un po' sbagliati, ci siamo detti che la versione affettuosa fosse quella vera, e per lo più lo facevamo in buona fede. Ma se chiedi alle persone che cosa vorrebbero, nelle ore sincere, quasi nessuno dice di voler essere ricordato come un santo. Vogliono essere ricordati come se stessi. Difficili dove erano difficili. Divertenti nel modo specifico in cui erano divertenti. Nel torto sulle cose su cui avevano torto, e liberi di continuare ad averlo, perché quel torto era loro e faceva parte dell'insieme. Ciò che le persone temono non è essere dimenticate. È essere ricordate, ma come qualcuno di più liscio, più piccolo e più facile di quanto fossero davvero.

La tecnologia su cui lavoro non risolverà la morte e non può rendere nessuno di nuovo intero. Non ho alcun interesse a fingere il contrario. Ma cambia una cosa, e non è una cosa piccola. Per tutta la storia dell'umanità, la risposta a «chi decide come sarò ricordato» è stata: non tu. Sarebbero sempre stati quelli che restano, con il loro ritocco affettuoso, parziale e inevitabile, senza che il tuo consenso fosse chiesto né possibile. Per la prima volta, la persona può lasciare un racconto di proprio pugno. Non l'ultima parola. Non esiste un'ultima parola. Ma una parola. Un voto in una stanza che prima ammutoliva nel momento stesso in cui lo facevi tu.

Essere ricordati nel modo sbagliato è la più antica paura silenziosa che portiamo sulla nostra morte, più antica di qualsiasi macchina, più antica della parola scritta, antica quanto la prima persona che si fermò davanti a una tomba e scelse quale storia raccontare. Le macchine non hanno inventato quella paura e non ci salveranno da essa. Ciò che è cambiato è solo questo: per la durata di una strana finestra storica, prima che le norme si irrigidiscano, che la legge si adegui e che tutti decidiamo che cosa permetteremo e che cosa no, la penna è per breve tempo a portata di mano della persona di cui si parla davvero.

La cosa onesta da fare non è afferrarla per i morti. È consegnarla, finché c'è tempo, ai vivi, e lasciare che siano loro a decidere come vorrebbero essere custoditi.