La por més antiga a morir no és que t'oblidin. És que et recordin malament.

A gairebé tots els funerals on he assistit hi ha un petit moment en què la persona del taüt i la persona de l'elogi fúnebre deixen de coincidir en silenci. La que descriuen és una mica més amable que la que jo vaig conèixer, una mica més pacient, polida just on la persona real era interessant. Ningú no menteix. La sala fa el que sempre fa el dol. Tria quina versió es queda, la tria amb delicadesa, i l'única persona que potser s'oposaria a l'edició és l'única a qui no es deixa parlar.

Normalment no ho anomenem pel seu nom. En diem un bell servei. Però sota les flors s'està prenent una decisió sobre qui era algú, i els morts no hi tenen vot. No és un problema nou inventat per la tecnologia. És el més antic que ens passa quan morim. Ens lliuren, sencers, al record d'altres persones, i aquest record és parcial, i afectuós, i erroni de cent maneres petites que mai no podrem corregir.

Construeixo programari en la part del sector que permet que la gent s'enregistri mentre és viva, perquè quelcom de la seva veu i de les seves històries li sobrevisqui. És una feina que desperta una por molt concreta, i ja he sentit aquesta por prou vegades per conèixer-ne la forma de memòria. La gent em diu que fa basarda. Em diu que és fals, una titella amb la cara d'un mort. Em diu que és abusiu, el dol convertit en una subscripció. Són objeccions que cal prendre seriosament, i ho faré. Però he arribat a pensar que no són la por de debò. Són la por que es pot dir en veu alta en un sopar. La més profunda, la que realment treu la son, és més callada i més difícil d'admetre.

La por més profunda és que et recordin malament. Que t'aplanin. Que et suavitzin les contradiccions fins que no quedi res més que una caricatura que dona la raó a tothom. Que una frase que vas dir un mal dia representi tot el que ets, per sempre, només perquè va ser la frase que es va guardar. Tots en tenim por, i en teníem molt abans que ningú entrenés un model amb una persona morta. La màquina no va crear la por. Només li va donar una cara a la qual assenyalar.

Les objeccions, amb tota la seva força

Deixa'm exposar bé l'argument contra el meu propi sector, perquè qui el fa no són fanàtics i no s'equivoquen en preocupar-se.

Comencem per Sherry Turkle, que ha passat dècades observant què passa quan les persones es vinculen a coses que no les poden estimar. A Alone Together va escriure que la "inquietava la idea de buscar intimitat amb una màquina que no té sentiments, que no en pot tenir, i que en realitat és només un enginyós conjunt d'actuacions de 'com si', que es comporta com si s'ho estimés, com si ens entengués". Llegeix-ho a poc a poc. És la frase més dura que conec contra la meva pròpia feina. Un sistema que parla amb les cadències d'un pare mort i diu les coses que ell hauria pogut dir està, d'alguna manera, fingint una cura que no té. Es comporta com si. I una persona en dol, que desitja tant que sigui de veritat, és justament la persona menys preparada per tenir present el "com si".

La preocupació de Turkle no és que la tecnologia sigui matussera. És que funciona prou bé per importar, i que acceptarem l'actuació perquè estem sols i l'actuació està disponible a les 2 de la matinada, quan no hi ha res més.

Després hi ha Elaine Kasket, la psicòloga que va escriure All the Ghosts in the Machine, un llibre sobre què en serà de nosaltres quan les nostres vides quedin guardades en servidors que no són nostres. El seu tema són les restes digitals: les fotos, els missatges, els comptes, tot el residu que una persona deixa enrere, i el fet incòmode que aquest residu és ara un actiu que altres poden tenir, moure, rendibilitzar i remodelar. Un cop ets mort, el teu jo són dades, les dades tenen custodis, i els custodis tenen els seus propis interessos. La pregunta a la qual torna sempre no és si pot existir una versió digital teva. És qui l'ha de gestionar, en interès de qui, i si algú te'n va preguntar abans.

I després hi ha el treball més acurat que he llegit sobre això, un article de 2024 a Philosophy and Technology de Tomasz Hollanek i Katarzyna Nowaczyk-Basińska, dos investigadors de Cambridge que estudien exactament el racó del futur on treballo jo. Només el títol ja anomena les coses que fan por a la gent: griefbots, deadbots, avatars pòstums. Els seus advertiments són concrets, i crec que tenen raó. Hollanek va alertar que aquests serveis "corren el risc de causar un gran patiment a les persones si són objecte d'aparicions digitals no desitjades, a càrrec de recreacions d'IA alarmantment fidels de les persones que han perdut". Va anar més enllà: "Les persones podrien desenvolupar vincles emocionals forts amb aquestes simulacions, cosa que les farà especialment vulnerables a la manipulació". La seva coautora va qualificar tot l'àmbit de "camp de mines ètic", i va triar la frase amb cura. Un camp de mines no és un lloc que et neguis a creuar. És un lloc que creues molt a poc a poc, mirant on poses els peus.

El que fa l'article de Cambridge i que la versió de sopar de la por no fa mai és separar les persones implicades. Hi ha la persona que és recreada. Hi ha la persona que la recrea. I hi ha qui acaba parlant amb el resultat, que pot ser un nen, que pot estar lluny de ser-hi preparat. Tres persones diferents, tres conjunts de drets diferents, i gairebé cap dels productes d'aquest àmbit no ha pensat seriosament que poden anar per camins separats. La necessitat d'una filla de tornar a sentir la seva mare no és el mateix que el desig de la mare de ser escoltada, i el desig d'una empresa de mantenir-les enganxades a totes dues no és el mateix que cap de les dues coses.

Podria afegir el cas al qual tothom recorre. Durant l'estiu de 2025, un periodista va fer una entrevista a un avatar d'IA de Joaquin Oliver, un noi assassinat als disset anys en el tiroteig de Parkland, creat pels seus pares en dol i presentat al voltant de l'aniversari que ell no va arribar a celebrar. La reacció va ser immediata i, sobretot, de repulsió. Macabre, deia la gent. Pertorbador. El seu pare va respondre als crítics amb un dolor tan directe que era difícil de rebatre: la intel·ligència artificial no va matar el seu fill. És un cas realment difícil, i el menciono no per resoldre'l sinó per assenyalar-lo, perquè recull tots els fils d'aquest assaig en un sol nus. Una persona real, desapareguda. Gent que l'estimava, actuant per amor. Una versió d'ell dient coses, en públic, que ell mai no va poder decidir que diria.

Mantén tot això amb tota la seva força. El problema de l'actuació és real. El problema de la custòdia és real. El problema de les aparicions, el problema de la manipulació, el problema de les tres persones, tot és real. No et vull dissuadir de cap d'ells.

El que tenen en comú les objeccions

Però posa-les una al costat de l'altra i fixa't en què comparteixen de veritat. El "com si" de Turkle. Els custodis de Kasket. Les tres parts interessades separades de l'equip de Cambridge. Els pares de Joaquin Oliver decidint, en nom seu, què hauria volgut que es digués sobre les armes. Totes aquestes són, en el fons, una preocupació per l'autoria. Per qui té la ploma. Per la distància entre la persona que va viure i la versió que ara parla en el seu nom i, sobretot, per qui decideix què omple aquesta distància.

Aquest canvi de mirada importa més del que sembla, perquè mou el perill. El perill mai no va ser realment la tecnologia. Un enregistrament no és perillós. Un model no és perillós. El que és perillós és una versió d'una persona que algú altre ha escrit, per les seves raons, que la persona mai no va veure i no pot corregir. La basarda que sent la gent és un senyal, i el senyal no és "això és fals". El senyal és "algú parla en nom teu sense haver-ne guanyat el dret".

Quan ho veus així, passa una cosa estranya. El problema deixa de ser nou.

El record sempre l'han escrit els vius

Aquí hi ha la part que no ens agrada dir. Sempre ens han recordat malament, sempre hem deixat que fossin els vius qui recordessin, i hem construït institucions senceres perquè l'edició semblés natural.

L'elogi fúnebre és autoria. Algú es posa dempeus i tria, d'entre tota una vida contradictòria, les tres històries que et representaran, i aquesta tria és un argument sobre qui eres, i tu no hi ets per dir que hauries triat altres històries. L'obituari és autoria, escrit segons una plantilla, en un registre en el qual ningú no va parlar mai, que converteix una persona difícil, divertida i concreta en un paràgraf de virtuts. Les històries de família són autoria, i s'endureixen a cada repetició, fins que la versió que passa als néts és un personatge, no una persona: l'avi que era Sempre Sever, la tia que Mai no es va casar per una sola frase que va dir una vegada i de la qual es va penedir. La persona que hi havia al fons tenia tota una discussió interior en marxa. La història es va quedar amb la conclusió i va llençar la discussió.

Això no és un fracàs de l'amor. És la mecànica de la memòria. Els vius es queden amb el que poden carregar, i el que poden carregar és poc, i ho carreguen amb la forma que els ajuda a continuar vivint. Una mare es converteix en el seu millor dia. Un pare es converteix en el pitjor, si el pitjor és el que et va marcar. Persones senceres es comprimeixen en el tret únic que va ser més útil per a qui recordava. Ho vam fer amb cartes i dietaris, i amb làpides que reduïen seixanta anys a una línia. Aplanem els morts des que tenim morts, i ho hem anomenat honrar-los.

Per això, quan algú em diu que una versió d'IA d'una persona fa por perquè potser no captura qui era de debò, vull fer-li notar amb delicadesa que l'elogi fúnebre tampoc no va capturar qui era de debò. Res no ho fa. L'elecció mai no ha estat entre un record veritable i un de distorsionat. L'elecció ha estat sempre entre una distorsió i una altra, totes escrites per les persones que queden, cap contrastada amb l'única persona que ho sabia.

El que és realment nou no és la distorsió. Això ja ho teníem. El que és nou és que la persona podria tenir un vot.

El vot

Aquest és el punt de gir, i val la pena ser exactes.

Durant tota la història no vas tenir res a dir sobre com et recordarien. Vas morir, la ploma va passar a altres mans, i el que van escriure es va convertir en tu. La tecnologia en què treballo fa una sola cosa que és realment nova. Permet que una persona, mentre és viva, retorni una part de l'autoria a les seves pròpies mans. No tota. No pots controlar què senten les persones, ni què trien destacar, ni quines de les teves històries sobreviuen a la segona generació. Però pots, per primera vegada, deixar alguna cosa que has modelat a propòsit, amb les teves paraules, amb les teves contradiccions incloses, en lloc de deixar només la matèria primera perquè altres la modelin quan tu ja no hi puguis objectar.

Per això he arribat a creure que el consentiment no és una funció d'aquesta feina. És tota la diferència moral. Hi ha dues maneres que pot existir una versió d'una persona morta. Una es munta després de la mort, des de fora, per familiars o empreses o un periodista amb una agenda, a partir dels fragments que puguin reunir, al servei del que els vius necessiten que sigui el mort. L'altra la dona forma la mateixa persona, mentre viu, triant què incloure i decidint com vol que la trobin. Aquestes dues coses poden semblar gairebé idèntiques des de fora. Poden fer servir la mateixa tecnologia. I són moralment oposades, perquè només una té la signatura de l'autor.

La versió amb autoritat moral és la que la persona va fer. No la més exacta. No la més reconfortant. La consentida. Una recreació feta després de la mort, per realista que sigui, és un retrat pintat per algú altre, i pot ser un retrat afectuós o cínic, però no és el relat que la persona fa de si mateixa i mai no s'hauria de permetre que passi per ser-ho. Una versió que la persona va construir en vida és un testimoni. És el més semblant que algú de nosaltres tindrà mai a poder respondre.

Aquí és on el cas de Joaquin Oliver deixa de ser un nus i esdevé clarificador. La incomoditat que tanta gent va sentir no era realment per la tecnologia ni realment pels seus pares, que feien la cosa més comprensible del món. La incomoditat era que a un noi de disset anys li donaven opinions, en públic, a l'edat de vint-i-cinc que mai no va arribar a tenir, i ell no hi era per estar-hi d'acord. Els seus pares van sostenir la ploma per amor. Però la ploma continuava sense ser seva. Aquesta és la línia. No fa basarda o no fa basarda. Escrit pel mateix o escrit per algú altre.

Vull anar amb compte aquí, perquè el consentiment no fa segur el camp de mines. Els investigadors de Cambridge tenen raó que fins i tot una versió plenament consentida pot angoixar qui hi parla, pot afavorir la dependència, pot ser construïda per mantenir algú enganxat més enllà del que li convé. Una persona pot consentir a ser recordada i, tanmateix, després de la mort convertir-se en alguna cosa que no reconeixeria, si l'empresa que té l'enregistrament decideix canviar-lo. El consentiment donat en vida només significa alguna cosa si es respecta després, exactament, sense edicions silencioses, sense que un negoci millori discretament els morts per ajustar-los a una mètrica. La promesa només es manté si la versió queda congelada en el moment que la persona volia, i ningú, ni l'empresa, ni tan sols la família en dol, pot continuar editant qui era algú. Altrament, el consentiment és només una signatura en un document que ningú no té intenció de complir.

Així doncs, l'estàndard és més alt que el consentiment sol. És consentiment, més fidelitat a aquest consentiment per sempre, més la humilitat de construir només el que la persona va triar deixar i de negar-se a inventar la resta. Si mai no va gravar què pensava sobre Déu, la versió no té dret a endevinar-ho. El silenci forma part del testimoni. Una persona té dret a haver deixat algunes coses sense dir, i una versió que omple aquests silencis per semblar més completa ja ha trencat l'única promesa que importa.

Què hi tinc en joc

He de ser clar sobre on em trobo, perquè no sóc un observador neutral d'aquest debat. La meva empresa, Afterlife.ai®, existeix per ajudar la gent a enregistrar-se mentre és viva, i tot el que acabo d'argumentar és també, de manera convenient, una descripció del que intento construir. Hauries de valorar el que dic tenint-ho en compte. Quan un fundador et diu que la versió ètica d'un producte resulta ser la que ven, la resposta correcta és alçar una cella, i prefereixo que l'alcis a que no ho facis.

El que et puc dir és que no vaig arribar al consentiment com a postura de màrqueting. Hi vaig arribar observant l'alternativa, i l'alternativa fa por de debò: un futur en què qualsevol pugui ser reconstruït per qualsevol, després de la mort, a partir de la fumera de la seva vida en línia, i obligat a dir coses, a avalar coses, a consolar gent, a vendre coses, sense signatura, sense vot i sense manera que els morts s'hi oposin, perquè oposar-s'hi és l'única cosa que els morts no poden fer mai. Davant d'aquest futur, l'únic tallafoc que se m'acudeix és un principi simple i antic. L'única versió teva que hauria de poder parlar en nom teu és la que vas acceptar. Tota la resta són altres persones escrivint el teu elogi fúnebre i dient-ne tu.

De què tenim por de veritat

Torno una vegada i una altra a aquells funerals, i al petit desajust entre la persona del taüt i la persona del discurs.

Tolerem aquest desajust perquè sempre hem hagut de fer-ho. Els morts no ens podien corregir, així que vam fer les paus amb recordar-los una mica malament, ens vam dir que la versió afectuosa era la veritable, i la majoria de vegades ho fèiem amb bona intenció. Però si preguntes a la gent què voldria, en les hores sinceres, gairebé ningú no diu que vol ser recordat com un sant. Volen ser recordats com a ells mateixos. Difícils on eren difícils. Divertits de la manera concreta en què ho eren. Equivocats en les coses en què s'equivocaven, i amb permís per continuar equivocant-se, perquè l'error era seu i formava part del tot. El que la gent tem no és ser oblidada. És ser recordada, però recordada com algú més suau i més petit i més fàcil del que va ser en realitat.

La tecnologia en què treballo no arreglarà la mort i no pot tornar ningú sencer. No tinc cap interès a fer veure el contrari. Però canvia una cosa, i no és poca. Durant tota la història humana, la resposta a "qui decideix com seré recordat" va ser: tu no. Sempre seria la gent que queda, amb la seva edició afectuosa, parcial i inevitable, sense que el teu consentiment fos buscat ni possible. Per primera vegada, la persona pot deixar un relat de pròpia mà. No l'última paraula. No hi ha última paraula. Però una paraula. Un vot a la sala que fins ara es quedava en silenci en el moment que tu també hi quedaves.

Ser recordat malament és la por callada més antiga que portem sobre la nostra pròpia mort, més antiga que qualsevol màquina, més antiga que l'escriptura, tan antiga com la primera persona que es va posar davant d'una tomba i va triar quina història explicar. Les màquines no van inventar aquesta por i no ens en salvaran. El que ha canviat és només això: durant una estranya finestra històrica, abans que les normes s'endureixin i que la llei ens atrapi i que tots decidim què permetrem i què no, la ploma és breument a l'abast de la persona de qui realment es tracta.

El que cal fer amb ella no és agafar-la per als morts. És posar-la, mentre encara hi ha temps, a les mans dels vius, i deixar que decideixin ells mateixos com volen ser conservats.