Hi ha una manera correcta i una d'errònia de crear una IA d'una persona. Tota la diferència és el consentiment.
Hi ha una manera correcta i una d'errònia de crear una IA que soni com algú a qui estimes, i tota la diferència és el consentiment, donat mentre la persona és viva. Una IA que ha creat ella mateixa a partir dels seus propis records, acceptant que se la recordi d'aquesta manera, és una imatge escollida. Una construïda a partir d'un mort que mai no hi va estar d'acord li és presa. El consentiment és la línia, i només es pot traçar des d'un dels dos costats.
El dia en què Joaquin Oliver hauria fet vint-i-cinc anys, un periodista es va asseure a entrevistar-lo. Joaquin feia set anys que era mort. Tenia disset anys quan el van matar en el tiroteig de 2018 a l'institut Marjory Stoneman Douglas de Parkland, a Florida, una de les disset persones assassinades aquell dia. Els seus pares han dedicat els anys següents a fer campanya per posar fi a la violència amb armes, i van crear una versió d'IA del seu fill per portar la seva veu a una lluita a la qual ell ja no pot unir-se. El 4 d'agost de 2025, l'antic presentador de la CNN Jim Acosta va publicar una conversa gravada amb aquesta IA, i la reacció va ser immediata i furiosa (TheWrap, 5 d'agost de 2025).
Vull ser prudent a l'hora d'explicar per què va ser furiosa, perquè els motius fàcils són els equivocats, i els motius equivocats ens portaran a prohibir les coses equivocades. No va ser furiosa perquè la tecnologia fos barroera, ni perquè el dol sigui privat, ni perquè els pares fossin res més que persones amb el cor trencat que feien el que les persones amb el cor trencat han fet sempre, que és negar-se a deixar marxar un fill en silenci. Va ser furiosa perquè un noi de disset anys no pot acceptar convertir-se en un xatbot, i el van convertir en un igualment, persones que l'estimaven, per una causa que potser ell també hauria fet seva. L'amor hi era. El dol hi era. L'única cosa que hi faltava, per estructura i per sempre, era Joaquin. Aquest article tracta d'aquesta absència, perquè és tot l'argument.
Quina és la diferència real entre una manera correcta i una d'errònia de crear una IA d'una persona?
Comencem amb dues IA que es comporten exactament igual. Totes dues parlen amb la cadència de la persona. Totes dues coneixen les històries de la família. A totes dues els pots fer una pregunta i et responen com hauria respost la persona. Vistes des de fora, a la interfície, són indistingibles. I tanmateix una és un acte d'autoria i l'altra un acte d'apropiació, i per molt que estudiïs el resultat mai no podràs saber quina és quina. La diferència no és al model. És a la història de com ha arribat a existir el model.
La ciberpsicòloga Elaine Kasket, professora visitant del Centre for Death and Society de la Universitat de Bath, resumeix la pregunta central de tot el camp en una sola frase: «Va acceptar el difunt, explícitament o implícitament, convertir-se en un xatbot?» (Elaine Kasket, «Què són els xatbots del dol?»). Adverteix que, sense polítiques clares, «correm el risc de crear una vida digital després de la mort en què els morts són remesclats, monetitzats o reinventats sense la seva capacitat d'acció ni el consentiment informat dels seus éssers estimats». Llegeix aquesta frase a poc a poc. Remesclats. Monetitzats. Reinventats. Això són coses que es fan a un objecte. No són coses que li passen a una persona que encara és a la sala.
Així doncs, aquesta és la distinció tan clara com sé formular-la. Una IA d'una persona que parteix del consentiment es construeix cap endavant, pels vius, com una decisió. La persona s'asseu, tria què enregistrar, tria què deixar fora, i accepta, per endavant i per escrit, que se la recordi d'aquesta manera quan sigui morta. Una IA extreta de rastres es construeix cap enrere, des de fora, després de la mort, a partir de missatges de text, missatges de veu i xarxes socials que la persona va deixar per a altres finalitats, per algú que decideix en nom seu que això és el que hauria volgut. Una és un testament. L'altra és una conjectura vestida de homenatge.
El resultat pot ser idèntic. L'ètica mai no ho és. Una la va escriure la persona. L'altra es va escriure sobre ella.
El motiu pel qual això importa més cada any és que endevinar es fa més fàcil i més barat. Les eines que abans requerien un laboratori de recerca ara requereixen una tarda, i el nombre de persones que s'ofereixen a endevinar per tu creix ràpidament.
L'ètica de la IA que imita els morts, en xifres (a juliol de 2026)
El debat no és hipotètic ni marginal. És una indústria viva, amb una literatura acadèmica creixent que li demana comptes. Aquest és l'estat real de la qüestió, amb les fonts.
Més d'una mitja dotzena de plataformes ofereixen ara recrear els morts com a IA interactiva, segons un reportatge d'una de les principals revistes científiques del món (Nature, setembre de 2025). Els defensors diuen que consola els que estan de dol; els escèptics, que complica el dol. Les dues coses poden ser certes.
Un únic estudi revisat per parells va analitzar sis d'aquests serveis pel seu nom: Seance AI, Eternos, You Only Virtual, HereAfter AI, Project December i re;memory, i hi va examinar les suposicions que fan sobre com se li permet ser al dol «normal» (ScienceDirect, gener de 2026).
L'article d'ètica més citat del camp, d'investigadors de Cambridge, planteja tres escenaris diferents de com es construeixen aquests sistemes, des d'una persona que cedeix les seves pròpies dades fins a una empresa que reconstrueix algú a partir del que va deixar, i recomana el consentiment mutu, proteccions de la dignitat i maneres dignes de retirar un bot (Hollanek i Nowaczyk-Basińska, Philosophy & Technology, 9 de maig de 2024).
La pràctica és més antiga que l'onada actual d'IA. Project December, un dels primers serveis que va permetre crear xatbots dels morts, es va llançar el setembre de 2020 sobre un dels primers grans models de llenguatge, es va fer viral quan un home el va fer servir per reviure una simulació de la seva promesa difunta, i poc després el seu proveïdor li va restringir l'accés al model subjacent (The Register, 8 de setembre de 2021).
El periodisme científic generalista ja tracta la qüestió com una secció fixa i no com una curiositat: un reportatge de novembre de 2025 va sospesar si aquests sistemes ajuden els qui estan de dol a curar-se, i hi van parlar terapeutes i filòsofs de les dues posicions (Scientific American, 18 de novembre de 2025).
Fixa't cap a on convergeix aquesta literatura. No cap a «prohibeu-ho». No cap a «construïu-ho lliurement». La paraula que es repeteix, article rere article, és consentiment. El camp ja ha trobat el mur de càrrega. El desacord només és si algú construirà sobre ell.
Per què el consentiment de la persona viva ho canvia tot?
Perquè els morts no poden objectar, i un dret que no es pot exercir no és un dret. Aquesta és l'asimetria que hi ha sota tots els casos difícils. Quan crees una IA d'una persona viva sense demanar-ho, ella pot assabentar-se'n, escandalitzar-se i fer que ho deixis. Quan en crees una d'una persona morta sense haver-ho demanat, no queda ningú que pugui dir que no. El seu silenci no és un acord. El seu silenci és tot el problema.
Un article d'ètica dedicat als xatbots del dol sosté que el consentiment ha de cobrir tres actes separats, no un: el consentiment a la creació de la Persona, el consentiment al seu ús continuat i el consentiment a la seva supressió, a més d'un consentiment específic per fer servir la imatge i la veu de la persona (ScienceDirect, 2026). Pensa en quants d'aquests no pot donar un mort. Una persona recreada després de morir no va consentir res. Ni la creació, ni el funcionament, ni el final, ni la cara, ni la veu. Totes aquestes decisions es van prendre per ella, per algú que és fora de la seva vida i la llegeix com un llibre que mai no va acceptar que es publiqués.
Els investigadors de Cambridge plantegen el dany en termes de dignitat. «És important prioritzar la dignitat del difunt», diu Katarzyna Nowaczyk-Basinska, «i assegurar que els motius econòmics dels serveis de vida digital després de la mort no hi interfereixin» (Universitat de Cambridge, 9 de maig de 2024, segons SciTechDaily). Dignitat és exactament la paraula adequada, perquè la dignitat és el que protegeix el consentiment. Una persona que va escollir que la recordessin d'una manera determinada conserva la dignitat fins i tot en una màquina, perquè la màquina està complint els seus desitjos. Una persona reconstruïda contra la seva voluntat, o simplement sense ella, ha vist com la seva dignitat la decidia un comitè al qual no va ser convidada.
Els morts no poden consentir. Això no és un tecnicisme que s'hagi d'esquivar. És el motiu pel qual existeix tota la qüestió.
Per això el cas de Parkland és el cas difícil i no el net. Els pares de Joaquin no són uns malvats, i no ho fingiré per fer un argument més ordenat. Van actuar des del dol i des de la convicció. Però una Persona d'un menor que mai no va acceptar, creada i parlada després de la seva mort per defensar una posició, no pot treure la seva autoritat de Joaquin, perquè Joaquin no en va donar mai cap. Només pot treure-la dels seus pares, i en el moment en què ho admetem, l'«entrevista» esdevé el que realment és: el missatge dels seus pares, amb la seva veu robada. Pot ser un missatge que val la pena escoltar. Tot i així, no és el seu.
Però un xatbot del dol que realment consola una persona en dol no és una cosa bona?
Aquesta és l'objecció més forta a tot el que he escrit, i vull defensar-la amb tota la seva força en lloc de tombar una versió feble. El dol no és un problema que s'hagi de resoldre, però és una ferida, i el consol no és res menor. Els terapeutes entrevistats en la cobertura recent descriuen pacients que van trobar un consol real en una conversa més, una oportunitat més de dir allò que havia quedat per dir (Scientific American, 18 de novembre de 2025). Alguns investigadors que estudien persones grans i aïllades en dol han trobat que aquestes interaccions alleugerien la solitud. Si una vídua passa vint minuts sentint una manera de parlar familiar i s'aixeca més lleugera, qui sóc jo, o qualsevol especialista en ètica, per dir-li que ha fet alguna cosa malament? Aquesta és una pregunta seriosa i es mereix una resposta seriosa, no una consigna.
Aquesta és la concessió honesta. El consol és real, i la condemna generalitzada de tots els xatbots del dol és una posició còmoda per a persones que no són les que estan de dol. Negar aquest consol per principi pot ser una forma de crueltat.
I tanmateix el consol dels vius no respon, ni pot respondre, el consentiment de la persona que es recrea, perquè són dues persones diferents amb dues pretensions diferents. La necessitat de qui està de dol és real. L'absència d'acord de la persona morta també ho és. Quan col·lideixen, «però a mi m'ajuda» és un argument sobre el benestar de qui està de dol, i l'objecció ètica mai no va tractar d'aquest benestar. Tractava de si podem reclutar algú per a una actuació per a la qual mai no va fer cap prova, per molt que la seva actuació ens calmés. Una rèplica massa perfecta, feta per cobrir la nostra necessitat, ha substituït en silenci la persona per la necessitat mateixa. El consol és genuí. També és, quan no hi va haver consentiment, un consol comprat amb la dignitat d'una altra persona, i qui paga no té vot perquè és mort.
Hi ha un cost més, que els qui estan de dol acaben pagant ells mateixos. Alguns clínics i escriptors es preocupen ara que un bot sempre disponible permeti a la persona en dol mantenir la relació en l'exterior i en marxa, en lloc de fer la feina interior més difícil de deixar que el mort esdevingui record (Nature, setembre de 2025). Aquesta preocupació la tinc amb prudència, perquè la recerca és jove i el dol no és una sola cosa. Però assenyala la mateixa línia de falla des de l'altre costat. Una Persona que la persona va crear per a tu, i va acabar, i va segellar, és un regal complet al qual pots tornar. Una Persona que continues generant, per sempre, a demanda, a partir d'un model que respondrà qualsevol cosa que li preguntis, és una porta que has deixat encallada oberta cap a una habitació que la persona ja va deixar.
I les persones que han de rebre el missatge?
El consentiment, resulta, té dos costats, i la intuïció més aguda del camp és que no parem d'oblidar el segon. No només ha d'estar-hi d'acord la persona recreada. També la persona a l'altre costat de la conversa, aquella a qui parlarà la Persona.
Tomasz Hollanek, un dels autors de Cambridge, ho diu directament: «És vital que els serveis de vida digital després de la mort considerin els drets i el consentiment no només dels qui recreen, sinó dels qui hauran d'interactuar amb les simulacions» (Universitat de Cambridge, 9 de maig de 2024). Adverteix del que anomena «aparicions digitals no desitjades», una expressió que val la pena conservar. Imagina la Persona que un pare o una mare en dol crea d'un fill, i que després llega a un germà que no la volia, i que ara rep missatges d'un germà mort que encara estava aprenent a plorar. Imagina un servei que manté una Persona activa, i la seva subscripció viva, enviant de tant en tant missatges no sol·licitats, perquè el model de negoci és la interacció i un bot callat no es renova.
Aquí és on les bones intencions i els mals incentius se separen. Una Persona creada pensant en qui la rebrà, lliurada amb delicadesa, en el moment que escull el destinatari viu, respecta els dos consentiments. Una Persona empesa cap a la gent, que es reprodueix sola en un moment de dol cru, extraient atenció perquè un full de càlcul la necessita, no en respecta cap. Res d'un llegat no hauria d'arribar mai com una emboscada. La regla que mantinc, i diré amb franquesa que cap article acadèmic no l'enuncia amb aquestes paraules, així que l'ofereixo com a principi de disseny nostre i no com a conclusió citada, és aquesta: res en un context de dol no s'hauria de reproduir sol, i cap missatge dels morts no hauria d'arribar mai sense ser convidat. Cada trobada hauria de ser un toc escollit. Un regal s'ofereix. Només una aparició s'imposa.
El consentiment té dos costats. La persona recreada ha d'acceptar parlar. La persona que escolta ha d'acceptar sentir.
Posa els dos consentiments junts i tens tota la prova ètica, i és una prova que realment pots aplicar. La persona va acceptar, en vida, que se la recordés d'aquesta manera? I la persona que rep la Persona és lliure d'acceptar-la, a la seva manera i al seu ritme, o de marxar? Si les dues respostes són sí, tens davant un regal. Si qualsevol és no, tens davant una cosa presa a una persona i imposada a una altra, per molt d'amor que hi hagués a la sala quan es va fer.
L'estàndard que et deu una empresa que parteix del consentiment
Treballo en aquesta indústria, de manera que diré quin crec que és l'estàndard, sabent que et poso a les mans la mesura exacta amb què comparar la meva pròpia empresa. Aquest és el sentit. Un estàndard que no pots fer servir per demanar comptes a qui l'enuncia no és un estàndard, és màrqueting.
Això és el que crec que qualsevol empresa seriosa que parteixi del consentiment deu a la persona que recrea. La Persona l'ha de crear la persona viva, a propòsit, a partir del que ella va triar incloure, mai extreta dels morts i mai muntada des de fora. El consentiment ha de ser explícit, documentat i específic: a la creació, a l'ús, a la veu i a què passa després de la mort. Els desitjos de la persona, un cop establerts, s'han de respectar i no s'han de reescriure en silenci més tard per un familiar, un hereu o l'empresa mateixa. I tot plegat s'ha de construir per rebre's com un regal i no imposar-se com una aparició: escollit, mai reproduït automàticament, mai usat per cultivar l'atenció d'una persona en dol.
Aquest estàndard és el motiu pel qual Afterlife.ai® està construït com està, i pel qual diem que no a coses que serien més fàcils de dir que sí. La teva Persona només la crees tu, mentre ets viu, a partir dels records que tries afegir, una decisió rere l'altra. No construïm la Persona de ningú des de fora després que hagi mort, perquè no queda ningú que pugui consentir, i una Persona sense consentiment és exactament la cosa contra la qual argumenta aquest article. La veu es conserva amb tecnologia de veu professional i només mai a partir de la teva pròpia veu, amb el teu acord explícit que pugui parlar quan ja no hi siguis, un acord pres mentre encara el pots donar o negar. I Executor Lock™ existeix per respondre la pregunta que els serveis que extreuen dades no poden: en el moment que tries, el registre que has construït es segella com una instantània perfecta de qui eres. Cada conversa posterior només es nodreix d'aquest registre segellat, i el teu Executor governa l'accés però no pot reescriure qui eres. El teu consentiment, congelat. La teva dignitat, protegida.
Diré els límits amb la mateixa franquesa, perquè una empresa que només enumera el que pot fer està venent una cosa. No podem recrear una persona que no es va construir a si mateixa. No podem recuperar una veu que mai no es va enregistrar amb consentiment. No podem prometre que cap IA, la nostra inclosa, sigui un substitut d'una persona, i no farem veure que ho és; una Persona és una imatge viva que la persona ha escrit, no la persona tornada. Si vols la versió més completa de per què construir la teva pròpia, mentre ets viu, és l'única versió d'això que és teva per donar, vam fer per separat l'argument a favor de construir una IA de tu mateix. I si vols veure com l'enfocament que parteix del consentiment es diferencia, punt per punt, dels xatbots del dol sobre els quals ha anat voltant aquest article, aquesta comparació és una pàgina pròpia.
Què hauries de fer amb tot això mentre ets viu?
La resposta incòmoda és que l'única persona que pot construir el tipus correcte d'IA de tu ets tu, i l'únic moment en què ho pots fer és ara, mentre encara pots triar què hi entra i acceptar com s'utilitza. Tots els casos difícils d'aquest article existeixen perquè algú va esperar fins que la persona ja no podia consentir, i després la va estimar tant que va tirar endavant igualment.
Així doncs, la jugada pràctica no és témer la tecnologia ni jurar que no la faràs servir. És treure la decisió de les mans de la teva família i posar-la a les teves, on viu el consentiment. Decideix, mentre estàs sa, si vols que et recordin d'aquesta manera, perquè el dret a dir que no és tan part del consentiment com el dret a dir que sí. Si vols, construeix-la tu mateix, deliberadament, a partir del que realment vols que es transmeti, i fixa les condicions per a quan ja no hi siguis en lloc de deixar que s'endevinin. Si estàs valorant si la part de la veu és segura, vam escriure amb franquesa sobre si és segur clonar la veu i on són els riscos reals. I com que aquestes decisions no s'acaben a construir una Persona, val la pena entendre de qui és realment la teva vida digital després de la mort quan ja no hi siguis per gestionar-la.
El cas de Parkland continuarà sent citat, i ho ha de ser, perquè és el límit honest de tota aquesta qüestió: el lloc on l'amor i el consentiment es van separar, i l'amor va tirar endavant sol. La lliçó no és que els seus pares fessin res monstruós. La lliçó és que l'única persona que podia fer legítima aquella IA era Joaquin, i l'únic moment en què ho podia fer era mentre era viu. Aquesta finestra no es torna a obrir. Per a tu és oberta ara mateix, i només ara mateix, que és l'única cosa en què coincideixen tots els especialistes en ètica, tots els tribunals i tots els constructors honestos d'aquest camp: la decisió pertany a la persona, i la persona ha d'estar viva per prendre-la.
Construeix la versió de tu que consents. Així no deixaràs mai la pregunta a les persones que et van estimar massa per preguntar-ho.
Preguntes freqüents
Què fa que una Persona d'IA d'una persona morta sigui ètica o no ho sigui?
La línia divisòria és el consentiment de la persona recreada, donat mentre era viva. Una IA que una persona viva ha creat ella mateixa, triant què incloure i acceptant per endavant que se la recordi d'aquesta manera, és ètica perquè la seva autoritat ve d'ella. Una IA extreta dels missatges i la veu d'una persona morta després de la seva mort, per amorosa que sigui la intenció, no pot treure autoritat d'algú que mai no hi va estar d'acord. El comportament de les dues pot semblar idèntic; l'ètica mai ho és. El consentiment, com sostenen tant els investigadors de Cambridge com Elaine Kasket, és el principi de càrrega del camp.
És incorrecte que les famílies en dol facin servir xatbots del dol per consolar-se?
No, no simplement. El consol és real, i la condemna generalitzada és fàcil per a persones que no són les que estan de dol. L'objecció ètica és més estreta i més afilada: el consol dels vius no respon el consentiment de la persona recreada, perquè són dues persones diferents amb dues pretensions diferents. Una Persona que la persona va crear i segellar ella mateixa ofereix consol sense prendre la dignitat de ningú. Una reconstruïda d'una persona morta que mai no hi va estar d'acord ofereix el mateix consol a costa d'una altra persona, i aquesta persona no pot objectar perquè ja no hi és.
Es pot crear una IA d'algú que ja ha mort?
Tècnicament sí, i més d'una mitja dotzena de serveis ho ofereixen (Nature, setembre de 2025). Èticament, aquesta és la pràctica contra la qual argumenta aquest article, perquè una persona que ha mort no pot consentir res d'això: ni la creació, ni la veu, ni l'ús continuat, ni el final. Per això Afterlife AI™ només et deixa crear una Persona de tu mateix, mentre ets viu. El tipus correcte d'IA de tu només pot escriure'l tu, que és també el motiu per començar ara en lloc de deixar-ho a les persones que algun dia voldran poder preguntar-ho.
Qui ha de consentir, només la persona recreada?
Les dues parts. La persona recreada ha d'acceptar, mentre és viva, que se la recordi d'aquesta manera. Però els investigadors de Cambridge subratllen un segon consentiment fàcil d'oblidar: la persona que interactuarà amb la Persona ha de ser lliure d'acceptar-la a la seva manera, o de rebutjar-la. Tomasz Hollanek adverteix d'«aparicions digitals no desitjades», Persones imposades a gent que mai no les va demanar. Un llegat lliurat amb delicadesa, en un moment que tria el destinatari, respecta els dos consentiments. Un que es reprodueix sol o arriba sense ser convidat no en respecta cap.
En què es diferencia Afterlife AI™ d'un xatbot del dol?
Un xatbot del dol sol construir-se després de la mort, des de fora, a partir de dades que la persona va deixar per a altres finalitats. Una Persona a Afterlife AI™ la crees tu, mentre ets viu, a partir de records que tries deliberadament, amb el teu consentiment explícit sobre com es poden fer servir la teva veu i la teva imatge quan ja no hi siguis. Executor Lock™ segella llavors qui ets en un moment que tries, de manera que ningú et pugui reescriure més endavant. No construïm Persones dels morts des de fora. La comparació completa és a la nostra pàgina sobre l'alternativa ètica als xatbots del dol, i els plans són a preus.