La alternativa ética a los griefbots
Un griefbot es un sistema de IA que simula a una persona fallecida, normalmente construido después de su muerte a partir de los mensajes, las grabaciones y las publicaciones que dejó atrás, para que los seres queridos en duelo puedan mantener una especie de conversación con ella. La alternativa ética a un griefbot no consiste en abandonar el deseo que lo motiva, que es profundamente humano, sino en invertir el orden del consentimiento: en lugar de recrear a alguien tras su muerte sin su acuerdo, construyes una representación regida de ti mismo mientras estás vivo, habiéndolo elegido libremente. Esa única diferencia, quién consintió y cuándo, separa una práctica contra la que muchos especialistas en ética advierten de otra que una persona puede respaldar.
Esta página expone qué es realmente un griefbot, dónde reside el problema ético serio, qué han dicho al respecto los investigadores y los especialistas en ética, y cómo se ve en la práctica una alternativa basada en el consentimiento. El objetivo es ser justo en lugar de alarmista. El impulso de seguir hablando con alguien que has perdido no es un defecto que merezca reproche. La única pregunta es cómo se hace, y si la persona que se recrea llegó a tener alguna voz en el asunto.
El problema ético central: recrear a alguien que nunca consintió
El rasgo distintivo de la mayoría de los griefbots, y la raíz de la dificultad ética, es que están hechos de los muertos, no por ellos. Una familia en duelo o una empresa reúne los antiguos mensajes, las notas de voz y las publicaciones sociales de una persona y entrena un modelo para que hable como ella. El fallecido es la materia prima. Nunca es el autor y, lo que es crucial, nunca se le preguntó.
Esto importa porque una simulación convincente hace afirmaciones en nombre de una persona. Produce frases que nunca dijo, opiniones que quizá nunca sostuvo, palabras de consuelo que nunca ofreció. El fallecido no puede corregirla, no puede objetar y no puede retirarse. Una representación a la que el sujeto no consintió y que no puede gobernar es, en el fondo, alguien hablando por una persona que ya no puede hablar por sí misma, y presentándolo como la propia voz de esa persona. Cualquiera que sea el consuelo que ofrezca, parte de un lugar en el que el sujeto nunca aceptó situarse.
A griefbot is built of the dead. A Persona is built by the living.
La línea del consentimiento
Casi toda pregunta ética significativa sobre esta tecnología se reduce a una sola línea: ¿era la persona representada un autor que consintió, o un sujeto que no consintió? De un lado está el griefbot típico, ensamblado tras la muerte a partir de datos que la persona dejó para otros fines, regido por quien sea que posea esos datos, sin rendir cuentas a nadie. Del otro está una representación que una persona construyó ella misma, mientras estaba viva, decidiendo qué contiene y qué nunca afirmará.
Esta es la distinción entre un griefbot o un deadbot, términos para la recreación posterior a los hechos, y una Persona basada en el consentimiento y creada con antelación. Las palabras suenan parecidas y la tecnología se solapa, pero éticamente son casi opuestas. Una toma una voz; a la otra se le da una. La presencia o ausencia del propio consentimiento del sujeto no es un detalle. Es toda la cuestión.
El consentimiento aquí también tiene que significar más que una casilla marcada una sola vez. Significa que la persona eligió qué se incluyó, puede dar forma a su comportamiento y estableció las reglas sobre quién puede acceder a ella y cuándo. Un consentimiento que el sujeto no puede ejercer porque ya no está no es realmente su consentimiento en absoluto. Por eso el momento importa tanto como el acuerdo: la única persona que puede consentir verdaderamente a ser representada es la que está viva.
Qué dicen la investigación y los especialistas en ética
Los comentarios serios sobre esta tecnología se han vuelto más cautelosos a medida que las herramientas han mejorado. La cobertura en medios como Scientific American ha sopesado si los griefbots realmente ayudan a los dolientes o corren el riesgo de mantenerlos estancados, y ha señalado que la evidencia dista mucho de ser concluyente. La conclusión prudente en buena parte de estos escritos no es que la tecnología carezca de valor, sino que sus beneficios son condicionales y sus riesgos son reales.
El debate académico y ético, incluido el trabajo difundido en espacios como The Conversation, ha insistido con más fuerza en la cuestión del consentimiento en concreto. Los investigadores en este ámbito han sostenido que recrear a una persona sin su acuerdo previo puede vulnerar su dignidad, que las familias y las empresas pueden tener intereses que difieren de lo que el fallecido habría querido, y que debería haber salvaguardas que impidan que una persona simulada sea utilizada, monetizada o forzada a decir cosas que la original nunca diría. El tema recurrente es la gobernanza: quién controla la representación, con qué autoridad y con qué límites.
Leídos en conjunto, estos trabajos no dicen que el deseo de seguir conectado sea erróneo. Dicen que ese deseo debe atenderse de una manera que respete a la persona representada, y que el consentimiento y el control son las condiciones bajo las cuales puede hacerse. Ese es un estándar que un enfoque basado en el consentimiento está diseñado para cumplir, y que un griefbot posterior a los hechos estructuralmente no puede alcanzar.
Los daños documentados de los deadbots no consentidos
Más allá de la cuestión de principio, se han documentado o argumentado con seriedad varios daños concretos. Vale la pena nombrarlos con claridad, porque son las razones por las que la cautela está justificada, no abstracciones.
Recreación sin consentimiento: el daño más básico es representar a una persona que nunca lo aceptó, poniendo en su boca palabras y opiniones que no puede rebatir.
Interferencia con el duelo: una simulación que siempre está disponible puede, para algunas personas, retrasar el trabajo del duelo en lugar de aliviarlo, manteniendo a quienes están en duelo atados a una presencia que no puede cambiar ni crecer de verdad.
Apropiación comercial: cuando un griefbot es operado por una empresa, el fallecido puede convertirse en un producto, con su imagen conservada, monetizada o reutilizada por una parte que nunca autorizó.
Deriva y fabricación: un modelo entrenado para sonar como alguien rellenará los vacíos inventando, produciendo afirmaciones que la persona nunca hizo y que la familia puede tomar erróneamente como auténticas.
Ninguno de estos daños es inevitable en todos los casos, y ese es precisamente el punto. Se derivan de una estructura, construir la representación tras la muerte, sin consentimiento, bajo control externo, que casi garantiza al menos algunos de ellos. Cambia la estructura y la mayoría de estos riesgos desaparecen. Las herramientas diseñadas para que quienes están en duelo puedan hablar con un ser querido fallecido a través de la IA o hablar con una versión de IA de alguien que murió se sitúan exactamente sobre esta línea de fractura, y allí donde se construyen sin el consentimiento del sujeto, heredan exactamente estos problemas.
La alternativa basada en el consentimiento: construye la tuya mientras estás vivo
La alternativa es sencilla de enunciar. En lugar de permitir que alguien sea recreado tras su muerte sin su voz, una persona construye su propia representación mientras está viva, como autora de ella. En Afterlife AI™, eso es una Persona: un registro regido y basado en el consentimiento de quién eres, extraído únicamente de lo que tú realmente aportas, a lo largo de las muchas dimensiones de una persona real, en lugar de recopilado de datos sobrantes.
Como el sujeto es el autor, los daños anteriores se abordan de raíz en lugar de parchearse después. Hay consentimiento, porque elegiste crearla. No hay fabricación del tipo que arriesgan los griefbots, porque se basa únicamente en recuerdos verificados que tú aportaste, en lugar de adivinar para llenar el silencio. Y hay gobernanza, porque estableces las condiciones mientras puedes. El deseo de seguir conectado se honra, pero la persona en el centro de él conservó su voz en la decisión.
The only person who can consent to being represented is the living one.
Cómo hacerlo de forma responsable
Hacer esto bien tiene menos que ver con la tecnología que con las condiciones que la rodean. La representación de una persona debe ser creada por esa persona, extraída de recuerdos verificados en lugar de inferencias, y puesta bajo un control claro y duradero sobre quién puede acceder a ella y cuándo. Esas condiciones son las que separan una práctica respetuosa de una extractiva, sea cual sea su nombre.
El control es la parte más fácil de pasar por alto y la más importante de acertar. El Executor Lock™ está construido para proporcionarlo: gobierna quién puede activar una Persona y cuándo, otorga a un albacea designado la última palabra, y hace que el resultado sea permanente una vez establecido, de modo que no se puede reentrenar, alterar ni comercializar tras tu muerte. Esa permanencia es lo que convierte una representación, de algo que podría ser tomado y modificado, en algo que permanece tal como la persona lo dejó. Es la respuesta estructural a los daños de apropiación comercial y deriva que más preocupan a los especialistas en ética.
Si lo que quieres es un lugar al que puedan regresar aquellos a quienes amas, los mismos principios producen un memorial de IA regido que respeta a la persona que recuerda, porque esa persona lo construyó y lo delimitó ella misma. La diferencia entre esto y un griefbot no es el consuelo que ofrece a quienes están en duelo, que puede ser real en ambos casos. La diferencia es que aquí, el consuelo no se obtiene a costa del consentimiento de quien es recordado.
Así que la alternativa ética a un griefbot no es el rechazo del deseo que lo motiva. Es una reordenación de él. Recrear a los muertos sin su acuerdo pide a quienes están en duelo que acepten una voz que el sujeto nunca aprobó. Construir una Persona mientras se está vivo, regida y basada en el consentimiento, permite que una persona decida por sí misma cómo estará presente después de partir, y mantiene esa decisión protegida. La tecnología es similar. La ética no lo es. Toda la diferencia está en quién consintió, y cuándo.