A alternativa ética aos griefbots
Um griefbot é um sistema de IA que simula uma pessoa morta, em geral construído depois que ela morreu a partir das mensagens, gravações e publicações que deixou, para que os enlutados possam manter uma espécie de conversa com ela. A alternativa ética a um griefbot não é abandonar o desejo por trás dele, que é profundamente humano, mas inverter a ordem do consentimento: em vez de recriar alguém após a morte sem o seu acordo, você constrói uma representação governada de si mesmo enquanto está vivo, tendo escolhido isso livremente. Essa única diferença, quem consentiu e quando, separa uma prática contra a qual muitos especialistas em ética alertam de outra que uma pessoa pode defender.
Esta página apresenta o que um griefbot de fato é, onde reside o sério problema ético, o que pesquisadores e especialistas em ética disseram a respeito e como se parece, na prática, uma alternativa baseada no consentimento. O objetivo é ser justo, não alarmista. O impulso de continuar conversando com alguém que você perdeu não é uma falha a ser repreendida. A questão é apenas como isso é feito e se a pessoa sendo recriada algum dia teve voz no assunto.
O problema ético central: recriar alguém que nunca consentiu
A característica definidora da maioria dos griefbots, e a raiz da dificuldade ética, é que eles são construídos a partir dos mortos, não pelos mortos. Uma família enlutada ou uma empresa reúne os textos antigos, as notas de voz e as publicações sociais de uma pessoa e treina um modelo para falar como ela. O falecido é a matéria-prima. Ele nunca é o autor e, o que é crucial, nunca foi consultado.
Isso importa porque uma simulação convincente faz afirmações em nome de uma pessoa. Ela produz frases que ela nunca disse, opiniões que ela talvez nunca tenha tido, tranquilizações que ela nunca ofereceu. Os mortos não podem corrigi-la, não podem se opor e não podem se retirar. Uma representação à qual a pessoa não consentiu e que não pode governar é, no fundo, alguém falando por uma pessoa que já não pode falar por si, e apresentando isso como a própria voz dessa pessoa. Por mais conforto que ofereça, ela parte de um lugar onde a pessoa nunca concordou em estar.
A griefbot is built of the dead. A Persona is built by the living.
A linha do consentimento
Quase toda questão ética significativa sobre essa tecnologia se resume a uma única linha: a pessoa representada era um autor que consentiu ou um sujeito que não consentiu? De um lado está o griefbot típico, montado após a morte a partir de dados que a pessoa deixou para outros fins, governado por quem detém esses dados, sem prestar contas a ninguém. Do outro está uma representação que a própria pessoa construiu, enquanto viva, decidindo o que ela contém e o que ela nunca afirmará.
Esta é a distinção entre um griefbot ou um deadbot, termos para a recriação a posteriori, e uma Persona baseada no consentimento, criada com antecedência. As palavras soam parecidas e a tecnologia se sobrepõe, mas, do ponto de vista ético, elas são quase opostas. Uma toma uma voz; a outra recebe uma. A presença ou a ausência do consentimento da própria pessoa não é um detalhe. É a questão inteira.
Aqui, o consentimento também tem que significar mais do que uma caixa marcada uma única vez. Significa que a pessoa escolheu o que entrou, pode moldar como aquilo se comporta e definiu as regras de quem pode acessá-la e quando. Um consentimento que a pessoa não pode exercer porque já partiu não é, de fato, o consentimento dela. É por isso que o momento importa tanto quanto o acordo: a única pessoa que pode verdadeiramente consentir em ser representada é a que está viva.
O que dizem a pesquisa e os especialistas em ética
As análises sérias sobre essa tecnologia se tornaram mais cautelosas à medida que as ferramentas melhoraram. A cobertura em veículos como a Scientific American ponderou se os griefbots de fato ajudam os enlutados ou correm o risco de mantê-los presos no lugar, e observou que as evidências estão longe de ser conclusivas. A conclusão cuidadosa em boa parte desses textos não é que a tecnologia seja inútil, mas que seus benefícios são condicionais e seus riscos são reais.
A discussão acadêmica e ética, incluindo trabalhos divulgados em veículos como o The Conversation, pressionou com mais força especificamente sobre a questão do consentimento. Pesquisadores nessa área argumentaram que recriar uma pessoa sem o seu acordo prévio pode violar sua dignidade, que famílias e empresas podem ter interesses que divergem do que a pessoa morta teria desejado, e que deveria haver salvaguardas que impeçam uma pessoa simulada de ser usada, monetizada ou levada a dizer coisas que a original jamais diria. O tema recorrente é a governança: quem controla a representação, sob a autoridade de quem e com quais limites.
Lido em conjunto, esse corpo de trabalho não diz que o desejo de permanecer conectado é errado. Diz que esse desejo deve ser atendido de uma forma que respeite a pessoa sendo representada, e que o consentimento e o controle são as condições sob as quais isso é possível. Esse é um padrão que uma abordagem baseada no consentimento foi projetada para cumprir, e que um griefbot a posteriori estruturalmente não consegue.
Os danos documentados dos deadbots não consentidos
Além da questão de princípio, vários danos concretos foram documentados ou seriamente defendidos. Vale nomeá-los com clareza, porque são as razões pelas quais a cautela se justifica, não abstrações.
Recriação sem consentimento: o dano mais básico é representar uma pessoa que nunca concordou com isso, colocando em sua boca palavras e opiniões que ela não pode contestar.
Interferência no luto: uma simulação que está sempre disponível pode, para algumas pessoas, adiar o trabalho do luto em vez de aliviá-lo, mantendo os enlutados presos a uma presença que não pode realmente mudar ou crescer.
Captura comercial: quando um griefbot é operado por uma empresa, a pessoa morta pode se tornar um produto, com sua imagem retida, monetizada ou reaproveitada por uma parte que ela nunca autorizou.
Desvio e fabricação: um modelo treinado para soar como alguém preencherá lacunas inventando, produzindo afirmações que a pessoa nunca fez e que a família pode erroneamente tomar como autênticas.
Nenhum desses danos é inevitável em todos os casos, e é justamente esse o ponto. Eles decorrem de uma estrutura, construir a representação após a morte, sem consentimento, sob controle externo, que quase garante ao menos alguns deles. Mude a estrutura e a maioria desses riscos desaparece. Ferramentas projetadas para que os enlutados conversem com um ente querido falecido por meio de IA ou conversem com uma versão de IA de alguém que morreu ficam exatamente sobre essa linha de falha e, onde são construídas sem o consentimento da pessoa, herdam exatamente esses problemas.
A alternativa baseada no consentimento: construa a sua enquanto está vivo
A alternativa é simples de enunciar. Em vez de deixar que alguém seja recriado após a morte sem o seu acordo, a pessoa constrói a sua própria representação enquanto está viva, como autora dela. Na Afterlife AI™, isso é uma Persona: um registro governado e baseado no consentimento de quem você é, extraído apenas do que você de fato fornece, abrangendo as muitas dimensões de uma pessoa real, em vez de ser raspado de dados deixados para trás.
Como a própria pessoa é a autora, os danos acima são tratados na raiz, em vez de remendados depois. Há consentimento, porque você escolheu criá-la. Não há fabricação do tipo que os griefbots arriscam, porque ela se baseia apenas na memória verificada que você forneceu, em vez de adivinhar para preencher o silêncio. E há governança, porque você define os termos enquanto pode. O desejo de permanecer conectado é honrado, mas a pessoa no centro dele manteve sua voz na decisão.
The only person who can consent to being represented is the living one.
Como fazer isso de forma responsável
Fazer isso bem tem menos a ver com a tecnologia do que com as condições em torno dela. A representação de uma pessoa deve ser criada por essa pessoa, extraída de memória verificada, e não de inferência, e colocada sob um controle claro e duradouro sobre quem pode acessá-la e quando. Essas condições são o que separa uma prática respeitosa de uma extrativa, seja qual for o nome que se dê a ela.
O controle é a parte mais fácil de ignorar e a mais importante de acertar. O Executor Lock™ foi feito para fornecê-lo: ele governa quem pode ativar uma Persona e quando, dá a um executor nomeado a palavra final e torna o resultado permanente uma vez definido, de modo que não pode ser retreinado, alterado ou comercializado após a sua morte. Essa permanência é o que transforma uma representação de algo que poderia ser tomado e modificado em algo que permanece como a pessoa deixou. É a resposta estrutural aos danos de captura comercial e de desvio que mais preocupam os especialistas em ética.
Se o que você quer é um lugar ao qual aqueles que você ama possam voltar, os mesmos princípios produzem um memorial de IA governado que respeita a pessoa de quem se lembra, porque a própria pessoa o construiu e o delimitou. A diferença entre isto e um griefbot não é o conforto que ele oferece aos enlutados, que pode ser real em ambos os casos. A diferença é que, aqui, o conforto não vem às custas do consentimento daquele que está sendo lembrado.
Então, a alternativa ética a um griefbot não é a recusa do desejo por trás dele. É um reordenamento dele. Recriar os mortos sem o seu acordo pede aos enlutados que aceitem uma voz que a pessoa nunca aprovou. Construir uma Persona enquanto se está vivo, governada e baseada no consentimento, permite que uma pessoa decida por si mesma como estará presente depois que partir, e mantém essa decisão protegida. A tecnologia é parecida. A ética não é. Toda a diferença está em quem consentiu, e quando.