O medo mais antigo de morrer não é ser esquecido. É ser lembrado do jeito errado.

Em quase todos os funerais a que já fui, há um pequeno momento em que a pessoa no caixão e a pessoa no elogio fúnebre discretamente deixam de combinar. Quem está sendo descrito é um pouco mais gentil do que aquele que eu conheci, um pouco mais paciente, com as arestas lixadas justamente onde a pessoa de verdade era interessante. Ninguém está mentindo. A sala está fazendo o que o luto sempre faz. Está escolhendo qual versão guardar, e escolhe com delicadeza, e a única pessoa que poderia objetar à edição é a única que não pode falar.

Não costumamos chamar isso pelo nome. Dizemos que foi uma bela cerimônia. Mas, por baixo das flores, uma decisão está sendo tomada sobre quem alguém foi, e os mortos não têm voto nela. Isso não é um problema novo inventado pela tecnologia. É a coisa mais antiga que acontece conosco depois que morremos. Somos entregues, por inteiro, à memória de outras pessoas, e a memória delas é parcial, e amorosa, e errada em cem pequenos detalhes que nunca teremos a chance de corrigir.

Eu desenvolvo software na parte do setor que permite que as pessoas se registrem em vida, para que algo da sua voz e das suas histórias sobreviva a elas. É o tipo de trabalho que desperta um medo muito específico, e já ouvi esse medo vezes suficientes para conhecer sua forma de cor. As pessoas me dizem que é assustador. Dizem que é falso, um fantoche usando o rosto de um morto. Dizem que é exploração, o luto transformado em assinatura. Essas objeções merecem ser levadas a sério, e eu vou levá-las. Mas passei a achar que não são o medo de verdade. São o medo que as pessoas conseguem dizer em voz alta num jantar. O mais profundo, aquele que realmente tira o sono, é mais silencioso e mais difícil de admitir.

O medo mais profundo é ser lembrado do jeito errado. Ser achatado. Ter as suas contradições alisadas até não sobrar nada além de uma caricatura que concorda com todo mundo. Ter uma única frase dita num único dia ruim ocupando o lugar de você inteiro, para sempre, só porque foi a frase que ficou guardada. Todos nós temos medo disso, e já tínhamos muito antes de alguém treinar um modelo com os dados de uma pessoa morta. A máquina não criou o medo. Apenas deu a ele um rosto para onde apontar.

As objeções, com toda a força

Deixe-me apresentar direito o argumento contra o meu próprio setor, porque as pessoas que o fazem não são excêntricas e não estão erradas em se preocupar.

Comece por Sherry Turkle, que passou décadas observando o que acontece quando as pessoas criam laços com coisas que não podem amá-las de volta. Em Alone Together, ela escreveu que se sentia "incomodada com a ideia de buscar intimidade com uma máquina que não tem sentimentos, não pode ter sentimentos, e é na verdade apenas uma coleção inteligente de performances do tipo 'como se', comportando-se como se se importasse, como se nos entendesse." Leia devagar. É a frase mais dura que conheço contra o meu próprio trabalho. Um sistema que fala com as cadências de um pai morto e diz as coisas que ele poderia ter dito está, em algum nível, encenando um cuidado que não tem. Ele se comporta como se. E uma pessoa em luto, que deseja tanto que seja real, é exatamente a menos preparada para manter o "como se" em mente.

A preocupação de Turkle não é que a tecnologia seja tosca. É que ela funciona bem o bastante para importar, e que vamos aceitar a encenação porque estamos sozinhos e a encenação está disponível às 2 da manhã, quando mais nada está.

Depois há Elaine Kasket, a psicóloga que escreveu All the Ghosts in the Machine, um livro sobre o que se torna de nós quando nossas vidas ficam guardadas em servidores que não são nossos. O assunto dela são os restos digitais: as fotos, as mensagens, as contas, todo o resíduo que uma pessoa deixa para trás, e o fato incômodo de que esse resíduo agora é um ativo que outras pessoas podem manter, mover, monetizar e remodelar. Depois que você morre, o seu eu vira dado, e dado tem guardiões, e os guardiões têm seus próprios interesses. A pergunta a que ela sempre volta não é se uma versão digital de você pode existir. É quem pode operá-la, e em benefício de quem, e se alguém perguntou a você primeiro.

E há ainda o trabalho mais cuidadoso que li sobre o assunto, um artigo de 2024 na Philosophy and Technology, de Tomasz Hollanek e Katarzyna Nowaczyk-Basińska, dois pesquisadores de Cambridge que estudam exatamente o canto do futuro em que eu trabalho. Só o título já nomeia aquilo de que as pessoas têm medo: griefbots, deadbots, avatares póstumos. Os alertas deles são específicos, e acho que estão certos. Hollanek advertiu que esses serviços "correm o risco de causar enorme sofrimento às pessoas se elas forem submetidas a assombrações digitais indesejadas por recriações de IA alarmantemente precisas de quem perderam." Ele foi além: "As pessoas podem desenvolver fortes laços emocionais com essas simulações, o que as tornará particularmente vulneráveis à manipulação." A coautora chamou toda essa área de "um campo minado ético", e escolheu a expressão com cuidado. Um campo minado não é um lugar que você se recusa a atravessar. É um lugar que você atravessa muito devagar, olhando onde pisa.

O que o artigo de Cambridge faz, e que a versão de jantar do medo nunca faz, é separar as pessoas envolvidas. Há a pessoa que está sendo recriada. Há a pessoa que está fazendo a recriação. E há quem acabe conversando com o resultado, que pode ser uma criança, que pode estar longe de estar pronta. Três pessoas diferentes, três conjuntos diferentes de direitos, e quase nenhum dos produtos desse setor pensou a sério no fato de que eles podem divergir. A necessidade de uma filha de ouvir a mãe de novo não é a mesma coisa que o desejo da mãe de ser ouvida, e o desejo de uma empresa de manter as duas engajadas não é a mesma coisa que o de nenhuma das duas.

Eu poderia acrescentar o caso a que todo mundo recorre. No verão de 2025, um jornalista fez uma entrevista com um avatar de IA de Joaquin Oliver, um garoto morto aos dezessete anos no massacre de Parkland, construído pelos pais em luto e lançado perto do aniversário que ele nunca teve. A reação foi imediata e, em sua maior parte, de repulsa. Macabro, disseram as pessoas. Perturbador. O pai respondeu aos críticos com uma dor tão direta que era difícil rebater: a inteligência artificial não matou o filho dele. É um caso genuinamente difícil, e eu o levanto não para resolvê-lo, mas para marcá-lo, porque ele reúne todos os fios deste ensaio num só nó. Uma pessoa real, que se foi. Pessoas que o amavam, agindo por amor. Uma versão dele dizendo coisas, em público, que ele nunca pôde decidir que diria.

Mantenha tudo isso com toda a força. O problema da encenação é real. O problema da custódia é real. O problema da assombração, o problema da manipulação, o problema das três pessoas, tudo real. Não vou tentar convencê-lo do contrário em nenhum deles.

O que as objeções têm em comum

Mas coloque-as lado a lado e perceba o que elas de fato compartilham. O "como se" de Turkle. Os guardiões de Kasket. As três partes separadas da equipe de Cambridge. Os pais de Joaquin Oliver decidindo, em nome dele, o que ele gostaria que fosse dito sobre armas. Cada uma dessas é, no fundo, uma preocupação com a autoria. Com quem está segurando a caneta. Com a distância entre a pessoa que viveu e a versão que agora fala em nome dela e, de forma crucial, com quem decide o que preenche essa distância.

Essa mudança de enquadramento importa mais do que parece, porque ela muda o lugar do perigo. O perigo nunca foi de fato a tecnologia. Uma gravação não é perigosa. Um modelo não é perigoso. O que é perigoso é uma versão de uma pessoa escrita por outra pessoa, por razões próprias, que a pessoa nunca viu e não pode corrigir. A estranheza que as pessoas sentem é um sinal, e o sinal não é "isto é falso". O sinal é "alguém está falando por você sem ter conquistado esse direito".

Quando você enxerga assim, uma coisa estranha acontece. O problema deixa de ser novo.

A memória sempre foi escrita pelos vivos

Eis a parte que não gostamos de dizer. Sempre fomos lembrados do jeito errado, sempre deixamos que os vivos fizessem a lembrança, e construímos instituições inteiras para fazer a edição parecer natural.

O elogio fúnebre é autoria. Alguém se levanta e seleciona, de uma vida inteira e contraditória, as três histórias que vão representar você, e a seleção é um argumento sobre quem você foi, e você não está lá para dizer que teria escolhido outras histórias. O obituário é autoria, escrito num modelo pronto, num registro em que ninguém jamais falou, que transforma uma pessoa difícil, engraçada e específica em um parágrafo de virtudes. As histórias de família são autoria, e endurecem a cada vez que são recontadas, até que a versão passada aos netos é um personagem, não uma pessoa: o avô que era Sempre Severo, a tia que Nunca Se Casou por causa de uma frase que disse uma vez e da qual se arrependeu. A pessoa por baixo tinha uma discussão interior inteira em andamento. A história ficou com a conclusão e jogou fora a discussão.

Isso não é uma falha de amor. É a mecânica da memória. Os vivos guardam o que conseguem carregar, e o que conseguem carregar é pouco, e carregam na forma que os ajuda a continuar vivendo. Uma mãe se torna o seu melhor dia. Um pai se torna o seu pior, se o pior foi o que marcou você. Pessoas inteiras são comprimidas no único traço mais útil para quem está lembrando. Fizemos isso com cartas e diários, e com lápides que reduziram sessenta anos a uma linha. Achatamos os mortos desde que temos mortos, e chamamos isso de honrá-los.

Então, quando alguém me diz que uma versão de IA de uma pessoa é assustadora porque pode não captar quem ela realmente foi, quero apontar com delicadeza que o elogio fúnebre também não captou quem ela realmente foi. Nada capta. A escolha nunca foi entre uma memória verdadeira e uma distorcida. A escolha sempre foi entre uma distorção e outra, todas escritas pelas pessoas que ficaram, nenhuma conferida com a única pessoa que sabia.

O que é genuinamente novo não é a distorção. Essa já tínhamos. O que é novo é que a pessoa pode ter um voto.

O voto

Este é o ponto de virada, e vale ser exato.

Durante toda a história, você não teve voz na própria lembrança. Você morria, e a caneta passava para outras mãos, e o que elas escrevessem se tornava você. A tecnologia em que trabalho faz exatamente uma coisa que é de fato nova. Ela permite que uma pessoa, em vida, devolva às próprias mãos um pouco da autoria. Não toda. Você não pode controlar o que as pessoas sentem, nem o que escolhem enfatizar, nem quais das suas histórias sobrevivem à segunda geração. Mas pode, pela primeira vez, deixar algo que você moldou de propósito, com as suas palavras, com as suas contradições mantidas, em vez de deixar apenas a matéria-prima para outras pessoas moldarem depois que você não puder mais objetar.

É por isso que passei a acreditar que o consentimento não é um recurso deste trabalho. É toda a diferença moral. Há duas maneiras de existir uma versão de uma pessoa morta. Uma é montada depois da morte, de fora, por parentes ou empresas ou um jornalista com uma pauta, a partir de quaisquer fragmentos que consigam reunir, a serviço do que os vivos precisam que os mortos sejam. A outra é moldada pela própria pessoa, em vida, escolhendo o que incluir, decidindo como quer ser encontrada. Essas duas coisas podem parecer quase idênticas por fora. Podem usar a mesma tecnologia de base. E são moralmente opostas, porque só uma delas leva a assinatura do autor.

A versão com legitimidade moral é a que a pessoa fez. Não a mais fiel. Não a mais reconfortante. A consentida. Uma recriação construída depois da morte, por mais realista que seja, é um retrato pintado por outra pessoa, e pode ser um retrato amoroso ou cínico, mas não é o relato que a pessoa faz de si mesma e jamais deveria poder passar por um. Uma versão que a pessoa construiu em vida é um testemunho. É a coisa mais próxima que qualquer um de nós terá de uma resposta.

É aqui que o caso de Joaquin Oliver deixa de ser um nó e passa a esclarecer. O desconforto que tantas pessoas sentiram não era de fato sobre a tecnologia e não era de fato sobre os pais dele, que faziam a coisa mais compreensível do mundo. O desconforto era que um garoto de dezessete anos estava recebendo opiniões, em público, aos vinte e cinco anos que ele nunca alcançou, e ele não estava lá para concordar. Os pais seguraram a caneta por amor. Mas a caneta ainda não era dele. Essa é a linha. Não é estranho ou não estranho. É escrito pelo próprio eu, ou escrito por outra pessoa.

Quero ter cuidado aqui, porque o consentimento não torna seguro o campo minado. Os pesquisadores de Cambridge têm razão em que até uma versão totalmente consentida pode angustiar quem conversa com ela, pode fomentar dependência, pode ser construída para manter alguém engajado além do ponto que lhe faz bem. Uma pessoa pode consentir em ser lembrada e ainda assim ser transformada, depois da morte, em algo que não reconheceria, se a empresa que guarda a gravação decidir mudá-la. O consentimento dado em vida só significa algo se for respeitado depois, exatamente, sem edições silenciosas, sem uma empresa melhorando discretamente os mortos para atender a uma métrica. A promessa só se sustenta se a versão ficar congelada no momento em que a pessoa a quis, e ninguém, nem a empresa, nem mesmo a família em luto, puder continuar editando quem alguém foi. Caso contrário, o consentimento é só uma assinatura num documento que ninguém pretende cumprir.

Então o padrão é mais alto do que o consentimento sozinho. É o consentimento, mais a fidelidade a esse consentimento para sempre, mais a humildade de construir apenas o que a pessoa escolheu deixar e de se recusar a inventar o resto. Se ela nunca registrou o que pensava sobre Deus, a versão não pode adivinhar. O silêncio faz parte do testemunho. Uma pessoa tem o direito de ter deixado algumas coisas por dizer, e uma versão que preenche esses silêncios para parecer mais completa já quebrou a única promessa que importa.

O interesse que tenho ao dizer isto

Devo ser franco sobre onde estou, porque não sou um observador neutro deste argumento. Minha empresa, a Afterlife.ai®, existe para ajudar as pessoas a se registrarem enquanto estão vivas, e tudo o que acabei de argumentar também é, convenientemente, uma descrição do que estou tentando construir. Você deve pesar o que digo de acordo com isso. Quando um fundador diz que a versão ética de um produto por acaso é a versão que ele vende, a resposta correta é erguer a sobrancelha, e prefiro que você a erga a que não erga.

O que posso dizer é que não cheguei ao consentimento como posição de marketing. Cheguei a ele observando a alternativa, e a alternativa é genuinamente assustadora: um futuro em que qualquer pessoa pode ser reconstruída por qualquer um, depois da morte, a partir do rastro da sua vida online, e levada a dizer coisas, endossar coisas, consolar pessoas, vender coisas, sem assinatura e sem voto e sem como os mortos objetarem, porque objetar é a única coisa que os mortos jamais podem fazer. Contra esse futuro, o único anteparo em que consigo pensar é um princípio simples e antiquado. A única versão de você que deveria poder falar em seu nome é aquela com que você concordou. Todo o resto são outras pessoas escrevendo o seu elogio fúnebre e chamando-o de você.

Do que realmente temos medo

Volto sempre àqueles funerais, e ao pequeno descompasso entre a pessoa no caixão e a pessoa no discurso.

Toleramos esse descompasso porque sempre precisamos. Os mortos não podiam nos corrigir, então fizemos as pazes com errar um pouco sobre eles, e dissemos a nós mesmos que a versão amorosa era a verdadeira, e na maioria das vezes agimos com boa intenção. Mas se você perguntar às pessoas o que elas querem, nas horas de sinceridade, quase ninguém diz que quer ser lembrado como um santo. Querem ser lembrados como eles mesmos. Difíceis onde foram difíceis. Engraçados do jeito específico em que eram engraçados. Errados nas coisas em que erravam, e com permissão de continuar errados, porque o erro era deles e fazia parte do todo. O que as pessoas temem não é ser esquecidas. É ser lembradas, mas lembradas como alguém mais liso, menor e mais fácil do que realmente foi.

A tecnologia em que trabalho não vai consertar a morte e não pode tornar ninguém inteiro de novo. Não tenho interesse em fingir o contrário. Mas ela muda uma coisa, e não é pouca. Durante toda a história humana, a resposta para "quem decide como serei lembrado" foi: não você. Sempre seriam as pessoas que ficavam, fazendo sua edição amorosa, parcial e inevitável, sem que o seu consentimento fosse buscado ou possível. Pela primeira vez, a pessoa pode deixar um relato de próprio punho. Não a última palavra. Não existe última palavra. Mas uma palavra. Um voto numa sala que costumava ficar em silêncio no instante em que você se calava.

Ser lembrado do jeito errado é o medo silencioso mais antigo que carregamos sobre a nossa própria morte, mais antigo do que qualquer máquina, mais antigo do que a palavra escrita, tão antigo quanto a primeira pessoa que ficou diante de um túmulo e escolheu qual história contar. As máquinas não inventaram esse medo e não nos salvarão dele. O que mudou é apenas isto: durante o espaço de uma estranha janela histórica, antes que as normas endureçam e a lei alcance e todos nós decidamos o que vamos ou não permitir, a caneta está brevemente ao alcance da pessoa de quem ela realmente trata.

A coisa honesta a fazer com ela não é tomá-la em nome dos mortos. É entregá-la, enquanto ainda há tempo, aos vivos, e deixar que decidam por si mesmos como gostariam de ser guardados.