La plus ancienne peur de mourir n'est pas d'être oublié. C'est d'être mal remémoré.

Presque à chaque enterrement auquel j'ai assisté, il y a un petit instant où la personne dans le cercueil et la personne de l'éloge funèbre cessent discrètement de se ressembler. Celle que l'on décrit est un peu plus gentille que celle que j'ai connue, un peu plus patiente, poncée là où la vraie personne était intéressante. Personne ne ment. La salle fait ce que le deuil fait toujours. Elle choisit quelle version garder, elle le fait avec douceur, et la seule personne qui pourrait s'opposer à la retouche est la seule à qui l'on ne donne pas la parole.

On ne donne d'habitude pas son vrai nom à cela. On parle d'une belle cérémonie. Mais sous les fleurs, on décide de qui était quelqu'un, et les morts n'ont pas voix au chapitre. Ce n'est pas un problème nouveau, inventé par la technologie. C'est la plus ancienne chose qui nous arrive après la mort. Nous sommes remis, tout entiers, à la mémoire des autres, et leur mémoire est partielle, aimante, et fausse de cent petites façons que nous n'aurons jamais l'occasion de corriger.

Je conçois des logiciels dans la branche du secteur qui permet aux gens de s'enregistrer de leur vivant, pour qu'une part de leur voix et de leurs histoires leur survive. Ce travail attire une peur très particulière, et je l'ai entendue assez souvent pour en connaître la forme par cœur. On me dit que c'est glauque. On me dit que c'est faux, une marionnette qui porte le visage d'un mort. On me dit que c'est de l'exploitation, un deuil transformé en abonnement. Ces objections méritent d'être prises au sérieux, et je le ferai. Mais je crois qu'elles ne sont pas la vraie peur. Ce sont celles que l'on peut dire à voix haute lors d'un dîner. La plus profonde, celle qui empêche réellement de dormir, est plus discrète et plus difficile à avouer.

La peur plus profonde est d'être mal remémoré. D'être aplati. De voir ses contradictions lissées jusqu'à ce qu'il ne reste qu'une caricature qui donne raison à tout le monde. De voir une phrase dite un mauvais jour tenir lieu de tout ce que l'on est, pour toujours, parce que c'est celle qui a été conservée. Nous avons tous peur de cela, et nous en avions peur bien avant que quiconque entraîne un modèle sur une personne décédée. La machine n'a pas créé cette peur. Elle lui a simplement donné un visage vers lequel la pointer.

Les objections, dans toute leur force

Laissez-moi plaider correctement contre ma propre industrie, car ceux qui le font ne sont pas des illuminés et ils n'ont pas tort de s'inquiéter.

Commençons par Sherry Turkle, qui observe depuis des décennies ce qui arrive quand les gens s'attachent à des choses incapables de les aimer en retour. Dans Alone Together (Seuls ensemble), elle écrit qu'elle était « troublée par l'idée de chercher l'intimité auprès d'une machine qui n'a pas de sentiments, ne peut pas en avoir, et n'est en réalité qu'un ingénieux assemblage de performances "comme si", qui se comporte comme si elle se souciait de nous, comme si elle nous comprenait. » Lisez lentement. C'est la phrase la plus dure que je connaisse contre mon propre travail. Un système qui parle avec les intonations d'un père décédé et dit les choses qu'il aurait pu dire joue, à un certain niveau, une attention qu'il n'a pas. Il se comporte comme si. Et une personne en deuil, qui désire si fort que ce soit réel, est précisément la moins armée pour garder à l'esprit ce « comme si ».

L'inquiétude de Turkle n'est pas que la technologie soit grossière. C'est qu'elle fonctionne assez bien pour compter, et que nous accepterons la performance parce que nous sommes seuls et qu'elle est disponible à 2 heures du matin, quand rien d'autre ne l'est.

Il y a ensuite Elaine Kasket, la psychologue qui a écrit All the Ghosts in the Machine, un livre sur ce que nous devenons une fois nos vies stockées sur des serveurs qui ne nous appartiennent pas. Son sujet, ce sont les restes numériques : les photos, les messages, les comptes, tout ce que laisse une personne derrière elle, et le fait inconfortable que ces restes sont désormais un actif que d'autres peuvent détenir, déplacer, monétiser et remodeler. Une fois mort, votre moi devient des données, les données ont des gardiens, et ces gardiens ont leurs propres intérêts. La question à laquelle elle revient sans cesse n'est pas de savoir si une version numérique de vous peut exister. C'est de savoir qui la fait fonctionner, dans l'intérêt de qui, et si quelqu'un vous a demandé votre avis d'abord.

Et puis il y a le travail le plus rigoureux que j'aie lu sur le sujet, un article de 2024 dans Philosophy and Technology de Tomasz Hollanek et Katarzyna Nowaczyk-Basińska, deux chercheurs de Cambridge qui étudient exactement le coin d'avenir où je travaille. Leur titre nomme à lui seul ce qui effraie : griefbots, deadbots, avatars post mortem. Leurs mises en garde sont précises, et je pense qu'ils ont raison. Hollanek a averti que ces services « risquent de causer une immense détresse aux personnes soumises à des hantises numériques non désirées, produites par des recréations d'IA d'une exactitude alarmante de ceux qu'elles ont perdus ». Il est allé plus loin : « Les gens pourraient développer de forts liens affectifs avec ces simulations, ce qui les rendra particulièrement vulnérables à la manipulation. » Sa coautrice a qualifié l'ensemble du domaine de « champ de mines éthique », et elle a choisi cette expression avec soin. Un champ de mines n'est pas un endroit qu'on refuse de traverser. C'est un endroit qu'on traverse très lentement, en regardant où l'on pose les pieds.

Ce que fait l'article de Cambridge, et que la version de la peur qu'on évoque au dîner ne fait jamais, c'est distinguer les personnes concernées. Il y a la personne que l'on recrée. Il y a celle qui la recrée. Et il y a celui ou celle qui finit par parler au résultat, qui peut être un enfant, et qui peut être loin d'y être prêt. Trois personnes différentes, trois ensembles de droits différents, et presque aucun des produits de ce domaine n'a sérieusement réfléchi au fait qu'ils peuvent diverger. Le besoin d'une fille d'entendre à nouveau sa mère n'est pas le souhait de sa mère d'être entendue, et le désir d'une entreprise de les garder toutes deux engagées n'est ni l'un ni l'autre.

Je pourrais ajouter le cas auquel tout le monde pense. À l'été 2025, un journaliste a mené un entretien avec un avatar d'IA de Joaquin Oliver, un garçon tué à dix-sept ans lors de la fusillade de Parkland, conçu par ses parents en deuil et dévoilé aux alentours de l'anniversaire qu'il n'a jamais eu. La réaction a été immédiate, et surtout de répulsion. Macabre, ont dit les gens. Dérangeant. Son père a répondu aux critiques par un chagrin si direct qu'il était difficile de le contredire : ce n'est pas l'intelligence artificielle qui a tué son fils. C'est un cas réellement difficile, et je l'évoque non pour le trancher mais pour le marquer, parce qu'il réunit en un seul nœud tous les fils de cet essai. Une personne réelle, disparue. Des gens qui l'aimaient, agissant par amour. Une version de lui disant des choses, en public, qu'il n'a jamais pu décider de dire.

Gardez tout cela dans toute sa force. Le problème de la performance est réel. Le problème de la garde est réel. Le problème de la hantise, celui de la manipulation, celui des trois personnes, tout est réel. Je ne vais pas vous convaincre de les écarter.

Ce que les objections ont en commun

Mais placez-les côte à côte et voyez ce qu'elles partagent vraiment. Le « comme si » de Turkle. Les gardiens de Kasket. Les trois parties prenantes distinctes de l'équipe de Cambridge. Les parents de Joaquin Oliver décidant, à sa place, ce qu'il voudrait dire des armes à feu. Chacune est, au fond, une inquiétude sur la paternité du récit. Sur qui tient la plume. Sur l'écart entre la personne qui a vécu et la version qui parle désormais en son nom, et surtout sur qui décide de ce qui comble cet écart.

Ce changement de cadre compte plus qu'il n'y paraît, parce qu'il déplace le danger. Le danger n'a jamais vraiment été la technologie. Un enregistrement n'est pas dangereux. Un modèle n'est pas dangereux. Ce qui est dangereux, c'est une version d'une personne écrite par quelqu'un d'autre, pour ses propres raisons, que la personne n'a jamais vue et ne peut pas corriger. Le malaise que les gens ressentent est un signal, et ce signal n'est pas « c'est faux ». Le signal est « quelqu'un parle pour vous sans en avoir gagné le droit ».

Une fois qu'on le voit ainsi, une chose étrange se produit. Le problème cesse d'être nouveau.

La mémoire a toujours été écrite par les vivants

Voici ce que nous n'aimons pas dire. Nous avons toujours été mal remémorés, nous avons toujours laissé les vivants faire le travail de mémoire, et nous avons bâti des institutions entières pour que la retouche paraisse naturelle.

L'éloge funèbre est un acte d'écriture. Quelqu'un se lève et choisit, dans toute une vie contradictoire, les trois histoires qui vous représenteront, et ce choix est un argument sur qui vous étiez, et vous n'êtes pas là pour dire que vous auriez choisi d'autres histoires. La notice nécrologique est un acte d'écriture, rédigée sur un modèle, dans un registre que personne n'a jamais parlé, qui transforme une personne difficile, drôle, singulière en un paragraphe de vertus. Les histoires de famille sont un acte d'écriture, et elles se figent à chaque récit, jusqu'à ce que la version transmise aux petits-enfants soit un personnage, pas une personne : le grand-père qui était Toujours Sévère, la tante qui n'a Jamais Épousé personne à cause d'une phrase qu'elle a dite un jour et regrettée. La personne en dessous menait tout un débat intérieur. L'histoire a gardé la conclusion et jeté le débat.

Ce n'est pas un manque d'amour. C'est la mécanique de la mémoire. Les vivants gardent ce qu'ils peuvent porter, ce qu'ils peuvent porter est peu, et ils le portent sous la forme qui les aide à continuer de vivre. Une mère devient son meilleur jour. Un père devient son pire, si son pire est celui qui vous a marqué. Des personnes entières sont comprimées en l'unique trait qui était le plus utile à ceux qui se souviennent. Nous l'avons fait avec les lettres et les journaux intimes, et avec des pierres tombales qui réduisaient soixante ans à une ligne. Nous aplatissons les morts depuis que nous avons des morts, et nous appelions cela leur rendre hommage.

Alors quand on me dit qu'une version d'IA d'une personne est effrayante parce qu'elle pourrait ne pas saisir qui elle était vraiment, j'ai envie de faire doucement remarquer que l'éloge funèbre n'a pas non plus saisi qui elle était vraiment. Rien ne le fait. Le choix n'a jamais été entre un souvenir fidèle et un souvenir déformé. Il a toujours été entre une déformation et une autre, toutes écrites par ceux qui restent, aucune vérifiée auprès de la seule personne qui savait.

Ce qui est vraiment nouveau, ce n'est pas la déformation. Nous l'avions déjà. Ce qui est nouveau, c'est que la personne puisse avoir son mot à dire.

Le vote

C'est le point de bascule, et il vaut la peine d'être exact.

De toute l'histoire, vous n'avez eu aucun mot à dire sur la façon dont on se souvient de vous. Vous mouriez, la plume passait en d'autres mains, et tout ce qu'on y écrivait devenait vous. La technologie sur laquelle je travaille fait exactement une chose réellement nouvelle. Elle permet à une personne, de son vivant, de reprendre en main une partie de la paternité de son récit. Pas toute. Vous ne pouvez pas contrôler ce que les gens ressentent, ni ce qu'ils choisissent de mettre en avant, ni lesquelles de vos histoires survivront à la deuxième génération. Mais vous pouvez, pour la première fois, laisser quelque chose que vous avez façonné exprès, avec vos propres mots, en y laissant vos contradictions, plutôt que de laisser seulement la matière brute que d'autres façonneront quand vous ne pourrez plus vous y opposer.

C'est pourquoi j'en suis venu à croire que le consentement n'est pas une fonctionnalité de ce travail. Il en est toute la différence morale. Il y a deux façons dont une version d'une personne décédée peut voir le jour. L'une est assemblée après la mort, de l'extérieur, par des proches, des entreprises ou un journaliste qui a son idée, à partir des fragments qu'ils peuvent réunir, au service de ce dont les vivants ont besoin que les morts soient. L'autre est façonnée par la personne elle-même, de son vivant, qui choisit ce qu'elle inclut et décide comment elle veut être rencontrée. Ces deux choses peuvent paraître presque identiques de l'extérieur. Elles peuvent utiliser la même technologie. Et elles sont moralement opposées, parce qu'une seule porte la signature de l'auteur.

La version qui a une légitimité morale est celle que la personne a faite. Pas la plus fidèle. Pas la plus réconfortante. La version consentie. Une recréation construite après la mort, aussi ressemblante soit-elle, est un portrait peint par quelqu'un d'autre, qui peut être un portrait aimant ou cynique, mais ce n'est pas le récit que la personne fait d'elle-même et on ne devrait jamais le laisser passer pour tel. Une version que la personne a construite de son vivant est un témoignage. C'est ce qui ressemble le plus, pour chacun de nous, à une façon de répondre.

C'est là que le cas de Joaquin Oliver cesse d'être un nœud et devient éclairant. Le malaise que tant de gens ont ressenti ne portait pas vraiment sur la technologie, ni vraiment sur ses parents, qui faisaient la chose la plus compréhensible du monde. Le malaise tenait à ce qu'un garçon de dix-sept ans se voyait prêter des opinions, en public, à l'âge de vingt-cinq ans qu'il n'a jamais atteint, sans être là pour les approuver. Ses parents tenaient la plume par amour. Mais la plume n'était toujours pas la sienne. Voilà la ligne. Non pas glauque ou pas glauque. Écrit par soi-même, ou écrit par quelqu'un d'autre.

Je veux être prudent ici, car le consentement ne rend pas le champ de mines sûr. Les chercheurs de Cambridge ont raison de dire que même une version pleinement consentie peut angoisser la personne qui lui parle, peut favoriser la dépendance, peut être conçue pour garder quelqu'un engagé au-delà de ce qui est bon pour lui. Une personne peut consentir à être remémorée et être tout de même transformée, après sa mort, en quelque chose qu'elle ne reconnaîtrait pas, si l'entreprise qui détient l'enregistrement décide de le modifier. Le consentement donné de son vivant n'a de sens que s'il est honoré ensuite, exactement, sans retouches silencieuses, sans qu'une entreprise améliore discrètement les morts pour satisfaire un indicateur. La promesse ne tient que si la version est figée au moment où la personne l'a voulue, et que personne, ni l'entreprise, ni même la famille en deuil, ne continue de modifier qui était quelqu'un. Sinon le consentement n'est qu'une signature sur un document que personne n'a l'intention de respecter.

Le critère est donc plus exigeant que le seul consentement. C'est le consentement, plus la fidélité à ce consentement pour toujours, plus l'humilité de ne construire que ce que la personne a choisi de laisser et de refuser d'inventer le reste. Si elle n'a jamais enregistré ce qu'elle pensait de Dieu, la version n'a pas le droit de deviner. Le silence fait partie du témoignage. Une personne a le droit d'avoir laissé certaines choses non dites, et une version qui comble ces silences pour paraître plus complète a déjà rompu la seule promesse qui compte.

Mon intérêt à le dire

Je dois être clair sur ma position, car je ne suis pas un observateur neutre de ce débat. Mon entreprise, Afterlife.ai®, existe pour aider les gens à s'enregistrer de leur vivant, et tout ce que je viens de soutenir est aussi, commodément, une description de ce que j'essaie de construire. Vous devriez peser mes propos en conséquence. Quand un fondateur vous dit que la version éthique d'un produit est justement celle qu'il vend, la bonne réaction est un sourcil levé, et je préfère que vous le leviez plutôt que non.

Ce que je peux vous dire, c'est que je ne suis pas arrivé au consentement comme à une position marketing. J'y suis arrivé en observant l'alternative, et l'alternative est réellement effrayante : un avenir où n'importe qui peut être reconstitué par n'importe qui, après sa mort, à partir des déchets de sa vie en ligne, et amené à dire des choses, à approuver des choses, à consoler des gens, à vendre des choses, sans signature, sans vote et sans aucun moyen pour les morts de s'y opposer, parce que s'opposer est la seule chose que les morts ne pourront jamais faire. Face à cet avenir, le seul pare-feu auquel je pense est un principe simple et ancien. La seule version de vous qui devrait être autorisée à parler en votre nom est celle que vous avez acceptée. Tout le reste, ce sont d'autres personnes qui écrivent votre éloge funèbre et l'appellent vous.

Ce que nous craignons vraiment

Je reviens sans cesse à ces enterrements, et au petit décalage entre la personne dans le cercueil et la personne dans le discours.

Nous tolérons ce décalage parce qu'il a toujours fallu le faire. Les morts ne pouvaient pas nous corriger, alors nous avons fait la paix avec le fait de les faire un peu faux, nous nous sommes dit que la version aimante était la vraie, et la plupart du temps nous voulions bien faire. Mais si vous demandez aux gens ce qu'ils voudraient, aux heures d'honnêteté, presque personne ne dit vouloir être remémoré comme un saint. Ils veulent être remémorés tels qu'ils étaient. Difficiles là où ils étaient difficiles. Drôles de la façon précise dont ils étaient drôles. Dans l'erreur sur ce sur quoi ils se trompaient, et autorisés à continuer de se tromper, parce que l'erreur était la leur et faisait partie du tout. Ce que les gens craignent n'est pas d'être oubliés. C'est d'être remémorés, mais remémorés comme quelqu'un de plus lisse, de plus petit et de plus facile qu'ils ne l'étaient vraiment.

La technologie sur laquelle je travaille ne réparera pas la mort et ne peut rendre personne à nouveau entier. Je n'ai aucune envie de prétendre le contraire. Mais elle change une chose, et ce n'est pas une petite chose. Pendant toute l'histoire humaine, la réponse à « qui décide de la façon dont on se souvient de moi » était : pas vous. Ce serait toujours ceux qui restent, avec leur retouche aimante, partielle et inévitable, sans que votre consentement soit demandé ni possible. Pour la première fois, la personne peut laisser un récit de sa propre main. Pas le dernier mot. Il n'y a pas de dernier mot. Mais un mot. Une voix dans la pièce qui se taisait autrefois à l'instant où vous vous taisiez.

Être mal remémoré est la plus ancienne peur silencieuse que nous portons à propos de notre propre mort, plus ancienne que toute machine, plus ancienne que l'écriture, aussi ancienne que la première personne qui s'est tenue devant une tombe et a choisi quelle histoire raconter. Les machines n'ont pas inventé cette peur et elles ne nous en sauveront pas. Ce qui a changé tient en ceci : le temps d'une étrange fenêtre historique, avant que les normes ne se figent, que la loi ne rattrape son retard et que nous décidions tous de ce que nous permettrons ou non, la plume est brièvement à portée de la personne dont il s'agit vraiment.

Ce qu'il faut en faire, honnêtement, ce n'est pas de la saisir au nom des morts. C'est de la remettre, tant qu'il en est encore temps, aux vivants, et de les laisser décider eux-mêmes de la manière dont ils souhaitent être gardés.