L'alternative éthique aux griefbots
Un griefbot est un système d'IA qui simule une personne décédée, généralement construit après sa mort à partir des messages, des enregistrements et des publications qu'elle a laissés, afin que les proches endeuillés puissent poursuivre une sorte de conversation avec elle. L'alternative éthique à un griefbot n'est pas d'abandonner le désir qui le sous-tend, lequel est profondément humain, mais d'inverser l'ordre du consentement : au lieu de recréer quelqu'un après sa mort sans son accord, vous construisez une représentation encadrée de vous-même de votre vivant, l'ayant choisie librement. Cette seule différence, qui a consenti et quand, sépare une pratique que de nombreux éthiciens mettent en garde de celle qu'une personne peut assumer.
Cette page expose ce qu'est réellement un griefbot, où réside le sérieux problème éthique, ce qu'en ont dit les chercheurs et les éthiciens, et à quoi ressemble en pratique une alternative fondée sur le consentement. L'objectif est d'être juste plutôt qu'alarmiste. L'élan de continuer à parler à quelqu'un que l'on a perdu n'est pas un défaut à réprimander. La seule question est de savoir comment cela se fait, et si la personne recréée a jamais eu son mot à dire.
Le problème éthique central : recréer quelqu'un qui n'a jamais consenti
La caractéristique déterminante de la plupart des griefbots, et la racine de la difficulté éthique, est qu'ils sont construits à partir des morts, et non par eux. Une famille endeuillée ou une entreprise rassemble les anciens textos, mémos vocaux et publications sociales d'une personne et entraîne un modèle à s'exprimer comme elle. Le défunt est la matière première. Il n'est jamais l'auteur, et surtout on ne lui a jamais demandé son avis.
Cela importe parce qu'une simulation convaincante formule des affirmations au nom d'une personne. Elle produit des phrases qu'elle n'a jamais prononcées, des opinions qu'elle n'a peut-être jamais eues, des réconforts qu'elle n'a jamais offerts. Le défunt ne peut ni la corriger, ni s'y opposer, ni la retirer. Une représentation à laquelle le sujet n'a pas consenti et qu'il ne peut gouverner revient, au fond, à quelqu'un qui parle pour une personne qui ne peut plus parler pour elle-même, et qui le présente comme la propre voix de cette personne. Quel que soit le réconfort qu'elle offre, elle part d'un endroit où le sujet n'a jamais accepté de se tenir.
A griefbot is built of the dead. A Persona is built by the living.
La ligne du consentement
Presque toute question éthique significative sur cette technologie se ramène à une seule ligne : la personne représentée était-elle un auteur consentant, ou un sujet non consentant ? D'un côté, il y a le griefbot typique, assemblé après la mort à partir de données que la personne a laissées à d'autres fins, gouverné par quiconque détient ces données, ne répondant à personne. De l'autre, il y a une représentation qu'une personne a construite elle-même, de son vivant, décidant de ce qu'elle contient et de ce qu'elle ne prétendra jamais.
C'est la distinction entre un griefbot ou un deadbot, des termes pour la recréation après coup, et une Persona fondée sur le consentement et rédigée à l'avance. Les mots se ressemblent et la technologie se recoupe, mais sur le plan éthique, ils sont presque opposés. L'un prend une voix ; l'autre en reçoit une. La présence ou l'absence du consentement du sujet lui-même n'est pas un détail. C'est toute la question.
Le consentement, ici, doit aussi signifier plus qu'une case cochée une seule fois. Il signifie que la personne a choisi ce qui y figure, peut façonner son comportement et a fixé les règles déterminant qui peut y accéder et quand. Un consentement que le sujet ne peut exercer parce qu'il est déjà parti n'est pas vraiment son consentement. C'est pourquoi le moment compte autant que l'accord : la seule personne qui puisse véritablement consentir à être représentée est la personne vivante.
Ce que disent la recherche et les éthiciens
Les commentaires sérieux sur cette technologie sont devenus plus prudents à mesure que les outils s'amélioraient. Des articles dans des revues telles que Scientific American ont examiné si les griefbots aident véritablement les personnes en deuil ou risquent de les figer dans leur peine, et ont noté que les preuves sont loin d'être établies. La conclusion prudente qui ressort d'une grande partie de ces écrits n'est pas que la technologie est sans valeur, mais que ses bénéfices sont conditionnels et que ses risques sont réels.
La discussion académique et éthique, y compris des travaux mis en avant dans des revues comme The Conversation, a insisté plus fermement sur la question du consentement en particulier. Les chercheurs dans ce domaine ont soutenu que recréer une personne sans son accord préalable peut porter atteinte à sa dignité, que les familles et les entreprises peuvent avoir des intérêts qui divergent de ce que le défunt aurait voulu, et qu'il devrait exister des garde-fous empêchant qu'une personne simulée soit utilisée, monétisée ou amenée à dire des choses que l'original n'aurait jamais dites. Le thème récurrent est la gouvernance : qui contrôle la représentation, au nom de quelle autorité, et avec quelles limites.
Lus ensemble, ces travaux ne disent pas que le désir de rester connecté est mauvais. Ils disent que ce désir devrait être servi d'une manière qui respecte la personne représentée, et que le consentement et le contrôle sont les conditions sous lesquelles cela peut se faire. C'est une norme qu'une approche fondée sur le consentement est conçue pour respecter, et qu'un griefbot construit après coup ne peut structurellement pas atteindre.
Les préjudices documentés des deadbots non consentis
Au-delà de la question de principe, plusieurs préjudices concrets ont été documentés ou sérieusement argumentés. Il vaut la peine de les nommer clairement, car ce sont les raisons pour lesquelles la prudence s'impose, et non des abstractions.
Recréation sans consentement : le préjudice le plus fondamental est de représenter une personne qui n'y a jamais consenti, en lui prêtant des mots et des opinions qu'elle ne peut contester.
Interférence avec le deuil : une simulation toujours disponible peut, pour certaines personnes, retarder le travail de deuil plutôt que de l'apaiser, en gardant la personne endeuillée attachée à une présence qui ne peut vraiment ni changer ni évoluer.
Captation commerciale : lorsqu'un griefbot est exploité par une entreprise, le défunt peut devenir un produit, son image étant conservée, monétisée ou réutilisée par une partie qu'il n'a jamais autorisée.
Dérive et fabrication : un modèle entraîné à ressembler à quelqu'un comblera les vides en inventant, produisant des déclarations que la personne n'a jamais faites et que la famille pourrait à tort prendre pour authentiques.
Aucun de ces préjudices n'est inévitable dans chaque cas, et c'est précisément là le point. Ils découlent d'une structure, construire la représentation après la mort, sans consentement, sous un contrôle extérieur, qui garantit presque qu'au moins certains d'entre eux se produiront. Changez la structure et la plupart de ces risques disparaissent. Les outils conçus pour permettre aux personnes endeuillées de parler à un proche décédé par l'IA ou de parler à une version IA d'une personne décédée se situent exactement sur cette ligne de faille, et là où ils sont construits sans le consentement du sujet, ils héritent exactement de ces problèmes.
L'alternative fondée sur le consentement : construire la vôtre de votre vivant
L'alternative est simple à énoncer. Plutôt que de laisser quelqu'un être recréé après sa mort sans son mot à dire, une personne construit sa propre représentation de son vivant, en tant qu'auteur de celle-ci. Chez Afterlife AI™, il s'agit d'une Persona : un dossier encadré et fondé sur le consentement de qui vous êtes, tiré uniquement de ce que vous fournissez réellement, à travers les multiples dimensions d'une personne réelle plutôt que récupéré à partir de données laissées de côté.
Parce que le sujet est l'auteur, les préjudices ci-dessus sont traités à la racine plutôt que rapiécés après coup. Il y a consentement, parce que vous avez choisi de la créer. Il n'y a pas de fabrication du genre de celle que risquent les griefbots, parce qu'elle s'appuie uniquement sur des souvenirs vérifiés que vous avez fournis, plutôt que de deviner pour combler le silence. Et il y a gouvernance, parce que vous en fixez les termes pendant que vous le pouvez. Le désir de rester connecté est honoré, mais la personne au cœur de ce désir a gardé sa voix dans la décision.
The only person who can consent to being represented is the living one.
Comment le faire de manière responsable
Bien faire les choses tient moins à la technologie qu'aux conditions qui l'entourent. La représentation d'une personne devrait être rédigée par cette personne, tirée de souvenirs vérifiés plutôt que d'inférences, et placée sous un contrôle clair et durable sur qui peut y accéder et quand. Ce sont ces conditions qui séparent une pratique respectueuse d'une pratique extractive, quel que soit son nom.
Le contrôle est la partie la plus facile à négliger et la plus importante à bien gérer. L'Executor Lock™ est conçu pour l'assurer : il régit qui peut activer une Persona et quand, donne le dernier mot à un exécuteur désigné, et rend le résultat permanent une fois défini, de sorte qu'il ne peut être réentraîné, modifié ni commercialisé après votre décès. Cette permanence est ce qui transforme une représentation, qui pourrait être prise et modifiée, en quelque chose qui demeure tel que la personne l'a laissé. C'est la réponse structurelle aux préjudices de captation commerciale et de dérive qui inquiètent le plus les éthiciens.
Si ce que vous souhaitez est un lieu où ceux que vous aimez peuvent revenir, les mêmes principes produisent un mémorial IA encadré qui respecte la personne dont il garde le souvenir, parce que cette personne l'a construit et délimité elle-même. La différence entre cela et un griefbot n'est pas le réconfort qu'il offre aux personnes endeuillées, qui peut être réel dans les deux cas. La différence est qu'ici, le réconfort ne se fait pas au détriment du consentement de celui dont on garde le souvenir.
Ainsi, l'alternative éthique à un griefbot n'est pas le refus du désir qui le sous-tend. C'est une réorganisation de ce désir. Recréer les morts sans leur accord demande aux personnes endeuillées d'accepter une voix que le sujet n'a jamais approuvée. Construire une Persona de son vivant, encadrée et fondée sur le consentement, permet à une personne de décider elle-même de la manière dont elle sera présente après son départ, et protège cette décision. La technologie est similaire. L'éthique ne l'est pas. Toute la différence tient à qui a consenti, et quand.