Die ethische Alternative zu Griefbots
Ein Griefbot ist ein KI-System, das eine verstorbene Person simuliert, in der Regel nach ihrem Tod aus den Nachrichten, Aufnahmen und Beiträgen aufgebaut, die sie hinterlassen hat, sodass die Hinterbliebenen eine Art Gespräch mit ihr fortführen können. Die ethische Alternative zu einem Griefbot besteht nicht darin, den dahinterstehenden Wunsch aufzugeben, der zutiefst menschlich ist, sondern darin, die Reihenfolge der Einwilligung umzukehren: Statt jemanden nach dem Tod ohne sein Einverständnis nachzubilden, bauen Sie zu Lebzeiten eine geregelte Darstellung Ihrer selbst auf, die Sie frei gewählt haben. Dieser eine Unterschied, wer eingewilligt hat und wann, trennt eine Praxis, vor der viele Ethiker warnen, von einer, hinter der ein Mensch stehen kann.
Diese Seite legt dar, was ein Griefbot tatsächlich ist, wo das ernsthafte ethische Problem liegt, was Forschende und Ethiker dazu gesagt haben und wie eine einwilligungsbasierte Alternative in der Praxis aussieht. Das Ziel ist, fair statt alarmierend zu sein. Der Drang, mit jemandem weiterzusprechen, den Sie verloren haben, ist kein Fehler, der zu tadeln wäre. Die Frage ist allein, wie es geschieht und ob die nachgebildete Person je ein Mitspracherecht hatte.
Das ethische Kernproblem: jemanden nachbilden, der nie eingewilligt hat
Das bestimmende Merkmal der meisten Griefbots, und die Wurzel der ethischen Schwierigkeit, ist, dass sie aus den Verstorbenen gemacht werden, nicht von ihnen. Eine trauernde Familie oder ein Unternehmen trägt die alten Texte, Sprachnotizen und Social-Media-Beiträge einer Person zusammen und trainiert ein Modell, um wie sie zu sprechen. Die verstorbene Person ist das Rohmaterial. Sie ist nie der Urheber, und entscheidend ist: Sie wurde nie gefragt.
Das ist wichtig, weil eine überzeugende Simulation Aussagen im Namen einer Person macht. Sie erzeugt Sätze, die diese nie gesagt hat, Meinungen, die sie vielleicht nie vertreten hat, Beruhigungen, die sie nie gegeben hat. Die verstorbene Person kann es nicht korrigieren, nicht widersprechen und es nicht zurückziehen. Eine Darstellung, der das Subjekt nicht zugestimmt hat und die es nicht steuern kann, ist im Grunde jemand, der für eine Person spricht, die nicht mehr für sich selbst sprechen kann, und der dies als die eigene Stimme dieser Person ausgibt. Welchen Trost sie auch spendet, sie beginnt an einem Punkt, an dem zu stehen das Subjekt nie zugestimmt hat.
A griefbot is built of the dead. A Persona is built by the living.
Die Linie der Einwilligung
Fast jede bedeutsame ethische Frage zu dieser Technologie läuft auf eine Linie hinaus: War die dargestellte Person ein einwilligender Urheber oder ein nicht einwilligendes Subjekt? Auf der einen Seite steht der typische Griefbot, nach dem Tod aus Daten zusammengesetzt, die die Person zu anderen Zwecken hinterlassen hat, gesteuert von demjenigen, der diese Daten hält, niemandem gegenüber rechenschaftspflichtig. Auf der anderen Seite steht eine Darstellung, die eine Person selbst zu Lebzeiten aufgebaut hat und bei der sie entscheidet, was sie enthält und was sie niemals behaupten wird.
Dies ist der Unterschied zwischen einem Griefbot oder einem Deadbot, Begriffe für die nachträgliche Nachbildung, und einer einwilligungsbasierten Persona, die im Voraus verfasst wird. Die Worte klingen ähnlich, und die Technologie überschneidet sich, doch ethisch sind sie nahezu Gegensätze. Das eine nimmt eine Stimme; dem anderen wird eine gegeben. Das Vorhandensein oder Fehlen der eigenen Einwilligung des Subjekts ist kein Detail. Es ist die ganze Frage.
Einwilligung muss hier auch mehr bedeuten als ein einmal gesetztes Häkchen. Es bedeutet, dass die Person gewählt hat, was hineinkommt, gestalten kann, wie es sich verhält, und die Regeln dafür festgelegt hat, wer es wann erreichen darf. Eine Einwilligung, die das Subjekt nicht ausüben kann, weil es bereits fort ist, ist eigentlich gar nicht seine Einwilligung. Deshalb zählt das Timing ebenso sehr wie das Einverständnis: Die einzige Person, die wirklich darin einwilligen kann, dargestellt zu werden, ist die lebende.
Was Forschung und Ethiker sagen
Die ernsthafte Auseinandersetzung mit dieser Technologie ist vorsichtiger geworden, je besser die Werkzeuge wurden. Berichte in Publikationen wie Scientific American haben abgewogen, ob Griefbots Trauernden wirklich helfen oder das Risiko bergen, sie an Ort und Stelle festzuhalten, und haben angemerkt, dass die Belege alles andere als gesichert sind. Die vorsichtige Schlussfolgerung in weiten Teilen dieser Texte lautet nicht, dass die Technologie wertlos ist, sondern dass ihr Nutzen an Bedingungen geknüpft und ihre Risiken real sind.
Die akademische und ethische Diskussion, einschließlich Arbeiten, die in Foren wie The Conversation aufgegriffen wurden, hat speziell bei der Frage der Einwilligung stärker nachgehakt. Forschende in diesem Bereich haben argumentiert, dass das Nachbilden einer Person ohne ihr vorheriges Einverständnis ihre Würde verletzen kann, dass Familien und Unternehmen Interessen haben können, die von dem abweichen, was die verstorbene Person gewollt hätte, und dass es Schutzvorkehrungen geben sollte, die verhindern, dass eine simulierte Person benutzt, vermarktet oder dazu gebracht wird, Dinge zu sagen, die das Original nie gesagt hätte. Das wiederkehrende Thema ist Governance: Wer kontrolliert die Darstellung, mit wessen Autorität und mit welchen Grenzen.
Zusammen gelesen sagt dieser Bestand an Arbeiten nicht, dass der Wunsch, verbunden zu bleiben, falsch ist. Er sagt, dass dieser Wunsch auf eine Weise erfüllt werden sollte, die die dargestellte Person achtet, und dass Einwilligung und Kontrolle die Bedingungen sind, unter denen das möglich ist. Das ist ein Maßstab, den ein einwilligungsbasierter Ansatz erfüllen soll und den ein nachträglicher Griefbot strukturell nicht erfüllen kann.
Die dokumentierten Schäden nicht einvernehmlicher Deadbots
Über die Grundsatzfrage hinaus sind mehrere konkrete Schäden dokumentiert oder ernsthaft dargelegt worden. Es lohnt sich, sie klar zu benennen, denn sie sind die Gründe, weshalb Vorsicht geboten ist, keine Abstraktionen.
Nachbildung ohne Einwilligung: Der grundlegendste Schaden besteht darin, eine Person darzustellen, die nie zugestimmt hat, und ihr Worte und Ansichten in den Mund zu legen, die sie nicht bestreiten kann.
Beeinträchtigung der Trauer: Eine Simulation, die ständig verfügbar ist, kann bei manchen Menschen die Arbeit des Trauerns eher verzögern als erleichtern und hält die Hinterbliebenen an eine Präsenz gebunden, die sich nicht wirklich verändern oder wachsen kann.
Kommerzielle Vereinnahmung: Wo ein Griefbot von einem Unternehmen betrieben wird, kann die verstorbene Person zu einem Produkt werden, dessen Abbild von einer Partei behalten, vermarktet oder weiterverwendet wird, die sie nie autorisiert hat.
Abdriften und Erfindung: Ein Modell, das darauf trainiert ist, wie jemand zu klingen, füllt Lücken durch Erfinden und erzeugt Aussagen, die die Person nie gemacht hat und die die Familie fälschlich für echt halten könnte.
Keiner dieser Schäden ist in jedem Fall unvermeidlich, und genau das ist der Punkt. Sie folgen aus einer Struktur, die Darstellung nach dem Tod, ohne Einwilligung, unter fremder Kontrolle aufzubauen, die zumindest einige von ihnen nahezu garantiert. Ändern Sie die Struktur, und die meisten dieser Risiken fallen weg. Werkzeuge, die dafür gedacht sind, dass Hinterbliebene über KI mit einem verstorbenen geliebten Menschen sprechen oder mit einer KI-Version eines Verstorbenen sprechen liegen genau auf dieser Bruchlinie, und wo sie ohne die Einwilligung des Subjekts gebaut werden, erben sie genau diese Probleme.
Die einwilligungsbasierte Alternative: zu Lebzeiten Ihre eigene aufbauen
Die Alternative ist einfach zu benennen. Statt jemanden nach dem Tod ohne sein Mitspracherecht nachbilden zu lassen, baut eine Person zu Lebzeiten ihre eigene Darstellung auf, als deren Urheber. Bei Afterlife AI™ ist das eine Persona: eine geregelte, einwilligungsbasierte Aufzeichnung dessen, wer Sie sind, ausschließlich aus dem geschöpft, was Sie tatsächlich bereitstellen, über die vielen Dimensionen eines realen Menschen hinweg, statt aus übrig gebliebenen Daten abgegriffen.
Weil das Subjekt der Urheber ist, werden die obigen Schäden an der Wurzel angegangen statt nachträglich geflickt. Es gibt Einwilligung, weil Sie sich entschieden haben, es zu machen. Es gibt keine Erfindung der Art, die Griefbots riskieren, weil es nur aus verifizierter Erinnerung schöpft, die Sie bereitgestellt haben, statt zu raten, um Stille zu füllen. Und es gibt Governance, weil Sie die Bedingungen festlegen, solange Sie können. Der Wunsch, verbunden zu bleiben, wird geehrt, doch der Mensch im Mittelpunkt behielt seine Stimme bei der Entscheidung.
The only person who can consent to being represented is the living one.
Wie man es verantwortungsvoll macht
Es gut zu machen, hat weniger mit der Technologie zu tun als mit den Bedingungen darum herum. Eine Darstellung einer Person sollte von dieser Person verfasst sein, aus verifizierter Erinnerung statt aus Rückschlüssen geschöpft und unter klare, dauerhafte Kontrolle darüber gestellt werden, wer sie wann erreichen darf. Diese Bedingungen sind es, die eine respektvolle Praxis von einer ausbeuterischen trennen, wie auch immer man sie nennt.
Die Kontrolle ist der Teil, der am leichtesten übersehen wird und am wichtigsten richtig zu machen ist. Der Executor Lock™ ist dafür gebaut, sie bereitzustellen: Er regelt, wer eine Persona wann aktivieren darf, gibt einem benannten Nachlassverwalter das letzte Wort und macht das Ergebnis dauerhaft, sobald es festgelegt ist, sodass es nach Ihrem Tod nicht neu trainiert, verändert oder kommerzialisiert werden kann. Diese Dauerhaftigkeit ist es, die eine Darstellung von etwas, das genommen und verändert werden könnte, in etwas verwandelt, das so bleibt, wie die Person es hinterlassen hat. Sie ist die strukturelle Antwort auf die Schäden durch kommerzielle Vereinnahmung und Abdriften, die Ethiker am meisten beunruhigen.
Wenn Sie sich einen Ort wünschen, zu dem die Menschen, die Sie lieben, zurückkehren können, erzeugen dieselben Prinzipien ein geregeltes KI-Gedenken, das die Person achtet, an die es erinnert, weil die Person es selbst aufgebaut und eingegrenzt hat. Der Unterschied zwischen diesem und einem Griefbot ist nicht der Trost, den es den Hinterbliebenen spendet, der in beiden Fällen real sein kann. Der Unterschied ist, dass der Trost hier nicht auf Kosten der Einwilligung dessen geht, an den erinnert wird.
Die ethische Alternative zu einem Griefbot ist also keine Ablehnung des dahinterstehenden Wunsches. Sie ist eine Neuordnung davon. Verstorbene ohne ihr Einverständnis nachzubilden verlangt von den Hinterbliebenen, eine Stimme zu akzeptieren, die das Subjekt nie gebilligt hat. Eine Persona zu Lebzeiten aufzubauen, geregelt und einwilligungsbasiert, lässt einen Menschen selbst entscheiden, wie er nach seinem Fortgehen präsent sein wird, und hält diese Entscheidung geschützt. Die Technologie ist ähnlich. Die Ethik ist es nicht. Der ganze Unterschied liegt darin, wer eingewilligt hat und wann.