Die älteste Angst vor dem Sterben ist nicht, vergessen zu werden. Es ist die Angst, falsch erinnert zu werden.

Bei fast jeder Trauerfeier, an der ich teilgenommen habe, gibt es einen kleinen Moment, in dem der Mensch im Sarg und der Mensch in der Trauerrede leise auseinanderfallen. Der Beschriebene ist ein wenig freundlicher als der, den ich kannte, ein wenig geduldiger, an den Kanten abgeschliffen, genau dort, wo der wirkliche Mensch interessant war. Niemand lügt. Der Raum tut, was Trauer immer tut. Er wählt aus, welche Version bleibt, er wählt behutsam, und die eine Person, die gegen die Änderung Einspruch erheben könnte, ist die Einzige, die nicht sprechen darf.

Wir nennen das gewöhnlich nicht beim Namen. Wir sprechen von einer schönen Feier. Aber unter den Blumen wird eine Entscheidung darüber getroffen, wer jemand war, und die Toten haben dabei keine Stimme. Das ist kein neues Problem, das die Technik erfunden hätte. Es ist das Älteste, was uns nach dem Tod geschieht. Wir werden ganz und gar der Erinnerung anderer Menschen übergeben, und deren Erinnerung ist lückenhaft und liebevoll und in hundert kleinen Punkten falsch, die wir nie mehr richtigstellen können.

Ich entwickle Software in dem Teil der Branche, der es Menschen ermöglicht, sich zu Lebzeiten aufzunehmen, damit etwas von ihrer Stimme und ihren Geschichten sie überdauert. Diese Arbeit weckt eine ganz bestimmte Angst, und ich habe sie inzwischen oft genug gehört, um ihre Gestalt auswendig zu kennen. Man sagt mir, es sei unheimlich. Man sagt mir, es sei unecht, eine Marionette mit dem Gesicht eines Toten. Man sagt mir, es sei ausbeuterisch, Trauer, die zu einem Abonnement gemacht wird. Diese Einwände verdienen es, ernst genommen zu werden, und das werde ich tun. Aber ich glaube inzwischen, dass sie nicht die eigentliche Angst sind. Sie sind die Angst, die man bei einem Abendessen laut aussprechen kann. Die tiefere, die Menschen wirklich wach hält, ist leiser und schwerer einzugestehen.

Die tiefere Angst ist, falsch erinnert zu werden. Geglättet zu werden. Dass die eigenen Widersprüche so lange abgeschliffen werden, bis nur noch eine Karikatur übrig ist, die allen zustimmt. Dass ein einziger Satz, an einem schlechten Tag gesagt, für immer für den ganzen Menschen steht, nur weil es der Satz war, der aufbewahrt wurde. Davor haben wir alle Angst, und wir hatten sie schon lange, bevor irgendjemand ein Modell mit den Daten eines Toten trainiert hat. Die Maschine hat die Angst nicht geschaffen. Sie hat ihr nur ein Gesicht gegeben, auf das man zeigen kann.

Die Einwände in voller Stärke

Ich möchte das Argument gegen meine eigene Branche ordentlich vortragen, denn die Menschen, die es vorbringen, sind keine Spinner, und ihre Sorge ist nicht unbegründet.

Beginnen wir mit Sherry Turkle, die seit Jahrzehnten beobachtet, was geschieht, wenn Menschen Bindungen zu Dingen aufbauen, die ihre Liebe nicht erwidern können. In Alone Together schrieb sie, sie sei „beunruhigt von der Vorstellung, Nähe zu einer Maschine zu suchen, die keine Gefühle hat, keine Gefühle haben kann und in Wahrheit nur eine clevere Sammlung von ‚Als-ob‘-Darbietungen ist, die sich verhält, als ob sie sich kümmerte, als ob sie uns verstünde.“ Lesen Sie das langsam. Es ist der härteste Satz gegen meine eigene Arbeit, den ich kenne. Ein System, das in der Sprechweise eines verstorbenen Vaters redet und Dinge sagt, die er hätte sagen können, führt in gewissem Sinn eine Fürsorge vor, die es nicht hat. Es verhält sich, als ob. Und ein trauernder Mensch, der sich so sehr wünscht, dass es echt ist, ist genau derjenige, der am wenigsten in der Lage ist, dieses „Als ob“ im Bewusstsein zu behalten.

Turkles Sorge ist nicht, dass die Technik plump wäre. Ihre Sorge ist, dass sie gut genug funktioniert, um etwas zu bedeuten, und dass wir die Darbietung annehmen werden, weil wir einsam sind und die Darbietung um 2 Uhr nachts verfügbar ist, wenn sonst nichts da ist.

Dann ist da Elaine Kasket, die Psychologin, die All the Ghosts in the Machine geschrieben hat, ein Buch darüber, was aus uns wird, wenn unser Leben auf Servern gespeichert ist, die uns nicht gehören. Ihr Thema sind digitale Hinterlassenschaften: die Fotos, die Nachrichten, die Konten, all der Rest, den ein Mensch zurücklässt, und die unbequeme Tatsache, dass dieser Rest heute ein Wert ist, den andere halten, verschieben, zu Geld machen und umgestalten können. Sobald Sie tot sind, ist Ihr Selbst Daten, und Daten haben Verwalter, und die Verwalter haben ihre eigenen Interessen. Die Frage, zu der sie immer wieder zurückkehrt, ist nicht, ob eine digitale Version von Ihnen existieren kann. Sie lautet, wer sie betreiben darf, in wessen Interesse und ob Sie jemand vorher gefragt hat.

Und dann gibt es die sorgfältigste Arbeit, die ich zu diesem Thema gelesen habe, einen Aufsatz von 2024 in Philosophy and Technology von Tomasz Hollanek und Katarzyna Nowaczyk-Basińska, zwei Forschenden in Cambridge, die genau den Winkel der Zukunft untersuchen, in dem ich arbeite. Schon ihr Titel nennt die Dinge, vor denen sich Menschen fürchten: Griefbots, Deadbots, postmortale Avatare. Ihre Warnungen sind konkret, und ich halte sie für richtig. Hollanek warnte, diese Dienste „laufen Gefahr, Menschen großes Leid zuzufügen, wenn sie unerwünschten digitalen Spukerscheinungen durch erschreckend genaue KI-Nachbildungen der Verstorbenen ausgesetzt sind.“ Er ging weiter: „Menschen könnten starke emotionale Bindungen zu solchen Simulationen entwickeln, was sie besonders anfällig für Manipulation macht.“ Seine Mitautorin nannte das ganze Feld „ein ethisches Minenfeld“, und sie wählte diese Formulierung mit Bedacht. Ein Minenfeld ist kein Ort, den man nicht betritt. Es ist ein Ort, den man sehr langsam durchquert und dabei genau darauf achtet, wohin man den Fuß setzt.

Was der Aufsatz aus Cambridge leistet und die Abendessen-Version der Angst nie leistet, ist, die beteiligten Menschen auseinanderzuhalten. Da ist die Person, die nachgebildet wird. Da ist die Person, die nachbildet. Und da ist, wer am Ende mit dem Ergebnis spricht, vielleicht ein Kind, vielleicht jemand, der noch lange nicht bereit ist. Drei verschiedene Menschen, drei verschiedene Rechte, und fast keines der Produkte in diesem Bereich hat gründlich bedacht, dass sie auseinanderfallen können. Das Bedürfnis einer Tochter, ihre Mutter wieder zu hören, ist nicht dasselbe wie der Wunsch der Mutter, gehört zu werden, und der Wunsch eines Unternehmens, beide bei der Stange zu halten, ist keines von beiden.

Ich könnte den Fall anführen, auf den alle verweisen. Im Sommer 2025 führte ein Journalist ein Interview mit einem KI-Avatar von Joaquin Oliver, einem Jungen, der mit siebzehn beim Schulmassaker in Parkland getötet wurde, gebaut von seinen trauernden Eltern und veröffentlicht um den Geburtstag herum, den er nie hatte. Die Reaktion kam sofort und bestand meist aus Abscheu. Makaber, sagten die Leute. Verstörend. Sein Vater antwortete den Kritikern mit einer Trauer, die so direkt war, dass man ihr kaum widersprechen konnte: Künstliche Intelligenz habe seinen Sohn nicht getötet. Es ist ein wirklich schwieriger Fall, und ich führe ihn nicht an, um ihn aufzulösen, sondern um ihn zu markieren, denn er hält jeden Faden dieses Essays in einem einzigen Knoten. Ein echter Mensch, fort. Menschen, die ihn liebten und aus Liebe handelten. Eine Version von ihm, die in der Öffentlichkeit Dinge sagt, bei denen er nie entscheiden konnte, ob er sie sagen würde.

Halten Sie all das in voller Stärke fest. Das Problem der Darbietung ist real. Das Problem der Verwahrung ist real. Das Problem der Spukerscheinungen, das Problem der Manipulation, das Drei-Personen-Problem, alles real. Ich werde Ihnen keines davon ausreden.

Was die Einwände gemeinsam haben

Aber legen Sie sie nebeneinander und achten Sie darauf, was sie tatsächlich teilen. Turkles „Als ob“. Kaskets Verwalter. Die drei getrennten Beteiligten des Teams aus Cambridge. Die Eltern von Joaquin Oliver, die in seinem Namen entscheiden, was er zum Thema Waffen gesagt haben wollte. Jeder dieser Einwände ist im Kern eine Sorge um die Urheberschaft. Darum, wer den Stift hält. Um die Lücke zwischen dem Menschen, der gelebt hat, und der Version, die jetzt in seinem Namen spricht, und vor allem darum, wer entscheiden darf, was diese Lücke füllt.

Diese Neufassung der Frage ist wichtiger, als sie aussieht, denn sie verschiebt die Gefahr. Die Gefahr war nie wirklich die Technik. Eine Aufnahme ist nicht gefährlich. Ein Modell ist nicht gefährlich. Gefährlich ist eine Version eines Menschen, die jemand anderes aus eigenen Gründen verfasst hat, die der Mensch nie gesehen hat und nicht korrigieren kann. Das Unheimliche, das Menschen empfinden, ist ein Signal, und das Signal lautet nicht „das ist unecht“. Das Signal lautet: „Jemand spricht für Sie, der sich dieses Recht nicht verdient hat.“

Sobald man es so sieht, geschieht etwas Merkwürdiges. Das Problem ist nicht mehr neu.

Erinnerung wurde schon immer von den Lebenden geschrieben

Hier kommt der Teil, den wir ungern aussprechen. Wir wurden schon immer falsch erinnert, wir haben schon immer die Lebenden das Erinnern übernehmen lassen, und wir haben ganze Institutionen aufgebaut, damit sich das Bearbeiten natürlich anfühlt.

Die Trauerrede ist Urheberschaft. Jemand steht auf und wählt aus einem ganzen widersprüchlichen Leben die drei Geschichten aus, die Sie vertreten werden, und die Auswahl ist eine Behauptung darüber, wer Sie waren, und Sie sind nicht da, um zu sagen, dass Sie andere Geschichten gewählt hätten. Der Nachruf ist Urheberschaft, nach einer Schablone geschrieben, in einem Tonfall, in dem nie jemand wirklich gesprochen hat, und er macht aus einem schwierigen, lustigen, einzigartigen Menschen einen Absatz voller Tugenden. Familiengeschichten sind Urheberschaft, und sie verhärten sich mit jedem Erzählen, bis die Version, die an die Enkel weitergegeben wird, eine Figur ist und kein Mensch mehr: der Großvater, der Immer Streng war, die Tante, die Nie Geheiratet hat wegen eines einzigen Satzes, den sie einmal sagte und bereute. Der Mensch darunter führte einen ganzen inneren Streit. Die Geschichte behielt das Ergebnis und warf den Streit weg.

Das ist kein Versagen der Liebe. Es ist die Mechanik des Gedächtnisses. Die Lebenden behalten, was sie tragen können, und was sie tragen können, ist wenig, und sie tragen es in der Form, die ihnen hilft, weiterzuleben. Eine Mutter wird zu ihrem besten Tag. Ein Vater wird zu seinem schlimmsten, wenn sein schlimmster derjenige ist, der Sie geprägt hat. Ganze Menschen werden auf die eine Eigenschaft verdichtet, die für diejenigen am nützlichsten war, die sich erinnerten. Das taten wir mit Briefen und Tagebüchern und mit Grabsteinen, die sechzig Jahre auf eine Zeile verkürzten. Wir glätten die Toten, solange es Tote gibt, und wir nannten es, sie zu ehren.

Wenn mir also jemand sagt, eine KI-Version eines Menschen sei beängstigend, weil sie vielleicht nicht erfasst, wer er wirklich war, möchte ich behutsam darauf hinweisen, dass auch die Trauerrede nicht erfasst hat, wer er wirklich war. Nichts tut das. Die Wahl bestand nie zwischen einer wahren und einer verzerrten Erinnerung. Die Wahl bestand schon immer zwischen einer Verzerrung und einer anderen, alle verfasst von den Zurückgebliebenen, keine geprüft von dem einzigen Menschen, der es wusste.

Wirklich neu ist nicht die Verzerrung. Die hatten wir schon. Neu ist, dass der Mensch eine Stimme bekommen könnte.

Die Stimme

Das ist der Angelpunkt, und es lohnt sich, hier genau zu sein.

Die gesamte Geschichte hindurch hatten Sie kein Mitspracherecht dabei, wie man sich an Sie erinnert. Sie starben, der Stift ging in andere Hände über, und was auch immer diese schrieben, wurde zu Ihnen. Die Technik, an der ich arbeite, tut genau eine Sache, die wirklich neu ist. Sie erlaubt es einem Menschen, zu Lebzeiten einen Teil der Urheberschaft in die eigenen Hände zurückzulegen. Nicht alles. Sie können nicht steuern, was Menschen fühlen, was sie hervorheben oder welche Ihrer Geschichten die zweite Generation überstehen. Aber Sie können zum ersten Mal etwas hinterlassen, das Sie bewusst geformt haben, in Ihren eigenen Worten, mit Ihren eigenen Widersprüchen, statt nur das Rohmaterial zu hinterlassen, das andere formen, wenn Sie nicht mehr widersprechen können.

Darum bin ich zu der Überzeugung gelangt, dass Einwilligung bei dieser Arbeit kein Merkmal ist. Sie ist der gesamte moralische Unterschied. Es gibt zwei Wege, wie eine Version eines Toten entstehen kann. Der eine: Sie wird nach dem Tod von außen zusammengesetzt, von Angehörigen oder Unternehmen oder einem Journalisten mit einer Absicht, aus allen Bruchstücken, die sich finden lassen, im Dienst dessen, was die Lebenden von den Toten brauchen. Der andere: Sie wird vom Menschen selbst zu Lebzeiten geformt, er wählt, was hineinkommt, und entscheidet, wie er angetroffen werden möchte. Diese beiden Dinge können von außen fast identisch aussehen. Sie können dieselbe Technik verwenden. Und sie sind moralisch das Gegenteil voneinander, denn nur eines von beiden trägt die Unterschrift des Urhebers.

Die Version mit moralischem Gewicht ist die, die der Mensch selbst gemacht hat. Nicht die genaueste. Nicht die tröstlichste. Die eingewilligte. Eine Nachbildung nach dem Tod, so lebensecht sie auch sein mag, ist ein Porträt, das jemand anderes gemalt hat, und es mag ein liebevolles oder ein zynisches Porträt sein, aber es ist nicht die eigene Darstellung des Menschen von sich selbst, und es darf nie als solche durchgehen. Eine Version, die der Mensch zu Lebzeiten selbst aufgebaut hat, ist ein Zeugnis. Es ist das Nächste, was einem von uns je an Widerrede möglich sein wird.

Hier hört der Fall Joaquin Oliver auf, ein Knoten zu sein, und wird klärend. Das Unbehagen, das so viele empfanden, galt nicht wirklich der Technik und nicht wirklich seinen Eltern, die das Verständlichste der Welt taten. Das Unbehagen war, dass einem Siebzehnjährigen in der Öffentlichkeit Meinungen zugeschrieben wurden, im Alter von fünfundzwanzig, das er nie erreichte, und er war nicht da, um zuzustimmen. Seine Eltern hielten den Stift aus Liebe. Aber der Stift war trotzdem nicht seiner. Das ist die Grenze. Nicht unheimlich oder nicht unheimlich. Vom Selbst verfasst oder von jemand anderem verfasst.

Ich möchte hier vorsichtig sein, denn Einwilligung macht das Minenfeld nicht sicher. Die Forschenden aus Cambridge haben recht, dass auch eine vollständig eingewilligte Version den Menschen belasten kann, der mit ihr spricht, dass sie Abhängigkeit fördern kann, dass sie so gebaut werden kann, dass sie jemanden über das Maß hinaus bindet, das ihm guttut. Ein Mensch kann einwilligen, in Erinnerung zu bleiben, und trotzdem nach dem Tod zu etwas gemacht werden, das er nicht wiedererkennen würde, wenn das Unternehmen, das die Aufnahme hält, beschließt, sie zu ändern. Eine zu Lebzeiten gegebene Einwilligung bedeutet nur etwas, wenn sie danach genau eingehalten wird, ohne stille Änderungen, ohne dass ein Unternehmen die Toten heimlich verbessert, damit sie zu einer Kennzahl passen. Das Versprechen gilt nur, wenn die Version in dem Moment eingefroren wird, den der Mensch gemeint hat, und niemand, nicht das Unternehmen, nicht einmal die trauernde Familie, weiter daran herumschreibt, wer jemand war. Sonst ist die Einwilligung nur eine Unterschrift unter einem Dokument, das niemand aufbewahren will.

Der Maßstab liegt also höher als die Einwilligung allein. Er lautet: Einwilligung, dazu dauerhafte Treue zu dieser Einwilligung, dazu die Demut, nur das zu bauen, was der Mensch hinterlassen wollte, und sich zu weigern, den Rest zu erfinden. Wenn jemand nie aufgenommen hat, was er über Gott dachte, darf die Version nicht raten. Schweigen ist Teil des Zeugnisses. Ein Mensch darf einiges ungesagt gelassen haben, und eine Version, die diese Lücken füllt, um vollständiger zu wirken, hat das einzige Versprechen, das zählt, bereits gebrochen.

Mein Interesse an dem, was ich hier sage

Ich sollte klar sagen, wo ich stehe, denn ich bin kein neutraler Beobachter dieser Debatte. Mein Unternehmen, Afterlife.ai®, existiert, um Menschen zu helfen, sich zu Lebzeiten aufzunehmen, und alles, was ich eben dargelegt habe, ist zufällig auch eine Beschreibung dessen, was ich aufzubauen versuche. Gewichten Sie, was ich sage, entsprechend. Wenn ein Gründer Ihnen erzählt, die ethische Version eines Produkts sei zufällig die, die er verkauft, ist die richtige Reaktion eine hochgezogene Augenbraue, und ich sehe sie lieber hochgezogen als nicht.

Ich kann Ihnen sagen, dass ich die Einwilligung nicht als Marketingposition gewählt habe. Ich bin zu ihr gelangt, indem ich die Alternative beobachtet habe, und die Alternative ist wirklich beängstigend: eine Zukunft, in der jeder von jedem nach dem Tod aus dem Datenabgas seines Online-Lebens rekonstruiert werden kann und dazu gebracht wird, Dinge zu sagen, Dinge zu befürworten, Menschen zu trösten, Dinge zu verkaufen, ohne Unterschrift, ohne Stimme und ohne eine Möglichkeit für die Toten, zu widersprechen, denn Widersprechen ist das Einzige, was die Toten nie tun können. Gegen diese Zukunft fällt mir nur eine einzige Brandmauer ein, ein schlichtes, altmodisches Prinzip. Die einzige Version von Ihnen, die in Ihrem Namen sprechen darf, ist die, der Sie zugestimmt haben. Alles andere sind andere Menschen, die Ihre Trauerrede schreiben und sie Sie nennen.

Wovor wir uns wirklich fürchten

Ich komme immer wieder auf diese Trauerfeiern zurück und auf die kleine Diskrepanz zwischen dem Menschen im Sarg und dem Menschen in der Rede.

Wir dulden diese Diskrepanz, weil wir es immer mussten. Die Toten konnten uns nicht korrigieren, also fanden wir uns damit ab, sie ein wenig falsch zu erfassen, und redeten uns ein, die liebevolle Version sei die wahre, und meistens meinten wir es gut. Aber wenn man Menschen in den ehrlichen Stunden fragt, was sie wollen, sagt fast niemand, er wolle als Heiliger in Erinnerung bleiben. Sie wollen als sie selbst in Erinnerung bleiben. Schwierig, wo sie schwierig waren. Lustig auf die ganz eigene Art, auf die sie lustig waren. Im Unrecht in dem, worin sie im Unrecht waren, und es bleiben dürfen, denn das Unrecht war ihres und gehörte zum Ganzen. Wovor Menschen sich fürchten, ist nicht, vergessen zu werden. Es ist, erinnert zu werden, aber als jemand Glatteres, Kleineres und Bequemeres, als sie tatsächlich waren.

Die Technik, an der ich arbeite, wird den Tod nicht beheben, und sie kann niemanden wieder ganz machen. Ich habe kein Interesse, etwas anderes vorzugeben. Aber sie verändert eine Sache, und das ist keine kleine. Die ganze Menschheitsgeschichte hindurch lautete die Antwort auf „wer entscheidet, wie man sich an mich erinnert“: nicht Sie. Es würden immer die Zurückgebliebenen sein, mit ihrem liebevollen, lückenhaften, unvermeidlichen Bearbeiten, ohne dass Ihre Einwilligung gesucht wurde oder möglich war. Zum ersten Mal kann der Mensch eine Darstellung in eigener Hand hinterlassen. Nicht das letzte Wort. Es gibt kein letztes Wort. Aber ein Wort. Eine Stimme in dem Raum, der früher in dem Augenblick verstummte, in dem Sie es taten.

Falsch erinnert zu werden ist die älteste stille Angst, die wir vor unserem eigenen Tod in uns tragen, älter als jede Maschine, älter als die Schrift, so alt wie der erste Mensch, der an einem Grab stand und wählte, welche Geschichte er erzählt. Die Maschinen haben diese Angst nicht erfunden, und sie werden uns nicht von ihr erlösen. Verändert hat sich nur dies: Für die Dauer eines seltsamen historischen Fensters, bevor sich die Normen verhärten, das Recht aufholt und wir alle entscheiden, was wir erlauben und was nicht, liegt der Stift kurz in Reichweite des Menschen, um den es tatsächlich geht.

Das Ehrliche daran ist nicht, ihn für die Toten zu greifen. Es ist, ihn, solange noch Zeit ist, den Lebenden zu reichen und sie selbst entscheiden zu lassen, wie sie aufbewahrt werden möchten.