Het ethische alternatief voor griefbots

Een griefbot is een AI-systeem dat een overleden persoon nabootst, meestal opgebouwd nadat diegene is overleden uit de berichten, opnames en posts die ze achterlieten, zodat de nabestaanden een soort gesprek met hen kunnen voortzetten. Het ethische alternatief voor een griefbot is niet om de wens erachter op te geven, die diep menselijk is, maar om de volgorde van toestemming om te keren: in plaats van iemand na het overlijden na te maken zonder hun instemming, bouw je bij leven een beheerde weergave van jezelf, uit vrije wil gekozen. Dat ene verschil, wie toestemming gaf en wanneer, scheidt een praktijk waar veel ethici voor waarschuwen van een praktijk waar een mens achter kan staan.

Deze pagina zet uiteen wat een griefbot werkelijk is, waar het ernstige ethische probleem ligt, wat onderzoekers en ethici erover hebben gezegd, en hoe een alternatief met toestemming voorop er in de praktijk uitziet. Het doel is eerlijk te zijn in plaats van alarmerend. De drang om te blijven praten met iemand die je hebt verloren, is geen tekortkoming om te berispen. De vraag is alleen hoe het wordt gedaan, en of de persoon die wordt nagemaakt ooit iets te zeggen heeft gehad.

Het ethische kernprobleem: iemand nabootsen die nooit toestemming gaf

Het bepalende kenmerk van de meeste griefbots, en de wortel van de ethische moeilijkheid, is dat ze worden gemaakt van de doden, niet door hen. Een rouwende familie of een bedrijf verzamelt iemands oude berichten, spraaknotities en sociale posts en traint een model om als hen te spreken. De overledene is het ruwe materiaal. Zij zijn nooit de auteur, en cruciaal: er werd hun nooit iets gevraagd.

Dit doet ertoe omdat een overtuigende nabootsing beweringen doet in iemands naam. Het produceert zinnen die ze nooit zeiden, meningen die ze misschien nooit hadden, geruststellingen die ze nooit boden. De doden kunnen het niet corrigeren, kunnen niet bezwaar maken, en kunnen zich niet terugtrekken. Een weergave waar de betrokkene niet mee heeft ingestemd en die diegene niet kan beheren, is in wezen iemand die spreekt voor een persoon die niet langer voor zichzelf kan spreken, en die presenteert als de eigen stem van die persoon. Welke troost het ook biedt, het begint vanuit een plek waar de betrokkene nooit mee heeft ingestemd om te staan.

Een griefbot is opgebouwd uit de doden. Een Persona is opgebouwd door de levenden.

De grens van toestemming

Bijna elke betekenisvolle ethische vraag over deze technologie komt neer op één grens: was de weergegeven persoon een instemmende auteur, of een niet-instemmend onderwerp? Aan de ene kant staat de typische griefbot, samengesteld na het overlijden uit gegevens die de persoon voor andere doeleinden achterliet, beheerd door wie die gegevens ook maar in handen heeft, aan niemand verantwoording verschuldigd. Aan de andere kant staat een weergave die een persoon zelf bouwde, bij leven, en waarbij diegene besloot wat die bevat en wat die nooit zal beweren.

Dit is het onderscheid tussen een griefbot of een deadbot, termen voor de nabootsing achteraf, en een Persona met toestemming voorop die vooraf is samengesteld. De woorden klinken vergelijkbaar en de technologie overlapt, maar ethisch gezien zijn ze bijna tegengesteld. De één neemt een stem; de ander krijgt er een. De aanwezigheid of afwezigheid van de eigen toestemming van de betrokkene is geen detail. Het is de hele kwestie.

Toestemming moet hier ook meer betekenen dan een vakje dat eenmaal is aangevinkt. Het betekent dat de persoon koos wat erin ging, kan vormgeven hoe het zich gedraagt, en de regels stelde voor wie het mag bereiken en wanneer. Toestemming die de betrokkene niet kan uitoefenen omdat ze er al niet meer zijn, is eigenlijk helemaal niet hun toestemming. Daarom doet de timing er net zoveel toe als de instemming: de enige persoon die werkelijk toestemming kan geven om te worden weergegeven, is de levende.

Wat het onderzoek en de ethici zeggen

Serieus commentaar op deze technologie is voorzichtiger geworden naarmate de hulpmiddelen zijn verbeterd. Berichtgeving in media zoals Scientific American heeft afgewogen of griefbots rouwenden werkelijk helpen of dreigen hen op hun plaats te houden, en heeft opgemerkt dat het bewijs verre van eenduidig is. De zorgvuldige conclusie in veel van dit schrijven is niet dat de technologie waardeloos is, maar dat de voordelen voorwaardelijk zijn en de risico's reëel.

Academische en ethische discussie, waaronder werk dat naar boven kwam op plekken als The Conversation, heeft harder aangedrongen op specifiek de vraag van toestemming. Onderzoekers op dit gebied hebben betoogd dat het nabootsen van een persoon zonder hun voorafgaande instemming hun waardigheid kan schenden, dat families en bedrijven belangen kunnen hebben die afwijken van wat de overledene zou hebben gewild, en dat er waarborgen zouden moeten zijn die voorkomen dat een nagebootste persoon wordt gebruikt, te gelde gemaakt, of dingen laat zeggen die het origineel nooit zou hebben gezegd. Het terugkerende thema is beheer: wie beheert de weergave, op wiens gezag, en met welke grenzen.

Samen gelezen zegt dit geheel aan werk niet dat de wens om verbonden te blijven verkeerd is. Het zegt dat die wens moet worden gediend op een manier die de persoon die wordt weergegeven respecteert, en dat toestemming en controle de voorwaarden zijn waaronder dat kan. Dat is een maatstaf die een aanpak met toestemming voorop is ontworpen om te halen, en die een griefbot achteraf structureel niet kan halen.

De gedocumenteerde schade van niet-toegestane deadbots

Naast de kwestie van principe is verschillende concrete schade gedocumenteerd of serieus betoogd. Die is het waard om helder te benoemen, omdat ze de redenen zijn waarom voorzichtigheid geboden is, geen abstracties.

• Nabootsing zonder toestemming: de meest fundamentele schade is het weergeven van een persoon die er nooit mee instemde, en woorden en opvattingen in hun mond leggen die ze niet kunnen betwisten.

• Verstoring van de rouw: een nabootsing die altijd beschikbaar is, kan voor sommige mensen het werk van het rouwen uitstellen in plaats van verlichten, en houdt de nabestaande gebonden aan een aanwezigheid die niet werkelijk kan veranderen of groeien.

• Commerciële toe-eigening: waar een griefbot door een bedrijf wordt beheerd, kan de overleden persoon een product worden, met hun gelijkenis behouden, te gelde gemaakt of hergebruikt door een partij die zij nooit machtigden.

• Afwijking en verzinsel: een model dat is getraind om als iemand te klinken, zal leemtes opvullen door te verzinnen, en uitspraken produceren die de persoon nooit deed en die de familie ten onrechte als authentiek kan aannemen.

Geen van deze schade is onvermijdelijk in elk geval, en dat is nu juist het punt. Ze volgt uit een structuur, het bouwen van de weergave na het overlijden, zonder toestemming, onder controle van buitenaf, die er bijna zeker voor zorgt dat ten minste een deel ervan optreedt. Verander de structuur en de meeste van deze risico's vallen weg. Hulpmiddelen die zijn ontworpen om de nabestaanden te laten praten met een overleden dierbare via AI of om te praten met een AI-versie van iemand die is overleden liggen precies op deze breuklijn, en waar ze zonder de toestemming van de betrokkene zijn gebouwd, erven ze precies deze problemen.

Het alternatief met toestemming voorop: bouw je eigen weergave bij leven

Het alternatief is eenvoudig te formuleren. In plaats van toe te laten dat iemand na het overlijden wordt nagemaakt zonder inspraak, bouwt een persoon bij leven zijn eigen weergave, als de auteur ervan. Bij Afterlife AI™ is dat een Persona: een beheerd verslag met toestemming voorop van wie je bent, uitsluitend geput uit wat je daadwerkelijk aanlevert, over de vele dimensies van een echt mens in plaats van geschraapt uit achtergebleven gegevens.

Omdat de betrokkene de auteur is, wordt de bovengenoemde schade bij de wortel aangepakt in plaats van achteraf verholpen. Er is toestemming, omdat je ervoor koos die te maken. Er is geen verzinsel van het soort dat griefbots riskeren, omdat die uitsluitend put uit geverifieerde herinnering die jij aanleverde, in plaats van te gokken om de stilte op te vullen. En er is beheer, omdat je de voorwaarden stelt zolang je dat kunt. De wens om verbonden te blijven wordt geëerd, maar de persoon die daar centraal in staat, hield zijn stem in het beslissen.

De enige die toestemming kan geven om te worden vertegenwoordigd, is de levende persoon.

Hoe je het verantwoord doet

Dit goed doen gaat minder over de technologie dan over de voorwaarden eromheen. Een weergave van een persoon zou door die persoon moeten zijn geschreven, geput uit geverifieerde herinnering in plaats van gevolgtrekking, en onder heldere, blijvende controle geplaatst over wie het mag bereiken en wanneer. Die voorwaarden zijn wat een respectvolle praktijk scheidt van een uitbuitende, hoe die ook wordt genoemd.

Controle is het deel dat het gemakkelijkst over het hoofd wordt gezien en het belangrijkst is om goed te krijgen. De Executor Lock™ is gebouwd om die te bieden: hij bepaalt wie een Persona mag activeren en wanneer, geeft een benoemde executeur het laatste woord, en maakt het resultaat blijvend zodra het is ingesteld, zodat het na je overlijden niet opnieuw kan worden getraind, gewijzigd of gecommercialiseerd. Die blijvendheid is wat een weergave verandert van iets dat kan worden meegenomen en gewijzigd in iets dat blijft zoals de persoon het achterliet. Het is het structurele antwoord op de schade van commerciële toe-eigening en afwijking die ethici het meest zorgen baart.

Als wat je wilt een plek is waar degenen van wie je houdt naar kunnen terugkeren, brengen dezelfde principes een beheerd AI-gedenkteken voort dat de persoon die het herdenkt respecteert, omdat de persoon het zelf bouwde en begrensde. Het verschil tussen dit en een griefbot is niet de troost die het de nabestaanden biedt, die in beide gevallen echt kan zijn. Het verschil is dat hier de troost niet ten koste gaat van de toestemming van degene die wordt herdacht.

Het ethische alternatief voor een griefbot is dus geen afwijzing van de wens erachter. Het is een herordening ervan. De doden nabootsen zonder hun instemming vraagt de nabestaanden een stem te aanvaarden die de betrokkene nooit goedkeurde. Een Persona bouwen bij leven, beheerd en met toestemming voorop, laat een mens zelf beslissen hoe die aanwezig zal zijn nadat ze er niet meer zijn, en houdt die beslissing beschermd. De technologie is vergelijkbaar. De ethiek is dat niet. Het hele verschil zit in wie toestemming gaf, en wanneer.