L'alternativa etica ai griefbot

Un griefbot e un sistema di intelligenza artificiale che simula una persona defunta, di solito costruito dopo la sua morte a partire dai messaggi, dalle registrazioni e dai post che ha lasciato, in modo che chi e in lutto possa portare avanti una sorta di conversazione con lei. L'alternativa etica a un griefbot non e abbandonare il desiderio che vi sta dietro, che e profondamente umano, ma invertire l'ordine del consenso: invece di ricreare qualcuno dopo la morte senza il suo accordo, costruisci una rappresentazione governata di te stesso mentre sei in vita, avendola scelta liberamente. Quella singola differenza, chi ha dato il consenso e quando, separa una pratica contro cui molti studiosi di etica mettono in guardia da una a cui una persona puo dare il proprio assenso.

Questa pagina espone cos'e realmente un griefbot, dove sta il serio problema etico, cosa hanno detto ricercatori e studiosi di etica al riguardo e come si presenta nella pratica un'alternativa basata sul consenso. L'obiettivo e essere equi piuttosto che allarmisti. L'impulso a continuare a parlare con qualcuno che hai perso non e un difetto da rimproverare. La sola questione e come lo si fa, e se la persona che viene ricreata ha mai avuto voce in capitolo.

Il problema etico centrale: ricreare qualcuno che non ha mai dato il consenso

La caratteristica che definisce la maggior parte dei griefbot, e la radice della difficolta etica, e che sono costruiti a partire dai defunti, non da loro. Una famiglia in lutto o un'azienda raccoglie i vecchi messaggi, le note vocali e i post social di una persona e addestra un modello a parlare come lei. Il defunto e la materia prima. Non e mai l'autore e, cosa cruciale, non gli e mai stato chiesto.

Questo conta perche una simulazione convincente avanza affermazioni a nome di una persona. Produce frasi che non ha mai detto, opinioni che potrebbe non aver mai avuto, rassicurazioni che non ha mai offerto. I defunti non possono correggerla, non possono opporsi e non possono ritirarsi. Una rappresentazione a cui il soggetto non ha acconsentito e che non puo governare e, in fondo, qualcuno che parla per una persona che non puo piu parlare per se stessa, presentando il tutto come la voce stessa di quella persona. Qualunque conforto offra, parte da un luogo in cui il soggetto non ha mai accettato di trovarsi.

A griefbot is built of the dead. A Persona is built by the living.

La linea del consenso

Quasi ogni questione etica significativa su questa tecnologia si riduce a una sola linea: la persona rappresentata era un autore consenziente, o un soggetto non consenziente? Da un lato c'e il tipico griefbot, assemblato dopo la morte a partire da dati che la persona ha lasciato per altri scopi, governato da chiunque detenga quei dati, senza rispondere a nessuno. Dall'altro c'e una rappresentazione che una persona ha costruito da se, mentre era in vita, decidendo cosa contiene e cosa non affermera mai.

Questa e la distinzione tra un griefbot o un deadbot, termini per la ricreazione a posteriori, e una Persona basata sul consenso e creata in anticipo. Le parole suonano simili e la tecnologia si sovrappone, ma sul piano etico sono quasi opposte. Una prende una voce; all'altra una voce viene data. La presenza o l'assenza del consenso del soggetto stesso non e un dettaglio. E l'intera questione.

Qui il consenso deve anche significare piu di una casella spuntata una volta sola. Significa che la persona ha scelto cosa includere, puo plasmare il modo in cui si comporta e stabilisce le regole su chi puo raggiungerla e quando. Un consenso che il soggetto non puo esercitare perche e gia andato non e davvero il suo consenso. Per questo il momento conta tanto quanto l'accordo: l'unica persona che puo davvero acconsentire a essere rappresentata e quella in vita.

Cosa dicono la ricerca e gli studiosi di etica

I commenti seri su questa tecnologia sono diventati piu cauti man mano che gli strumenti sono migliorati. La copertura su testate come Scientific American ha valutato se i griefbot aiutino realmente chi e in lutto o rischino di tenerlo bloccato, e ha osservato che le prove sono tutt'altro che definitive. La conclusione prudente in gran parte di questi scritti non e che la tecnologia sia inutile, ma che i suoi benefici sono condizionati e i suoi rischi sono reali.

Il dibattito accademico ed etico, incluso il lavoro emerso in sedi come The Conversation, ha insistito con maggiore forza proprio sulla questione del consenso. I ricercatori in quest'ambito hanno sostenuto che ricreare una persona senza il suo previo accordo puo violarne la dignita, che famiglie e aziende possono avere interessi divergenti da cio che il defunto avrebbe voluto, e che dovrebbero esistere garanzie che impediscano di usare, monetizzare o far dire a una persona simulata cose che l'originale non avrebbe mai detto. Il tema ricorrente e la governance: chi controlla la rappresentazione, con quale autorita e con quali limiti.

Letto nel suo insieme, questo corpo di lavori non afferma che il desiderio di restare connessi sia sbagliato. Afferma che quel desiderio andrebbe servito in un modo che rispetti la persona rappresentata, e che il consenso e il controllo sono le condizioni perche cio sia possibile. Questo e uno standard che un approccio basato sul consenso e progettato per soddisfare, e che un griefbot a posteriori strutturalmente non puo raggiungere.

I danni documentati dei deadbot non consensuali

Oltre alla questione di principio, diversi danni concreti sono stati documentati o seriamente argomentati. Vale la pena nominarli chiaramente, perche sono le ragioni per cui la cautela e giustificata, non astrazioni.

• Ricreazione senza consenso: il danno piu basilare e rappresentare una persona che non vi ha mai acconsentito, mettendole in bocca parole e opinioni che non puo contestare.

• Interferenza con il lutto: una simulazione sempre disponibile puo, per alcune persone, ritardare il lavoro del lutto anziche alleviarlo, mantenendo chi e in lutto legato a una presenza che non puo davvero cambiare ne crescere.

• Cattura commerciale: laddove un griefbot e gestito da un'azienda, il defunto puo diventare un prodotto, con la sua immagine conservata, monetizzata o riutilizzata da una parte che non ha mai autorizzato.

• Deriva e invenzione: un modello addestrato a suonare come qualcuno colmera le lacune inventando, producendo affermazioni che la persona non ha mai fatto e che la famiglia potrebbe erroneamente considerare autentiche.

Nessuno di questi danni e inevitabile in ogni caso, ed e proprio questo il punto. Derivano da una struttura, costruire la rappresentazione dopo la morte, senza consenso, sotto controllo esterno, che quasi garantisce che almeno alcuni di essi si verifichino. Cambia la struttura e la maggior parte di questi rischi viene meno. Gli strumenti progettati per chi e in lutto per parlare con una persona cara defunta tramite l'IA o per parlare con una versione IA di qualcuno che e morto si collocano esattamente su questa linea di frattura, e dove sono costruiti senza il consenso del soggetto, ereditano esattamente questi problemi.

L'alternativa basata sul consenso: costruisci la tua mentre sei in vita

L'alternativa e semplice da enunciare. Invece di lasciare che qualcuno venga ricreato dopo la morte senza voce in capitolo, una persona costruisce la propria rappresentazione mentre e in vita, come autrice di essa. In Afterlife AI™, questa e una Persona: un registro governato e basato sul consenso di chi sei, tratto solo da cio che fornisci davvero, attraverso le molte dimensioni di una persona reale anziche raccolto da dati residui.

Poiche il soggetto e l'autore, i danni descritti sopra vengono affrontati alla radice anziche corretti in seguito. C'e il consenso, perche hai scelto di crearla. Non c'e l'invenzione del tipo che i griefbot rischiano, perche attinge solo a ricordi verificati che hai fornito, anziche tirare a indovinare per colmare il silenzio. E c'e la governance, perche stabilisci tu le condizioni finche puoi. Il desiderio di restare connessi e onorato, ma la persona al centro di esso ha mantenuto la propria voce nelle decisioni.

The only person who can consent to being represented is the living one.

Come farlo in modo responsabile

Farlo bene riguarda meno la tecnologia che le condizioni che la circondano. La rappresentazione di una persona dovrebbe essere creata da quella persona, tratta da ricordi verificati anziche da deduzioni, e posta sotto un controllo chiaro e duraturo su chi puo raggiungerla e quando. Quelle condizioni sono cio che separa una pratica rispettosa da una di sfruttamento, comunque la si chiami.

Il controllo e la parte piu facile da trascurare e piu importante da impostare bene. L'Executor Lock™ e costruito per fornirlo: governa chi puo attivare una Persona e quando, da a un esecutore designato l'ultima parola, e rende il risultato permanente una volta stabilito, cosi non puo essere riaddestrato, alterato ne commercializzato dopo la tua morte. Quella permanenza e cio che trasforma una rappresentazione da qualcosa che potrebbe essere preso e modificato in qualcosa che resta come la persona l'ha lasciata. E la risposta strutturale ai danni della cattura commerciale e della deriva che preoccupano di piu gli studiosi di etica.

Se cio che desideri e un luogo in cui le persone che ami possano tornare, gli stessi principi producono un memoriale IA governato che rispetta la persona che ricorda, perche e la persona stessa ad averlo costruito e delimitato. La differenza tra questo e un griefbot non e il conforto che offre a chi e in lutto, che puo essere reale in entrambi i casi. La differenza e che qui il conforto non avviene a spese del consenso di chi viene ricordato.

Quindi l'alternativa etica a un griefbot non e il rifiuto del desiderio che vi sta dietro. E un suo riordino. Ricreare i defunti senza il loro accordo chiede a chi e in lutto di accettare una voce che il soggetto non ha mai approvato. Costruire una Persona mentre si e in vita, governata e basata sul consenso, permette a una persona di decidere da se come sara presente dopo che se ne sara andata, e mantiene quella decisione protetta. La tecnologia e simile. L'etica no. Tutta la differenza sta in chi ha dato il consenso, e quando.