Η ηθική εναλλακτική στα griefbots
Ένα griefbot είναι ένα σύστημα τεχνητής νοημοσύνης που προσομοιώνει έναν νεκρό άνθρωπο, χτισμένο συνήθως μετά τον θάνατό του από τα μηνύματα, τις ηχογραφήσεις και τις αναρτήσεις που άφησε πίσω του, ώστε οι πενθούντες να μπορούν να διατηρήσουν ένα είδος συνομιλίας μαζί του. Η ηθική εναλλακτική σε ένα griefbot δεν είναι να εγκαταλείψουμε την επιθυμία πίσω από αυτό, που είναι βαθιά ανθρώπινη, αλλά να αντιστρέψουμε τη σειρά της συναίνεσης: αντί να αναδημιουργείτε κάποιον μετά τον θάνατο χωρίς τη συμφωνία του, χτίζετε μια διεπόμενη αναπαράσταση του εαυτού σας όσο είστε εν ζωή, έχοντας την επιλέξει ελεύθερα. Αυτή η μία διαφορά, ποιος συναίνεσε και πότε, χωρίζει μια πρακτική που πολλοί δεοντολόγοι προειδοποιούν εναντίον της από μία που ένας άνθρωπος μπορεί να στηρίξει.
Αυτή η σελίδα εκθέτει τι είναι πραγματικά ένα griefbot, πού βρίσκεται το σοβαρό ηθικό πρόβλημα, τι έχουν πει οι ερευνητές και οι δεοντολόγοι για αυτό, και πώς μοιάζει στην πράξη μια εναλλακτική που θέτει τη συναίνεση πρώτη. Ο στόχος είναι να είμαστε δίκαιοι παρά καταστροφολόγοι. Η παρόρμηση να συνεχίσετε να μιλάτε σε κάποιον που χάσατε δεν είναι ένα ελάττωμα προς επίπληξη. Το ερώτημα είναι μόνο πώς γίνεται, και αν το άτομο που αναδημιουργείται είχε ποτέ λόγο.
Το κεντρικό ηθικό πρόβλημα: η αναδημιουργία κάποιου που ποτέ δεν συναίνεσε
Το καθοριστικό χαρακτηριστικό των περισσότερων griefbots, και η ρίζα της ηθικής δυσκολίας, είναι ότι χτίζονται από τους νεκρούς, όχι από αυτούς. Μια οικογένεια που πενθεί ή μια εταιρεία συγκεντρώνει τα παλιά μηνύματα, τα φωνητικά σημειώματα και τις αναρτήσεις ενός ανθρώπου και εκπαιδεύει ένα μοντέλο να μιλά ως εκείνος. Ο θανών είναι η πρώτη ύλη. Ποτέ δεν είναι ο συντάκτης, και το κρίσιμο, ποτέ δεν ρωτήθηκε.
Αυτό έχει σημασία επειδή μια πειστική προσομοίωση κάνει ισχυρισμούς στο όνομα ενός ανθρώπου. Παράγει προτάσεις που ποτέ δεν είπε, απόψεις που ίσως ποτέ δεν είχε, καθησυχασμούς που ποτέ δεν πρόσφερε. Οι νεκροί δεν μπορούν να τη διορθώσουν, δεν μπορούν να αντιταχθούν, και δεν μπορούν να αποσυρθούν. Μια αναπαράσταση στην οποία το υποκείμενο δεν συναίνεσε και δεν μπορεί να διέπει είναι, στην ουσία, κάποιος που μιλά για έναν άνθρωπο που δεν μπορεί πλέον να μιλήσει για τον εαυτό του, και το παρουσιάζει ως την ίδια τη φωνή αυτού του ανθρώπου. Όποια παρηγοριά κι αν προσφέρει, ξεκινά από ένα σημείο στο οποίο το υποκείμενο ποτέ δεν συμφώνησε να σταθεί.
Ένα griefbot χτίζεται από τους νεκρούς. Μια Persona χτίζεται από τους ζωντανούς.
Η γραμμή της συναίνεσης
Σχεδόν κάθε ουσιαστικό ηθικό ερώτημα για αυτή την τεχνολογία καταλήγει σε μία γραμμή: ήταν το άτομο που εκπροσωπείται ένας συναινών συντάκτης, ή ένα μη συναινούν υποκείμενο; Από τη μία πλευρά είναι το τυπικό griefbot, συναρμολογημένο μετά τον θάνατο από δεδομένα που το άτομο άφησε για άλλους σκοπούς, διεπόμενο από όποιον κρατά αυτά τα δεδομένα, υπόλογο σε κανέναν. Από την άλλη είναι μια αναπαράσταση που ένα άτομο έχτισε το ίδιο, όσο ήταν εν ζωή, αποφασίζοντας τι περιέχει και τι δεν θα ισχυριστεί ποτέ.
Αυτή είναι η διάκριση ανάμεσα σε ένα griefbot ή ένα deadbot, όρους για την εκ των υστέρων αναδημιουργία, και μια Persona που θέτει τη συναίνεση πρώτη, συντεταγμένη εκ των προτέρων. Οι λέξεις ακούγονται παρόμοιες και η τεχνολογία επικαλύπτεται, αλλά ηθικά είναι σχεδόν αντίθετες. Η μία παίρνει μια φωνή, η άλλη δίνεται μία. Η παρουσία ή η απουσία της συναίνεσης του ίδιου του υποκειμένου δεν είναι μια λεπτομέρεια. Είναι ολόκληρο το ζήτημα.
Η συναίνεση εδώ πρέπει επίσης να σημαίνει κάτι περισσότερο από ένα τετραγωνάκι που τσεκάρεται μία φορά. Σημαίνει ότι το άτομο επέλεξε τι μπήκε μέσα, μπορεί να διαμορφώσει τον τρόπο συμπεριφοράς του, και έθεσε τους κανόνες για το ποιος μπορεί να το προσεγγίσει και πότε. Η συναίνεση που το υποκείμενο δεν μπορεί να ασκήσει επειδή έχει ήδη φύγει δεν είναι στην πραγματικότητα καθόλου δική του συναίνεση. Γι' αυτό η χρονική στιγμή έχει τόση σημασία όση και η συμφωνία: το μόνο άτομο που μπορεί πραγματικά να συναινέσει στο να αναπαρασταθεί είναι το ζωντανό.
Τι λένε η έρευνα και οι δεοντολόγοι
Ο σοβαρός σχολιασμός για αυτή την τεχνολογία έχει γίνει πιο επιφυλακτικός καθώς τα εργαλεία έχουν βελτιωθεί. Η κάλυψη σε έντυπα όπως το Scientific American έχει σταθμίσει το αν τα griefbots πραγματικά βοηθούν τους πενθούντες ή κινδυνεύουν να τους κρατήσουν στάσιμους, και έχει σημειώσει ότι τα στοιχεία απέχουν πολύ από το να είναι οριστικά. Το προσεκτικό συμπέρασμα σε μεγάλο μέρος αυτής της αρθρογραφίας δεν είναι ότι η τεχνολογία είναι άχρηστη, αλλά ότι τα οφέλη της είναι υπό όρους και οι κίνδυνοί της είναι υπαρκτοί.
Ο ακαδημαϊκός και δεοντολογικός διάλογος, συμπεριλαμβανομένης εργασίας που ήρθε στο προσκήνιο σε χώρους όπως το The Conversation, έχει πιέσει περισσότερο ειδικά στο ζήτημα της συναίνεσης. Ερευνητές σε αυτόν τον τομέα έχουν υποστηρίξει ότι η αναδημιουργία ενός ανθρώπου χωρίς την προηγούμενη συμφωνία του μπορεί να παραβιάσει την αξιοπρέπειά του, ότι οι οικογένειες και οι εταιρείες μπορεί να έχουν συμφέροντα που αποκλίνουν από αυτό που θα ήθελε ο νεκρός, και ότι θα πρέπει να υπάρχουν δικλείδες ασφαλείας που να εμποδίζουν έναν προσομοιωμένο άνθρωπο από το να χρησιμοποιηθεί, να αποφέρει έσοδα ή να αναγκαστεί να πει πράγματα που ο αρχικός ποτέ δεν θα έλεγε. Το επαναλαμβανόμενο θέμα είναι η διακυβέρνηση: ποιος ελέγχει την αναπαράσταση, με ποιανού την εξουσία, και με ποια όρια.
Διαβασμένο μαζί, αυτό το σώμα εργασίας δεν λέει ότι η επιθυμία να μείνουμε συνδεδεμένοι είναι λάθος. Λέει ότι αυτή η επιθυμία θα πρέπει να εξυπηρετείται με έναν τρόπο που σέβεται το άτομο που αναπαρίσταται, και ότι η συναίνεση και ο έλεγχος είναι οι προϋποθέσεις υπό τις οποίες μπορεί να γίνει. Αυτό είναι ένα πρότυπο που μια προσέγγιση που θέτει τη συναίνεση πρώτη είναι σχεδιασμένη να πληροί, και ένα που ένα εκ των υστέρων griefbot δομικά δεν μπορεί.
Οι τεκμηριωμένες βλάβες των μη συναινετικών deadbots
Πέρα από το ζήτημα της αρχής, αρκετές συγκεκριμένες βλάβες έχουν τεκμηριωθεί ή υποστηριχθεί σοβαρά. Αξίζει να ονομαστούν καθαρά, επειδή είναι οι λόγοι για τους οποίους δικαιολογείται η προσοχή, όχι αφαιρέσεις.
Αναδημιουργία χωρίς συναίνεση: η πιο βασική βλάβη είναι η αναπαράσταση ενός ανθρώπου που ποτέ δεν συμφώνησε σε αυτήν, βάζοντας στο στόμα του λόγια και απόψεις που δεν μπορεί να αμφισβητήσει.
Παρεμβολή στο πένθος: μια προσομοίωση που είναι πάντα διαθέσιμη μπορεί, για ορισμένους ανθρώπους, να καθυστερήσει την εργασία του πένθους αντί να την απαλύνει, κρατώντας τους πενθούντες δεμένους σε μια παρουσία που δεν μπορεί πραγματικά να αλλάξει ή να αναπτυχθεί.
Εμπορική οικειοποίηση: όπου ένα griefbot λειτουργεί από μια εταιρεία, ο νεκρός μπορεί να γίνει προϊόν, με την εικόνα του να διατηρείται, να αποφέρει έσοδα ή να επαναχρησιμοποιείται από ένα μέρος που ποτέ δεν εξουσιοδότησε.
Παρέκκλιση και κατασκευή: ένα μοντέλο εκπαιδευμένο να ακούγεται σαν κάποιος θα καλύψει τα κενά επινοώντας, παράγοντας δηλώσεις που το άτομο ποτέ δεν έκανε και που η οικογένεια μπορεί εσφαλμένα να εκλάβει ως αυθεντικές.
Καμία από αυτές τις βλάβες δεν είναι αναπόφευκτη σε κάθε περίπτωση, και αυτό ακριβώς είναι το ζητούμενο. Απορρέουν από μια δομή, το χτίσιμο της αναπαράστασης μετά τον θάνατο, χωρίς συναίνεση, υπό εξωτερικό έλεγχο, που σχεδόν εγγυάται τουλάχιστον μερικές από αυτές. Αλλάξτε τη δομή και οι περισσότεροι από αυτούς τους κινδύνους εξαφανίζονται. Εργαλεία σχεδιασμένα ώστε οι πενθούντες να μιλήσουν σε έναν αγαπημένο που έχει φύγει μέσω AI ή να μιλήσουν σε μια εκδοχή τεχνητής νοημοσύνης κάποιου που έχει πεθάνει βρίσκονται ακριβώς σε αυτή τη γραμμή ρήγματος, και όπου χτίζονται χωρίς τη συναίνεση του υποκειμένου, κληρονομούν ακριβώς αυτά τα προβλήματα.
Η εναλλακτική που θέτει τη συναίνεση πρώτη: χτίστε τη δική σας όσο είστε εν ζωή
Η εναλλακτική δηλώνεται απλά. Αντί να αφήσουμε κάποιον να αναδημιουργηθεί μετά τον θάνατο χωρίς τον λόγο του, ένα άτομο χτίζει τη δική του αναπαράσταση όσο είναι εν ζωή, ως συντάκτης της. Στο Afterlife AI™, αυτό είναι μια Persona: ένα διεπόμενο αρχείο του ποιος είστε, που θέτει τη συναίνεση πρώτη, αντλημένο μόνο από αυτά που πραγματικά παρέχετε, σε όλες τις διαστάσεις ενός πραγματικού ανθρώπου αντί να αντλείται από υπολειμματικά δεδομένα.
Επειδή το υποκείμενο είναι ο συντάκτης, οι παραπάνω βλάβες αντιμετωπίζονται στη ρίζα τους αντί να μπαλώνονται εκ των υστέρων. Υπάρχει συναίνεση, επειδή επιλέξατε να τη δημιουργήσετε. Δεν υπάρχει κατασκευή του είδους που ρισκάρουν τα griefbots, επειδή αντλεί μόνο από επαληθευμένη μνήμη που παρείχατε, αντί να μαντεύει για να γεμίσει τη σιωπή. Και υπάρχει διακυβέρνηση, επειδή θέτετε τους όρους όσο μπορείτε. Η επιθυμία να μείνετε συνδεδεμένοι τιμάται, αλλά το άτομο στο κέντρο της κράτησε τη φωνή του στην απόφαση.
Το μόνο άτομο που μπορεί να συναινέσει στο να αναπαρασταθεί είναι το ζωντανό.
Πώς να το κάνετε υπεύθυνα
Το να το κάνετε αυτό σωστά αφορά λιγότερο την τεχνολογία και περισσότερο τις συνθήκες γύρω από αυτήν. Η αναπαράσταση ενός ανθρώπου θα πρέπει να συντάσσεται από αυτόν τον άνθρωπο, να αντλείται από επαληθευμένη μνήμη αντί από συμπερασμό, και να τίθεται υπό σαφή, διαρκή έλεγχο για το ποιος μπορεί να την προσεγγίσει και πότε. Αυτές οι συνθήκες είναι που χωρίζουν μια σεβαστική πρακτική από μια εκμεταλλευτική, όπως και αν αποκαλείται.
Ο έλεγχος είναι το κομμάτι που είναι ευκολότερο να παραβλεφθεί και σημαντικότερο να γίνει σωστά. Το Executor Lock™ είναι φτιαγμένο για να τον παρέχει: διέπει ποιος μπορεί να ενεργοποιήσει μια Persona και πότε, δίνει σε έναν ορισμένο εκτελεστή τον τελευταίο λόγο, και καθιστά το αποτέλεσμα μόνιμο μόλις οριστεί, ώστε να μην μπορεί να επανεκπαιδευτεί, να τροποποιηθεί ή να εμπορευματοποιηθεί μετά τον θάνατό σας. Αυτή η μονιμότητα είναι που μετατρέπει μια αναπαράσταση από κάτι που θα μπορούσε να ληφθεί και να αλλαχθεί σε κάτι που παραμένει όπως το άφησε το άτομο. Είναι η δομική απάντηση στις βλάβες της εμπορικής οικειοποίησης και της παρέκκλισης που ανησυχούν περισσότερο τους δεοντολόγους.
Αν αυτό που θέλετε είναι ένας τόπος στον οποίο να επιστρέφουν αυτοί που αγαπάτε, οι ίδιες αρχές παράγουν ένα διεπόμενο μνημείο τεχνητής νοημοσύνης που σέβεται το άτομο που θυμάται, επειδή το άτομο το έχτισε και το οριοθέτησε το ίδιο. Η διαφορά ανάμεσα σε αυτό και ένα griefbot δεν είναι η παρηγοριά που προσφέρει στους πενθούντες, που μπορεί να είναι πραγματική και στα δύο. Η διαφορά είναι ότι εδώ, η παρηγοριά δεν έρχεται εις βάρος της συναίνεσης αυτού που θυμόμαστε.
Έτσι, η ηθική εναλλακτική σε ένα griefbot δεν είναι η άρνηση της επιθυμίας πίσω από αυτό. Είναι μια αναδιάταξή της. Η αναδημιουργία των νεκρών χωρίς τη συμφωνία τους ζητά από τους πενθούντες να αποδεχτούν μια φωνή που το υποκείμενο ποτέ δεν ενέκρινε. Το χτίσιμο μιας Persona όσο είστε εν ζωή, διεπόμενης και με τη συναίνεση πρώτη, αφήνει έναν άνθρωπο να αποφασίσει ο ίδιος πώς θα είναι παρών αφού φύγει, και κρατά αυτή την απόφαση προστατευμένη. Η τεχνολογία είναι παρόμοια. Η δεοντολογία όχι. Ολόκληρη η διαφορά είναι ποιος συναίνεσε, και πότε.