Etyczna alternatywa dla griefbotów

griefbot to system AI, który symuluje zmarłą osobę, zwykle budowany po jej śmierci z wiadomości, nagrań i postów, które po sobie zostawiła, tak by osieroceni mogli prowadzić z nią rodzaj rozmowy. Etyczną alternatywą dla griefbota nie jest porzucenie pragnienia, które za nim stoi, bo jest ono głęboko ludzkie, ale odwrócenie kolejności zgody: zamiast odtwarzać kogoś po śmierci bez jego zgody, budujesz zarządzaną reprezentację siebie za życia, wybrawszy ją w sposób wolny. Ta jedna różnica, kto wyraził zgodę i kiedy, oddziela praktykę, przed którą ostrzega wielu etyków, od takiej, za którą człowiek może się opowiedzieć.

Ta strona przedstawia, czym griefbot faktycznie jest, gdzie leży poważny problem etyczny, co powiedzieli o nim badacze i etycy oraz jak w praktyce wygląda alternatywa oparta na zgodzie. Celem jest być rzetelnym, a nie alarmistycznym. Impuls, by dalej rozmawiać z kimś, kogo się straciło, nie jest wadą, którą należy karcić. Pytanie dotyczy jedynie tego, jak się to robi i czy osoba odtwarzana kiedykolwiek miała w tym głos.

Rdzeń problemu etycznego: odtwarzanie kogoś, kto nigdy nie wyraził zgody

Cechą definiującą większość griefbotów, i źródłem trudności etycznej, jest to, że są budowane ze zmarłych, a nie przez nich. Osierocona rodzina lub firma zbiera czyjeś stare wiadomości, notatki głosowe i posty społecznościowe i trenuje model, by mówił jako ta osoba. Zmarły jest surowcem. Nigdy nie jest autorem i, co kluczowe, nigdy nie został zapytany.

To ma znaczenie, ponieważ przekonująca symulacja stawia twierdzenia w czyimś imieniu. Produkuje zdania, których nigdy nie wypowiedział, opinie, których być może nigdy nie żywił, zapewnienia, których nigdy nie złożył. Zmarły nie może tego sprostować, nie może zaprotestować i nie może się wycofać. Reprezentacja, na którą podmiot nie wyraził zgody i którą nie może zarządzać, jest w gruncie rzeczy kimś mówiącym za osobę, która nie może już mówić za siebie, i przedstawianiem tego jako własnego głosu tej osoby. Jakiekolwiek pocieszenie oferuje, zaczyna się od miejsca, na które podmiot nigdy nie przystał.

Griefbot jest budowany ze zmarłych. Persona jest budowana przez żywych.

Linia zgody

Niemal każde znaczące pytanie etyczne o tę technologię sprowadza się do jednej linii: czy osoba reprezentowana była zgadzającym się autorem, czy niezgadzającym się podmiotem? Po jednej stronie jest typowy griefbot, złożony po śmierci z danych, które osoba zostawiła w innych celach, zarządzany przez tego, kto te dane posiada, nieodpowiadający przed nikim. Po drugiej jest reprezentacja, którą osoba sama zbudowała, za życia, decydując, co zawiera i czego nigdy nie będzie twierdzić.

To rozróżnienie między griefbotem lub deadbotem, terminami oznaczającymi odtworzenie po fakcie, a opartą na zgodzie Personą stworzoną z wyprzedzeniem. Słowa brzmią podobnie, a technologia się pokrywa, ale etycznie są niemal przeciwieństwami. Jedna zabiera głos; drugiej się go daje. Obecność lub brak własnej zgody podmiotu nie jest szczegółem. Jest całym pytaniem.

Zgoda musi tu też oznaczać coś więcej niż jednorazowe zaznaczenie pola. Oznacza, że osoba wybrała, co weszło w skład, może kształtować, jak się to zachowuje, i ustaliła reguły tego, kto może to osiągnąć i kiedy. Zgoda, której podmiot nie może wykonać, ponieważ już go nie ma, nie jest tak naprawdę jego zgodą. Dlatego czas ma tu takie samo znaczenie jak samo przyzwolenie: jedyną osobą, która może naprawdę wyrazić zgodę na bycie reprezentowaną, jest osoba żywa.

Co mówią badania i etycy

Poważny komentarz na temat tej technologii stawał się coraz ostrożniejszy, w miarę jak narzędzia się doskonaliły. Relacje w mediach takich jak Scientific American ważyły, czy griefboty naprawdę pomagają osieroconym, czy grożą zatrzymaniem ich w miejscu, i zauważały, że dowody są dalekie od rozstrzygnięcia. Ostrożny wniosek w dużej części tego piśmiennictwa nie brzmi, że technologia jest bezwartościowa, ale że jej korzyści są warunkowe, a ryzyka realne.

Dyskusja akademicka i etyczna, w tym prace ujawnione w miejscach takich jak The Conversation, mocniej naciskała konkretnie na kwestię zgody. Badacze w tej dziedzinie argumentowali, że odtwarzanie osoby bez jej uprzedniego przyzwolenia może naruszać jej godność, że rodziny i firmy mogą mieć interesy rozbieżne z tym, czego chciałby zmarły, oraz że powinny istnieć zabezpieczenia zapobiegające temu, by symulowaną osobę wykorzystywano, monetyzowano lub zmuszano do mówienia rzeczy, których oryginał nigdy by nie powiedział. Powracającym motywem jest zarządzanie: kto kontroluje reprezentację, na czyje upoważnienie i z jakimi ograniczeniami.

Czytane razem, ten dorobek nie mówi, że pragnienie pozostania w więzi jest błędne. Mówi, że pragnieniu temu należy służyć w sposób, który szanuje osobę reprezentowaną, oraz że zgoda i kontrola są warunkami, pod którymi jest to możliwe. To standard, który podejście oparte na zgodzie jest zaprojektowane spełniać, a którego griefbot tworzony po fakcie strukturalnie spełnić nie może.

Udokumentowane szkody nieopartych na zgodzie deadbotów

Poza kwestią zasady udokumentowano lub poważnie argumentowano kilka konkretnych szkód. Warto nazwać je wprost, ponieważ to one są powodami, dla których ostrożność jest uzasadniona, a nie abstrakcjami.

• Odtworzenie bez zgody: najbardziej podstawową szkodą jest reprezentowanie osoby, która nigdy się na to nie zgodziła, wkładanie w jej usta słów i poglądów, których nie może zakwestionować.

• Zakłócenie żałoby: symulacja, która jest zawsze dostępna, może u niektórych osób opóźniać pracę żałoby, zamiast ją łagodzić, utrzymując osieroconych przywiązanych do obecności, która nie może naprawdę się zmienić ani rozwinąć.

• Zawłaszczenie komercyjne: tam, gdzie griefbota prowadzi firma, zmarły może stać się produktem, z wizerunkiem zatrzymanym, monetyzowanym lub wykorzystanym na nowo przez stronę, której nigdy nie upoważnił.

• Dryf i fabrykacja: model wytrenowany, by brzmieć jak ktoś, wypełni luki, zmyślając, produkując wypowiedzi, których osoba nigdy nie wygłosiła, a które rodzina może błędnie wziąć za autentyczne.

Żadna z tych szkód nie jest nieunikniona w każdym przypadku, i to jest właśnie sedno. Wynikają one ze struktury, budowania reprezentacji po śmierci, bez zgody, pod zewnętrzną kontrolą, która niemal gwarantuje przynajmniej niektóre z nich. Zmień strukturę, a większość tych ryzyk odpada. Narzędzia zaprojektowane dla osieroconych, by rozmawiać ze zmarłą ukochaną osobą za pomocą AI lub by rozmawiać z wersją AI kogoś, kto zmarł, leżą dokładnie na tej linii uskoku, a tam, gdzie są budowane bez zgody podmiotu, dziedziczą dokładnie te problemy.

Alternatywa oparta na zgodzie: zbuduj własną za życia

Alternatywę łatwo sformułować. Zamiast pozwalać, by ktoś został odtworzony po śmierci bez swojego głosu, osoba buduje własną reprezentację za życia, jako jej autor. W Afterlife AI™ jest to Persona: zarządzany, oparty na zgodzie zapis tego, kim jesteś, czerpany wyłącznie z tego, co faktycznie dostarczysz, w wielu wymiarach prawdziwej osoby, a nie zebrany z resztek danych.

Ponieważ podmiot jest autorem, powyższe szkody są rozwiązywane u źródła, a nie łatane po fakcie. Jest zgoda, ponieważ Ty postanowiłeś to stworzyć. Nie ma fabrykacji tego rodzaju, którym grożą griefboty, ponieważ czerpie się wyłącznie ze zweryfikowanej pamięci, którą dostarczyłeś, a nie z domysłów wypełniających ciszę. I jest zarządzanie, ponieważ ustalasz warunki, póki możesz. Pragnienie pozostania w więzi jest uszanowane, ale osoba w jego centrum zachowała swój głos w decydowaniu.

Jedyną osobą, która może wyrazić zgodę na bycie reprezentowaną, jest osoba żywa.

Jak zrobić to odpowiedzialnie

Zrobienie tego dobrze dotyczy mniej technologii, a bardziej warunków wokół niej. Reprezentacja osoby powinna być autorstwa tej osoby, czerpana ze zweryfikowanej pamięci, a nie z wnioskowania, i objęta jasną, trwałą kontrolą nad tym, kto może ją osiągnąć i kiedy. To te warunki oddzielają praktykę pełną szacunku od wyzyskującej, jakkolwiek się ją nazywa.

Kontrola jest częścią, którą najłatwiej przeoczyć, a którą najważniej dobrze zrobić. Executor Lock™ jest zbudowany, by ją zapewnić: zarządza tym, kto i kiedy może aktywować Personę, daje wyznaczonemu wykonawcy ostatnie słowo i czyni wynik trwałym, gdy zostanie ustalony, tak by nie mógł zostać przetrenowany, zmieniony ani skomercjalizowany po Twojej śmierci. Ta trwałość jest tym, co zamienia reprezentację z czegoś, co mogłoby zostać zabrane i zmienione, w coś, co pozostaje takie, jakim osoba je zostawiła. To strukturalna odpowiedź na szkody zawłaszczenia komercyjnego i dryfu, które najbardziej niepokoją etyków.

Jeśli tym, czego chcesz, jest miejsce, do którego ci, których kochasz, mogą powracać, te same zasady dają zarządzaną pamiątkę AI, która szanuje osobę, którą wspomina, ponieważ osoba sama ją zbudowała i ograniczyła. Różnica między tym a griefbotem nie polega na pocieszeniu, które oferuje osieroconym, a które w obu przypadkach może być realne. Różnica polega na tym, że tutaj pocieszenie nie przychodzi kosztem zgody osoby, którą się wspomina.

A więc etyczną alternatywą dla griefbota nie jest odmowa pragnienia, które za nim stoi. Jest jego przeorganizowanie. Odtwarzanie zmarłych bez ich przyzwolenia każe osieroconym zaakceptować głos, na który podmiot nigdy nie przystał. Budowanie Persony za życia, zarządzanej i opartej na zgodzie, pozwala osobie samodzielnie zdecydować, jak będzie obecna, gdy jej już nie będzie, i chroni tę decyzję. Technologia jest podobna. Etyka nie. Cała różnica polega na tym, kto wyraził zgodę i kiedy.