Tehnologija žalovanja: kaj je, celoten pregled področja in kako jo presoditi

Tehnologija žalovanja je tehnologija, namenjena temu, da ljudem pomaga žalovati, se spominjati in ostati povezani s človekom, ki je umrl. Kategorija zajema spletne spominske strani, griefbote, ki iz zapuščenih podatkov simulirajo mrtve, orodja za ohranjanje glasu in platforme, ki izhajajo iz soglasja in na katerih človek, dokler je živ, zgradi svojo Persona. Razlike med temi področji so, praktično in etično, ogromne.

Ta oznaka zajema vse od neposrednega prenosa pogreba do umetne inteligence, ki odgovarja z glasom vaše mame, zato se pogovori o tehnologiji žalovanja tako pogosto razhajajo. Generativna umetna inteligenca je močno znižala ceno simulacije človeka, vsak danes za seboj pusti podatke celega življenja, raziskovalci pa opisujejo hitro rastočo industrijo digitalnega posmrtnega življenja. Rast je prehitela dokaze in pravila.

Ta vodnik je zemljevid celotnega področja: kaj je tehnologija žalovanja, v čem se griefboti razlikujejo od preostale kategorije, kje dejansko poteka etična meja, kaj doslej pravijo raziskave in pet vprašanj, ki ločijo skrbnega ponudnika od malomarnega. Tudi sami delamo na tem področju. Afterlife AI™ je aplikacija za digitalno zapuščino, ki izhaja iz soglasja: svojo Persona ustvarite, dokler ste živi, začnete pa lahko brezplačno: 25 spominov, brez kartice. Ta zorni kot oblikuje naše stališče, zato smo govor o izdelku omejili na en jasno označen razdelek.

V tem vodniku:

• Kaj je tehnologija žalovanja?

• Griefbot ali tehnologija žalovanja: pravilna raba izrazov

• Zemljevid področja tehnologije žalovanja

• Etični spekter: soglasje pred smrtjo ali rekonstrukcija po njej

• Kaj raziskave dejansko pravijo

• Pet vprašanj, ki jih zastavite, preden zaupate kateri koli tehnologiji žalovanja

• Kje je Afterlife AI in zakaj je pomembno, da izhaja iz soglasja

• Pogosta vprašanja

Kaj je tehnologija žalovanja?

Tehnologija žalovanja, v angleščini grief tech, je krovni izraz za digitalne izdelke in storitve, namenjene obdobju okoli smrti in po njej: žalovanju, spominjanju, praktičnemu zaključevanju življenja in nadaljnji povezanosti s človekom, ki je umrl. Akademiki, ki področje raziskujejo, pogosto uporabljajo širši izraz, industrija digitalnega posmrtnega življenja, ki zajema tudi to, kaj se ob vaši smrti zgodi z vašimi podatki, računi in digitalno lastnino.

Kategorija je širša, kot si večina ljudi predstavlja. Na praktičnem koncu so platforme za osmrtnice, strani za zbiranje sredstev v spomin na pokojnika in storitve, ki izvršiteljem pomagajo najti in zapreti račune. Na intimnem koncu je umetna inteligenca, ki piše, govori ali se na videu pojavlja na način človeka, ki je umrl. Oboje imenujejo tehnologija žalovanja, zato javna razprava o področju tako hitro zaide: dva človeka uporabita isti izraz in mislita povsem različni stvari, eden spletno knjigo gostov, drugi klepetalnega robota z glasom mrtvega moža.

Moderno kategorijo so oblikovale tri sile. Prvič, vsak danes za seboj pusti veliko sled podatkov: sporočila, glasovna sporočila, fotografije, videe, objave. Drugič, generativna umetna inteligenca je omogočila, da to sled poceni spremenimo v nekaj, kar odgovarja; kar je nekoč zahtevalo raziskovalni laboratorij, danes teče na navadni naročnini. Tretjič, pandemija je žalovanje prek zaslonov naredila običajno, od neposredno prenašanih pogrebov do spletnih sten z izrazi sožalja. Ko to združimo, je nekaj, kar je bilo pred desetletjem niša, postalo industrija, s start-upi, patenti in univerzitetnimi raziskovalnimi skupinami.

Griefbot ali tehnologija žalovanja: pravilna raba izrazov

Griefbot ni sopomenka za tehnologijo žalovanja, čeprav naslovi pogosto obravnavajo besedi kot zamenljivi. Griefbot, imenovan tudi deadbot, je en določen kotiček področja: klepetalni robot ali glasovni agent, ki simulira določenega mrtvega človeka, skoraj vedno rekonstruiranega po smrti iz podatkov, ki so ostali za njim. Naši ločeni vodniki ta kotiček obravnavajo podrobno.

Razlika je pomembna, ker griefbot nosi skoraj vso etično težo kategorije. Nihče ne ugovarja spominski strani ali digitalni oporoki. Težka vprašanja se začnejo, ko programska oprema trdi, da govori kot človek, ki se nikoli ni strinjal, da bi ga simulirali. Če izraze razlikujete, lahko zavrnete problematični kotiček, ne da bi zavrgli celotno področje, in resno vzamete koristne kotičke, ne da bi prevzeli prtljago griefbota.

Zemljevid področja tehnologije žalovanja

Večina tehnologije žalovanja sodi v eno od petih družin. Tabela jih razvršča po dveh najpomembnejših vprašanjih: kdaj je nastala in čigavo soglasje stoji za njo.

Spominske strani in pokloni so najstarejša in najmanj sporna družina: skupen prostor za javno žalovanje, ki ga vodijo živi za žive. Tudi sem prihaja umetna inteligenca, v obliki ustvarjenih poklonskih videov in obnove fotografij; naš vodnik o AI spominskih prostorih pojasnjuje, kaj obstaja in na kaj paziti.

Ohranjanje glasu in zgodb je najbližje običajnemu družinskemu arhiviranju, le nadgrajenemu. Posnetek očeta, ki pripoveduje, kako je spoznal vašo mamo, ne potrebuje nobenega algoritma, da bi bil dragocen. Če potrebujete ta kotiček, začnite z našima vodnikoma o tem, kako ohraniti glas starša in kako posneti zgodbo svojega življenja.

Digitalna zapuščina in orodja za zapuščinske zadeve so nesijajna družina, ki bi jo morala uporabljati vsaka odrasla oseba, ne glede na to, kaj misli o umetni inteligenci: nastavitve zapuščine na platformah, predaja gesel in oporoka, ki zajema digitalno premoženje. Naš vodnik za digitalno oporoko v ZDA vas popelje skozi to plast.

Persona, ki temelji na soglasju, je najnovejša družina in tista, v kateri delamo. Človek, dokler je živ, sam odloči, kaj naj ve njegova ali njena Persona, kako naj zveni in kdo jo lahko pozneje doseže. Rezultat je na videz lahko podoben griefbotu, saj gre za prisotnost, ki govori, a temelj je nasproten: avtorstvo namesto rekonstrukcije.

Etični spekter: soglasje pred smrtjo ali rekonstrukcija po njej

Potegnite eno črto skozi zgornje področje in se bo etika večinoma uredila sama. Ta črta je soglasje, vprašanje pa je preprosto: je bila oseba udeleženka tehnologije ali njen predmet?

Najbolj znane epizode v tehnologiji žalovanja ležijo na koncu rekonstrukcije. Leta 2021 je kanadski moški s storitvijo Project December, ki temelji na GPT-3, simuliral svojo zaročenko, ki je umrla osem let prej; poročilo časnika San Francisco Chronicle je postalo opredeljujoča zgodba žanra. Leta 2020 je korejski televizijski dokumentarec žalujočo mater v virtualni resničnosti postavil pred poustvaritev njene male hčerke. Na Kitajskem studii zdaj prodajajo tako imenovane avatarje digitalnega vstajenja, narejene iz fotografij in glasovnih vzorcev mrtvih, posel, ki ga je leta 2024 dokumentirala revija MIT Technology Review. Microsoft je leta 2020 dobil ameriški patent za izdelavo klepetalnih robotov iz podatkov določene osebe, izrecno vključno z ljudmi, ki so umrli, čeprav je podjetje dejalo, da takega izdelka ne namerava izdati.

Ponavljajoča se težava v teh primerih ni, da tehnologija odpove. Težava je, da oseba v središču nikoli ni izbrala nobene od besed, ki jih zdaj izgovarja model. Učni podatki so tisto, kar je naključno preživelo, ne tisto, kar bi oseba izbrala. Napak ni mogoče popraviti na najhujši možen način: model človeka napačno predstavi, človek pa ne more ugovarjati. Komercialne spodbude pa se nagibajo k slabemu, kajti podjetje, katerega izdelek je prisotnost vašega mrtvega moža, ima nenavadno veliko moči nad vami v najranljivejšem trenutku vašega življenja.

Na drugem koncu spektra soglasje pred smrtjo skoraj vse spremenljivke spremeni hkrati. Oseba izbere, kaj vključiti in kaj izpustiti. Sliši glas ter podobnost odobri ali zavrne. Določi meje, o čem se sme govoriti in kdo lahko obišče. In družina ve, da je oseba to želela, kar spremeni občutek vsakega poznejšega srečanja: dar, ki ga je pustila za seboj, ne pa spiritistična seansa, izvedena nad njenimi podatki. Podrobnejši zagovor tega stališča smo zapisali v etični alternativi griefbotom.

Med poloma so resnični vmesni primeri: družina, ki naroči obnovo glasu iz starih posnetkov starša z njegovim blagoslovom, ali umirajoči, ki partnerja prosi, naj dokonča nekaj, kar sta začela skupaj. Kompas deluje tudi v sivem območju. Bližje ko projekt ostane temu, kar je oseba izrecno želela, varnejša je podlaga; več ko ugiba, bolj si izposoja obraz, ki ga nihče ni posodil.

Kaj raziskave dejansko pravijo

Najbolj citirano akademsko delo o tehnologiji žalovanja je članek iz leta 2024, ki sta ga napisala Tomasz Hollanek in Katarzyna Nowaczyk-Basińska z Leverhulme Centre for the Future of Intelligence Univerze v Cambridgeu. Z delom na oblikovalskih scenarijih in ne na terenskih podatkih sta trdila, da deadboti nosijo resnična tveganja psihološke škode, možnost nezaželenega stika s simulacijo mrtvih, na primer takšne, ki preživelim pošilja sporočila ali nosi oglase, pa sta opisala kot obliko digitalnega strašenja. Njuna priporočila se berejo kot kontrolni seznam, ki izhaja iz soglasja: pridobite soglasje simulirane osebe, bodite pregledni, da uporabniki govorijo z umetno inteligenco, omejite dostop otrokom, oglaševanje povsem izključite iz simulacij in preživelim omogočite dostojanstven način, da bot upokojijo.

Raziskave žalovanja same ponujajo področju bolj naklonjen okvir, kot ga kažejo naslovi. Od dela Klassa, Silvermana in Nickmana iz leta 1996 o nadaljevanju vezi (continuing bonds) klinični strokovnjaki na splošno sprejemajo, da zdravo žalovanje pogosto vključuje stalen notranji odnos z osebo, ki je umrla: obiskovanje groba, hranjenje glasovnega sporočila, pogovor s fotografijo, nošenje ure. Tehnologija žalovanja ni izumila želje, da bi še naprej govorili z mrtvimi; ljudje to počnejo, odkar obstajajo ljudje. Živo vprašanje je, ali določena tehnologija podpira vez, ki omogoča, da življenje teče naprej, ali pa hrani izogibanje izgubi.

Glede tega je iskren odgovor sredi leta 2026, da so dokazi pičli. Podaljšana žalna motnja je v DSM-5-TR vstopila leta 2022 in nekateri klinični strokovnjaki izražajo zaskrbljenost, da bi pri manjšini ranljivih žalujočih simulacija lahko olajšala odlašanje s sprejetjem smrti. Drugi opazovalci poročajo, da žalujoči opisujejo pristno tolažbo, perspektivo, celo zaključek. Velikih nadzorovanih študij uporabe griefbotov zaenkrat ni, zato upanja in strahovi temeljijo predvsem na teoriji, majhnih študijah in opisih primerov. Kdor prodaja gotovost v katero koli smer, je pred podatki, odgovorna drža za graditelje pa je tista, ki jo opisujejo avtorja iz Cambridgea: načrtujte za soglasje, iskrenost in izhod, ker morajo zaščitni ukrepi nositi težo, ki je dokazi še ne zmorejo.

Pet vprašanj, ki jih zastavite, preden zaupate kateri koli tehnologiji žalovanja

Ne glede na to, o katerem kotičku področja razmišljate, pet vprašanj ločuje skrbne izdelke od malomarnih. Ne zahtevajo tehničnega znanja; to so vprašanja, ki bi jih zastavili komur koli, ki se ponuja, da bi stal med vami in človekom, ki ga imate radi.

1. Ali je oseba dala soglasje, dokler je bila živa? Pri vsem, kar simulira človeka, je to odločilno vprašanje. Zgrajeno s strani osebe iz njenih lastnih odločitev je eno moralno vesolje; sestavljeno pozneje iz njenih ostankov je drugo. Če izdelek ne zna jasno odgovoriti na to, se tu ustavite.

2. Od kod so podatki in kdo jih zdaj nadzoruje? Vprašajte, kaj je bilo uporabljeno za gradnjo izkušnje, ali to lahko vidite in popravite, ali se prodaja ali uporablja za učenje drugih sistemov in kaj se z njimi zgodi, če zaprete račun.

3. Ali iskreno pove, da je umetna inteligenca? Odgovoren izdelek nikoli ne pretvarja, da je oseba živa, in nikoli ne dopusti, da pozabite, da govorite s programsko opremo. Razkritje mora biti vgrajeno v samo izkušnjo, ne skrito v splošnih pogojih.

4. Ali lahko določite meje, začasno ustavite in odidete? Žalovanje se spreminja iz meseca v mesec. Morali bi se lahko umakniti, se vrniti, izkušnjo dostojanstveno upokojiti in vse trajno izbrisati, brez boja za hrambo podatkov ali izstopnega postopka, polnega krivde.

5. Kakšen je poslovni model in kaj se zgodi, če podjetje propade? Naročnina, ki jo lahko prekinete, je bolj zdrava kot model, ki služi z vašim zadrževanjem na kakršen koli način. Vprašajte, ali lahko izvozite tisto, kar vam največ pomeni, in kakšen je naveden načrt, če storitev preneha delovati. Start-upi s tehnologijo žalovanja propadajo kot vsi drugi, druga izguba zaradi ugasnitve strežnika pa je resen dogodek, ne hipotetičen.

Kje je Afterlife AI in zakaj je pomembno, da izhaja iz soglasja

To je razdelek, v katerem govorimo o sebi, zato ga berite s tem v mislih.

Afterlife AI™ je aplikacija za digitalno zapuščino iz družine, ki izhaja iz soglasja. Svojo Persona zgradite, dokler ste živi: posnamete svoje zgodbe, ohranite svoj glas in oblikujete, kaj vaša Persona ve, ceni in bo rekla. Nič se ne črpa iz vaših računov in nič se ne rekonstruira iz ostankov. Executor Lock™ nato zapečati vašo Persona kot popoln posnetek vsega, kar ste se odločili ohraniti, vaša pravila za sprostitev pa določajo, kdo lahko doseže vašo Persona in kdaj. To je naš odgovor na vsako vprašanje s seznama zgoraj, zasnovan, preden smo napisali eno vrstico trženja: meja soglasja je bistvo.

Jasno povemo tudi, kaj Persona je: AI podoba, zgrajena iz tistega, kar ste se odločili ohraniti. Ni vstajenje, ni nadomestek in nikoli ni pretvarjanja, da je oseba še vedno tu. Družine nam povedo, da je prav ta iskrenost tista, zaradi katere je izkušnja znosna in nato dragocena. Če želite videti, kako gospodinjstva gradijo skupaj, skozi generacije, to pokriva naša stran družinska zapuščina, načrti in brezplačna gradnja pa so na strani s cenami.

In če to berete po izgubi in ne pred njo, ubrnite nežnejšo pot. Naš vodnik o pogovoru z umrlim ljubljenim človekom prek AI iskreno pojasnjuje, kaj danes obstaja, tudi kdaj je najprijaznejši odgovor počakati.

Viri

• Hollanek, T. and Nowaczyk-Basińska, K. (2024). Griefbots, Deadbots, Postmortem Avatars: on Responsible Application of Generative AI in the Digital Afterlife Industry. Philosophy & Technology.

• University of Cambridge: Call for safeguards to prevent unwanted 'hauntings' by AI chatbots of dead loved ones (May 2024)

• San Francisco Chronicle: The Jessica Simulation (2021)

• MIT Technology Review: Deepfakes of your dead loved ones are a booming Chinese business (2024)

• American Psychiatric Association: Prolonged Grief Disorder

• Klass, D., Silverman, P.R. and Nickman, S.L. (1996). Continuing Bonds: New Understandings of Grief. Taylor & Francis.

• Google Patents: US10853717B1, Creating a conversational chat bot of a specific person (Microsoft, granted 2020)