Vanhin kuolemaan liittyvä pelko ei ole unohdetuksi tuleminen. Se on väärin muistetuksi tuleminen.

Lähes jokaisissa hautajaisissa, joissa olen istunut, on pieni hetki, jolloin arkussa makaava ihminen ja muistopuheessa kuvattu ihminen eivät hiljaa täsmää. Kuvattu on hieman ystävällisempi kuin se, jonka tunsin, hieman kärsivällisempi, hiottu pyöreäksi juuri sieltä, missä oikea ihminen oli kiinnostava. Kukaan ei valehtele. Huone tekee sitä, mitä suru aina tekee. Se valitsee, minkä version pitää. Se valitsee hellästi, ja ainoa ihminen, joka voisi vastustaa muokkausta, on ainoa, jonka ei sallita puhua.

Emme yleensä sano tätä ääneen sen oikealla nimellä. Sanomme, että palvelu oli kaunis. Mutta kukkien alla tehdään päätös siitä, kuka joku oli, eikä kuolleilla ole siihen äänioikeutta. Tämä ei ole teknologian keksimä uusi ongelma. Se on vanhin asia, joka meille tapahtuu kuoleman jälkeen. Meidät luovutetaan kokonaisina toisten ihmisten muistoon, ja heidän muistonsa on vajavainen ja rakastava ja väärä sadalla pienellä tavalla, joita emme koskaan pääse korjaamaan.

Rakennan ohjelmistoja alalle, jonka avulla ihmiset voivat tallentaa itsensä eläessään, jotta jotakin heidän äänestään ja tarinoistaan jää jäljelle. Tällainen työ herättää hyvin tietyn pelon, ja olen kuullut sen niin monta kertaa, että tunnen sen muodon ulkoa. Ihmiset sanovat sen olevan kammottavaa. He sanovat sen olevan väärennös, nukke, jolla on kuolleen ihmisen kasvot. He sanovat sen olevan riistoa, surusta tehty kuukausitilaus. Nämä väitteet ovat vakavasti otettavia, ja otan ne vakavasti. Mutta olen alkanut ajatella, etteivät ne ole se todellinen pelko. Ne ovat pelko, jonka voi sanoa ääneen illallisbileissä. Syvempi pelko, se joka oikeasti pitää ihmiset hereillä, on hiljaisempi ja vaikeampi myöntää.

Syvempi pelko on tulla muistetuksi väärin. Tulla litistetyksi. Se, että ristiriitaisuutesi silotellaan pois, kunnes jäljelle jää vain pilakuva, joka on kaikkien kanssa samaa mieltä. Se, että yksi lause, jonka sanoit yhtenä huonona päivänä, edustaa koko sinua ikuisesti, koska se oli lause, joka tallentui. Me kaikki pelkäämme sitä, ja pelkäsimme sitä kauan ennen kuin kukaan opetti mallin kuolleen ihmisen perusteella. Kone ei luonut pelkoa. Se antoi sille vain kasvot, joihin osoittaa.

Vastaväitteet täydellä voimallaan

Esitän oman alani vastaisen perustelun kunnolla, sillä sen esittäjät eivät ole hörhöjä, eikä heidän huolensa ole aiheeton.

Aloitetaan Sherry Turklesta, joka on vuosikymmeniä seurannut, mitä tapahtuu, kun ihmiset kiintyvät asioihin, jotka eivät voi rakastaa heitä takaisin. Teoksessaan Alone Together hän kirjoitti olevansa "huolestunut ajatuksesta hakea läheisyyttä koneelta, jolla ei ole tunteita, ei voi olla tunteita ja joka on oikeastaan vain älykäs kokoelma 'ikään kuin' -esityksiä, jotka käyttäytyvät ikään kuin välittäisivät, ikään kuin ymmärtäisivät meitä." Lue se hitaasti. Se on vaikein tuntemani lause omaa työtäni vastaan. Järjestelmä, joka puhuu kuolleen isän sävyillä ja sanoo asioita, joita hän olisi voinut sanoa, esittää jollain tasolla välittämistä, jota sillä ei ole. Se käyttäytyy ikään kuin. Ja suruaan elävä ihminen, joka haluaa niin kovasti sen olevan totta, on juuri se, jolla on vähiten edellytyksiä pitää tuo "ikään kuin" mielessään.

Turklen huoli ei ole se, että teknologia olisi karkeaa. Huoli on, että se toimii riittävän hyvin vaikuttaakseen, ja että hyväksymme esityksen, koska olemme yksinäisiä ja esitys on saatavilla kello 2 yöllä, kun mikään muu ei ole.

Sitten on Elaine Kasket, psykologi, joka kirjoitti kirjan All the Ghosts in the Machine siitä, mitä meistä tulee, kun elämämme on tallennettu palvelimille, joita emme omista. Hänen aiheensa on digitaalinen jäämistö: valokuvat, viestit, tilit, kaikki se jäänne, jonka ihminen jättää jälkeensä, ja epämukava tosiasia, että tämä jäänne on nyt omaisuutta, jota muut voivat hallita, siirtää, tuottaa sillä rahaa ja muokata. Kun olet kuollut, minäsi on dataa, datalla on haltijansa, ja haltijoilla on omat intressinsä. Kysymys, johon hän palaa jatkuvasti, ei ole se, voiko sinusta olla digitaalinen versio. Se on, kuka sitä saa pyörittää, kenen etua ajatellen ja onko kukaan kysynyt sinulta ensin.

Ja sitten on huolellisin aiheesta lukemani tutkimus, vuonna 2024 Philosophy and Technology -lehdessä julkaistu artikkeli, jonka kirjoittivat Tomasz Hollanek ja Katarzyna Nowaczyk-Basińska, kaksi Cambridgen tutkijaa, jotka tutkivat täsmälleen sitä tulevaisuuden kolkkaa, jossa itse työskentelen. Jo heidän otsikkonsa nimeää asiat, joita ihmiset pelkäävät: surubotit, kuolleiden botit, kuolemanjälkeiset avatarit. Heidän varoituksensa ovat täsmällisiä, ja uskon niiden olevan oikeita. Hollanek varoitti, että nämä palvelut "voivat aiheuttaa ihmisille valtavaa ahdistusta, jos he joutuvat ei-toivottujen digitaalisten kummitusten kohteiksi menettämiensä ihmisten pelottavan tarkoista tekoälyjäljitelmistä." Hän meni pidemmälle: "Ihmiset voivat kiintyä tällaisiin simulaatioihin voimakkaasti, mikä tekee heistä erityisen alttiita manipuloinnille." Hänen kirjoittajakumppaninsa kutsui koko aluetta "eettiseksi miinakentäksi", ja hän valitsi sanansa huolella. Miinakenttä ei ole paikka, jonka yli kieltäydytään kulkemasta. Se on paikka, jonka yli kuljetaan hyvin hitaasti ja katsoen, mihin jalkansa asettaa.

Se, mitä Cambridgen artikkeli tekee ja mitä illallispöydän versio pelosta ei koskaan tee, on erottaa osalliset toisistaan. On ihminen, jota luodaan uudelleen. On ihminen, joka luo uudelleen. Ja on se, joka lopulta puhuu lopputuloksen kanssa, ja hän voi olla lapsi, joka ei ole lähelläkään valmis. Kolme eri ihmistä, kolme eri oikeuksien joukkoa, ja lähes mikään tämän alan tuote ei ole miettinyt kunnolla sitä, että nämä voivat erota toisistaan. Tyttären tarve kuulla äitinsä taas ei ole sama kuin äidin toive tulla kuulluksi, eikä yrityksen halu pitää molemmat sitoutuneina ole sama kuin kumpikaan niistä.

Voisin lisätä tapauksen, johon kaikki tarttuvat. Kesällä 2025 toimittaja haastatteli tekoälyavataria Joaquin Oliverista, pojasta, joka kuoli seitsemäntoistavuotiaana Parklandin ampumisessa. Avatarin rakensivat hänen surevat vanhempansa, ja se julkaistiin hänen syntymäpäivänsä tienoilla, jota hän ei koskaan saanut viettää. Reaktio oli välitön ja enimmäkseen inhoa. Makaaberia, ihmiset sanoivat. Häiritsevää. Hänen isänsä vastasi kriitikoille niin suoralla surulla, että sitä oli vaikea kiistää: tekoäly ei tappanut hänen poikaansa. Se on todella vaikea tapaus, enkä nosta sitä esiin ratkaistakseni sen vaan merkitäkseni sen, koska siinä tämän esseen jokainen lanka on yhdessä solmussa. Oikea ihminen, poissa. Ihmisiä, jotka rakastivat häntä ja toimivat rakkaudesta. Versio hänestä sanomassa julkisesti asioita, joiden sanomisesta hän ei koskaan saanut päättää.

Pidä kaikki tämä mielessä täydellä voimallaan. Esitysongelma on todellinen. Hallintaongelma on todellinen. Kummitteluongelma, manipulaatio-ongelma, kolmen ihmisen ongelma, kaikki todellisia. En aio puhua sinua irti yhdestäkään niistä.

Mitä vastaväitteillä on yhteistä

Mutta aseta ne vierekkäin ja huomaa, mitä niillä todella on yhteistä. Turklen "ikään kuin". Kasketin haltijat. Cambridgen tutkijoiden kolme erotettua osallista. Joaquin Oliverin vanhemmat, jotka päättävät hänen puolestaan, mitä hän haluaisi sanottavan aseista. Jokainen näistä on pohjimmiltaan huoli tekijyydestä. Siitä, kuka pitelee kynää. Siitä kuilusta, joka on eläneen ihmisen ja hänen nimissään nyt puhuvan version välillä, ja ratkaisevasti siitä, kuka saa päättää, mikä tuon kuilun täyttää.

Tämä uudelleenkehystys on merkittävämpi kuin miltä näyttää, koska se siirtää vaaran paikkaa. Vaara ei koskaan oikeastaan ollut teknologia. Tallenne ei ole vaarallinen. Malli ei ole vaarallinen. Vaarallista on ihmisen versio, jonka joku toinen on kirjoittanut omista syistään ja jota ihminen ei ole koskaan nähnyt eikä voi korjata. Kammottavuuden tunne, jonka ihmiset kokevat, on merkki, eikä merkki ole "tämä on väärennös". Merkki on "joku puhuu puolestasi, vaikka hän ei ole ansainnut oikeutta siihen."

Kun asian näkee näin, tapahtuu outo asia. Ongelma lakkaa olemasta uusi.

Muistin ovat aina kirjoittaneet elävät

Tässä on osa, jota emme mielellämme sano. Meidät on aina muistettu väärin, ja olemme aina antaneet elävien tehdä muistamisen, ja olemme rakentaneet kokonaisia instituutioita, jotta muokkaus tuntuisi luontevalta.

Muistopuhe on tekijyyttä. Joku nousee seisomaan ja valitsee koko ristiriitaisesta elämästä ne kolme tarinaa, jotka edustavat sinua, ja valinta on väite siitä, kuka olit, etkä ole paikalla sanomassa, että olisit valinnut toisia tarinoita. Kuolinilmoitus on tekijyyttä, kirjoitettu kaavan mukaan sellaisella kielellä, jota kukaan ei oikeasti puhunut, ja se tekee vaikeasta, hauskasta, ainutlaatuisesta ihmisestä kappaleen hyveitä. Perhetarinat ovat tekijyyttä, ja ne kovettuvat jokaisella kerronnalla, kunnes lapsenlapsille välittyvä versio on hahmo, ei ihminen: isoisä, joka oli Aina Ankara, täti, joka Ei Koskaan Mennyt Naimisiin yhden lauseen takia, jonka hän kerran sanoi ja jota katui. Pinnan alla olevalla ihmisellä oli kokonainen sisäinen kiista käynnissä. Tarina säilytti johtopäätöksen ja heitti pois kiistan.

Tämä ei ole rakkauden epäonnistuminen. Se on muistin mekaniikkaa. Elävät pitävät sen, minkä jaksavat kantaa, ja se, minkä jaksavat kantaa, on pientä, ja he kantavat sen muodossa, joka auttaa heitä jatkamaan elämää. Äidistä tulee hänen parhaa päivänsä. Isästä tulee hänen pahin päivänsä, jos pahin päivä oli se, joka jätti jäljen sinuun. Kokonaiset ihmiset puristetaan yhteen ainoaan piirteeseen, joka oli hyödyllisin muistajille. Teimme näin kirjeillä ja päiväkirjoilla ja hautakivillä, jotka tiivistivät kuusikymmentä vuotta yhteen riviin. Olemme litistäneet kuolleita yhtä kauan kuin meillä on ollut kuolleita, ja olemme kutsuneet sitä heidän kunnioittamisekseen.

Joten kun joku kertoo minulle, että ihmisen tekoälyversio on pelottava, koska se ei ehkä vangitse, kuka hän todella oli, haluan huomauttaa lempeästi, ettei muistopuhekaan vanginnut, kuka hän todella oli. Mikään ei vangitse. Valinta ei koskaan ollut todellisen ja vääristyneen muiston välillä. Valinta on aina ollut yhden vääristymän ja toisen välillä, ja kaikki ne ovat jäljelle jääneiden kirjoittamia, eikä mikään niistä ole tarkistettu ainoalta ihmiseltä, joka tiesi.

Uutta ei ole vääristymä. Sitä meillä oli. Uutta on se, että ihminen voisi saada äänen.

Ääni

Tämä on sarana, ja siitä kannattaa olla tarkka.

Koko historian ajan sinulla ei ollut sananvaltaa omaan muistamiseesi. Kuolit, kynä siirtyi muiden käsiin, ja mitä he kirjoittivatkin, siitä tuli sinä. Teknologia, jonka parissa työskentelen, tekee täsmälleen yhden asian, joka on todella uusi. Se antaa ihmisen, eläessään, panna osan tekijyydestä takaisin omiin käsiinsä. Ei kaikkea. Et voi hallita sitä, mitä ihmiset tuntevat, tai mitä he päättävät korostaa, tai mitkä tarinoistasi säilyvät toiseen sukupolveen. Mutta voit ensimmäistä kertaa jättää jälkeesi jotakin, minkä muotoilit tarkoituksella, omin sanoin ja ristiriitaisuutesi mukana, sen sijaan että jättäisit vain raaka-ainetta, jonka muut muotoilevat sen jälkeen, kun et enää voi vastustaa.

Siksi olen alkanut uskoa, ettei suostumus ole tämän työn ominaisuus. Se on koko moraalinen ero. Kuolleen ihmisen versio voi syntyä kahdella tavalla. Toinen kootaan kuoleman jälkeen ulkopuolelta, omaisten tai yritysten tai asialistaa ajavan toimittajan toimesta, mistä tahansa palasista, jotka he saavat kerättyä, palvelemaan sitä, mitä elävät tarvitsevat kuolleen olevan. Toinen on ihmisen itsensä muotoilema eläessään: hän valitsee, mitä sisällyttää, ja päättää, miten haluaa tulla kohdatuksi. Nämä kaksi voivat näyttää ulkopuolelta lähes samalta. Ne voivat käyttää samaa teknologiaa. Ja ne ovat moraalisesti vastakohtia, koska vain toisessa on tekijän allekirjoitus.

Moraalisen aseman omaava versio on se, jonka ihminen teki. Ei tarkin. Ei lohdullisin. Suostumuksella tehty. Kuoleman jälkeen rakennettu jäljennös, olipa se kuinka elävä tahansa, on jonkun toisen maalaama muotokuva, ja se voi olla rakastava muotokuva tai kyyninen, mutta se ei ole ihmisen oma kertomus itsestään, eikä sen koskaan pidä antaa mennä sellaisesta. Versio, jonka ihminen rakensi eläessään, on todistus. Se on lähin asia vastaamiselle, joka meillä kenelläkään koskaan on.

Tässä kohdassa Joaquin Oliverin tapaus lakkaa olemasta solmu ja alkaa selventää. Se epämukavuus, jonka niin moni koki, ei oikeastaan koskenut teknologiaa eikä hänen vanhempiaan, jotka tekivät maailman ymmärrettävintä asiaa. Epämukavuus johtui siitä, että seitsemäntoistavuotiaalle pojalle annettiin julkisesti mielipiteitä kahdenkymmenenviiden vuoden iässä, jota hän ei koskaan saavuttanut, eikä hän ollut paikalla sanomassa samaa mieltä. Hänen vanhempansa pitelivät kynää rakkaudesta. Mutta kynä ei silti ollut hänen. Se on raja. Ei kammottava tai ei kammottava. Itsensä kirjoittama tai jonkun toisen kirjoittama.

Haluan olla tässä huolellinen, sillä suostumus ei tee miinakentästä turvallista. Cambridgen tutkijat ovat oikeassa siinä, että jopa täysin suostumukseen perustuva versio voi ahdistaa sitä, joka sen kanssa puhuu, voi ruokkia riippuvuutta ja se voidaan rakentaa pitämään joku sitoutuneena yli sen pisteen, joka on hänelle hyväksi. Ihminen voi suostua tulemaan muistetuksi ja silti kuoleman jälkeen muuttua joksikin, mitä hän ei tunnistaisi, jos tallenteen haltija yritys päättää muuttaa sitä. Eläessä annettu suostumus merkitsee jotakin vain, jos sitä kunnioitetaan jälkeenpäin, täsmälleen, ilman hiljaisia muokkauksia, ilman että liiketoiminta hiljaa parantaa kuolleita sopimaan mittariin. Lupaus pitää vain, jos versio on jäädytetty hetkeen, jolloin ihminen sen tarkoitti, eikä kukaan, ei yritys, eivät edes surevat omaiset, saa jatkaa sen muokkaamista, kuka joku oli. Muuten suostumus on pelkkä allekirjoitus asiakirjassa, jota kukaan ei aio noudattaa.

Joten vaatimustaso on suostumusta korkeampi. Se on suostumus, sekä uskollisuus tuolle suostumukselle ikuisesti, sekä nöyryys rakentaa vain se, minkä ihminen päätti jättää, ja kieltäytyä keksimästä loput. Jos hän ei koskaan tallentanut, mitä ajatteli Jumalasta, versio ei saa arvailla. Hiljaisuus on osa todistusta. Ihmisellä on oikeus olla jättänyt jotakin sanomatta, ja versio, joka täyttää nuo hiljaisuudet vaikuttaakseen täydellisemmältä, on jo rikkonut ainoan lupauksen, jolla on merkitystä.

Oma panokseni tähän

Minun pitää olla suora siitä, missä seison, sillä en ole puolueeton tarkkailija tässä keskustelussa. Yritykseni Afterlife.ai® on olemassa auttaakseen ihmisiä tallentamaan itsensä eläessään, ja kaikki, mitä olen juuri perustellut, on myös, sopivasti, kuvaus siitä, mitä yritän rakentaa. Sinun kannattaa punnita sanomaani sen mukaan. Kun perustaja kertoo, että tuotteen eettinen versio sattuu olemaan se versio, jota hän myy, oikea reaktio on kohotettu kulmakarva, ja mieluummin nostat sen kuin jätät nostamatta.

Voin kertoa, etten päätynyt suostumukseen markkinointilinjauksena. Päädyin siihen katsomalla vaihtoehtoa, ja vaihtoehto on todella pelottava: tulevaisuus, jossa kuka tahansa voidaan rekonstruoida kenen tahansa toimesta kuoleman jälkeen verkkoelämänsä pakokaasuista ja saada sanomaan asioita, kannattamaan asioita, lohduttamaan ihmisiä, myymään asioita, ilman allekirjoitusta ja ilman ääntä ja ilman että kuolleet voivat vastustaa, koska vastustaminen on ainoa asia, jota kuolleet eivät koskaan voi tehdä. Sitä tulevaisuutta vastaan ainoa palomuuri, jonka keksin, on yksinkertainen, vanhanaikainen periaate. Ainoa sinun versiosi, jonka pitäisi saada puhua nimissäsi, on se, johon suostuit. Kaikki muu on se, että muut kirjoittavat muistopuheesi ja kutsuvat sitä sinuksi.

Mitä todella pelkäämme

Palaan jatkuvasti noihin hautajaisiin ja arkussa olevan ihmisen ja puheessa olevan ihmisen väliseen pieneen ristiriitaan.

Siedämme tuon ristiriidan, koska olemme aina joutuneet. Kuolleet eivät voineet korjata meitä, joten teimme rauhan sen kanssa, että meiltä menee heidät hieman väärin, ja kerroimme itsellemme, että rakastava versio oli tosi, ja useimmiten tarkoitimme hyvää. Mutta jos kysyt ihmisiltä, mitä he haluaisivat rehellisinä hetkinään, lähes kukaan ei sano haluavansa tulla muistetuksi pyhimyksenä. He haluavat tulla muistetuksi itsenään. Vaikeana siellä, missä olivat vaikeita. Hauskana juuri sillä omalla tavallaan, jolla olivat hauskoja. Väärässä niissä asioissa, joissa olivat väärässä, ja saaden olla edelleen väärässä, koska se väärässä oleminen oli heidän omaansa ja osa kokonaisuutta. Ihmiset eivät pelkää unohdetuksi tulemista. He pelkäävät tulla muistetuksi, mutta muistetuksi jonakuna sileämpänä ja pienempänä ja helpompana kuin he todellisuudessa olivat.

Teknologia, jonka parissa työskentelen, ei korjaa kuolemaa eikä voi tehdä ketään taas ehjäksi. En ole kiinnostunut teeskentelemään muuta. Mutta se muuttaa yhtä asiaa, eikä se ole pieni asia. Koko ihmiskunnan historian ajan vastaus kysymykseen "kuka päättää, miten minut muistetaan" oli: ei sinä. Se olivat aina jälkeen jääneet, jotka tekivät rakastavaa, vajavaista, väistämätöntä muokkaustaan, ilman että sinun suostumustasi kysyttiin tai se oli mahdollinen. Ensimmäistä kertaa ihminen voi jättää kertomuksen omalla kädellään. Ei viimeistä sanaa. Viimeistä sanaa ei ole. Mutta sanan. Äänen huoneessa, joka ennen vaikeni samalla hetkellä kuin sinä.

Väärin muistetuksi tuleminen on vanhin hiljainen pelko, jota kannamme omasta kuolemastamme, vanhempi kuin mikään kone, vanhempi kuin kirjoitettu sana, yhtä vanha kuin ensimmäinen ihminen, joka seisoi haudan äärellä ja valitsi, minkä tarinan kertoa. Koneet eivät keksineet tuota pelkoa, eivätkä ne pelasta meitä siitä. Muuttunut on vain tämä: yhden oudon historiallisen ikkunan ajan, ennen kuin normit koventuvat ja laki saa kiinni ja me kaikki päätämme, mitä sallimme ja mitä emme, kynä on hetken sen ihmisen ulottuvilla, josta todella on kyse.

Rehellinen tapa käyttää sitä ei ole tarttua siihen kuolleiden puolesta. Se on antaa se, kun vielä on aikaa, eläville ja antaa heidän itsensä päättää, miten he haluavat tulla säilytetyiksi.