Ang pinakamatandang takot tungkol sa pagkamatay ay hindi ang malimutan. Ito ay ang maalala nang mali.

Sa halos bawat libing na naupuan ko, may sandaling tahimik na hindi nagtutugma ang taong nasa kabaong at ang taong inilalarawan sa eulohiya. Mas mabait nang bahagya ang inilalarawan kaysa sa nakilala ko, mas matiyaga nang bahagya, at pinakinis ang mga gilid kung saan naging kawili-wili ang tunay na tao. Walang nagsisinungaling. Ginagawa lang ng silid ang laging ginagawa ng dalamhati. Pumipili ito kung aling bersyon ang itatago, banayad ang pagpili, at ang tanging taong maaaring tumutol sa pagbabago ay ang tanging hindi pinapayagang magsalita.

Hindi natin karaniwang tinatawag ito sa tunay na pangalan. Tinatawag nating magandang serbisyo. Pero sa ilalim ng mga bulaklak, may desisyong ginagawa kung sino ang isang tao, at walang boto ang mga yumao rito. Hindi ito bagong problemang inimbento ng teknolohiya. Ito ang pinakamatandang nangyayari sa atin pagkamatay. Buong-buo tayong ipinagkakatiwala sa alaala ng ibang tao, at ang alaala nila ay bahagya lamang, mapagmahal, at mali sa daan-daang maliliit na paraan na hindi na natin maaayos kailanman.

Gumagawa ako ng software sa bahagi ng industriyang nagpapahintulot sa mga tao na i-record ang kanilang sarili habang buhay pa, para may maiwang bahagi ng kanilang boses at mga kuwento. Ang ganitong trabaho ay nakakaakit ng isang napakatukoy na takot, at narinig ko na ito nang sapat na beses para kabisado ko na ang hugis nito. Sinasabi ng mga tao na nakakakilabot ito. Sinasabi nilang peke ito, isang puppet na nakasuot ng mukha ng yumao. Sinasabi nilang mapagsamantala ito, dalamhating ginawang subscription. Dapat seryosohin ang mga pagtutol na iyon, at gagawin ko. Pero napagpasyahan kong hindi iyon ang tunay na takot. Iyon ang takot na masasabi nang malakas sa isang hapunan. Ang mas malalim, ang talagang nagpupuyat sa mga tao, ay mas tahimik at mas mahirap aminin.

Ang mas malalim na takot ay ang maalala nang mali. Ang mapatag. Ang pagpapakinis sa lahat ng iyong kontradiksyon hanggang wala nang matira kundi isang karikaturang sumasang-ayon sa lahat. Ang pagiging kinatawan ng buong pagkatao mo magpakailanman ng isang linyang nasabi mo sa isang masamang araw, dahil iyon ang linyang nai-save. Takot tayong lahat doon, at takot na tayo roon bago pa man may nagsanay ng modelo sa isang yumao. Hindi ang makina ang lumikha ng takot. Binigyan lang nito ito ng mukhang maituturo.

Ang mga pagtutol, sa buong lakas nila

Hayaan ninyong ilatag ko nang wasto ang kaso laban sa sarili kong industriya, dahil hindi mga baliw ang gumagawa nito at hindi sila mali na mag-alala.

Magsimula tayo kay Sherry Turkle, na ilang dekada nang nagmamasid sa nangyayari kapag nagkakaroon ng kapit ang mga tao sa mga bagay na hindi makakapagmahal pabalik. Sa Alone Together, isinulat niya na siya ay "nababagabag sa ideya ng paghahanap ng pagiging malapit sa isang makinang walang damdamin, hindi magkakaroon ng damdamin, at isa lamang matalinong koleksyon ng mga pagtatanghal na 'parang', kumikilos na parang nagmamalasakit, parang nauunawaan tayo." Basahin ito nang dahan-dahan. Ito ang pinakamabigat na pangungusap laban sa sarili kong trabaho na alam ko. Ang sistemang nagsasalita sa himig ng yumaong ama at nagsasabi ng mga bagay na maaaring sinabi niya ay, sa isang antas, nagtatanghal ng malasakit na wala naman sa kanya. Kumikilos itong parang. At ang taong nagdadalamhati, na labis na nagnanais na totoo ito, ang pinakawalang kakayahang panatilihin sa isip ang "parang."

Hindi ang alalahanin ni Turkle na magaspang ang teknolohiya. Ang alalahanin niya ay sapat na ang husay nito para mahalaga, at tatanggapin natin ang pagtatanghal dahil malulungkot tayo at available ito ng alas-2 ng madaling araw kapag wala nang iba.

Nariyan din si Elaine Kasket, ang psychologist na sumulat ng All the Ghosts in the Machine, isang aklat tungkol sa kung ano ang nangyayari sa atin kapag ang ating buhay ay nakaimbak na sa mga server na hindi natin pag-aari. Ang paksa niya ay ang mga digital na labi: ang mga larawan, mensahe, account, lahat ng bakas na iniiwan ng isang tao, at ang di-komportableng katotohanang ang bakas na ito ay isa nang ari-ariang maaaring hawakan, ilipat, pagkakitaan, at hubugin muli ng ibang tao. Kapag patay ka na, datos na ang sarili mo, may mga tagapag-ingat ang datos, at may sarili silang mga insentibo. Ang tanong na paulit-ulit niyang binabalikan ay hindi kung maaaring umiral ang digital na bersyon mo. Ito ay kung sino ang magpapatakbo nito, para kanino, at kung tinanong ka man lang muna.

At nariyan ang pinakamaingat na gawaing nabasa ko tungkol dito, isang papel noong 2024 sa Philosophy and Technology nina Tomasz Hollanek at Katarzyna Nowaczyk-Basińska, dalawang mananaliksik sa Cambridge na pinag-aaralan mismo ang sulok ng hinaharap na pinagtatrabahuhan ko. Ang pamagat pa lang ay pinangangalanan na ang kinatatakutan ng mga tao: griefbots, deadbots, postmortem avatars. Tiyak ang kanilang mga babala, at sa palagay ko tama sila. Nagbabala si Hollanek na ang mga serbisyong ito ay "may panganib na magdulot ng matinding paghihirap sa mga tao kung sasailalim sila sa hindi ginustong digital na pagmumulto mula sa nakababahalang tumpak na AI na muling paglikha ng mga nawala sa kanila." Dagdag pa niya: "Maaaring magkaroon ang mga tao ng matitibay na emosyonal na ugnayan sa gayong mga simulation, na magiging dahilan para maging partikular silang bulnerable sa manipulasyon." Tinawag ng kasama niyang may-akda ang buong larangan na "isang etikal na minefield," at maingat niyang pinili ang pariralang iyon. Ang minefield ay hindi lugar na tinatanggihan mong tawirin. Ito ay lugar na tinatawid mo nang napakabagal, habang binabantayan kung saan mo inilalagay ang mga paa mo.

Ang ginagawa ng papel ng Cambridge na hindi kailanman ginagawa ng bersyon ng takot sa hapunan ay ang paghihiwalay sa mga taong sangkot. Nariyan ang taong nililikhang muli. Nariyan ang taong gumagawa ng paglikha. At nariyan ang sinumang magtatapos na kumakausap sa resulta, na maaaring isang bata, na maaaring malayo pa sa kahandaan. Tatlong magkakaibang tao, tatlong magkakaibang hanay ng mga karapatan, at halos walang produkto sa larangang ito ang seryosong nag-isip na maaari silang magkahiwalay. Ang pangangailangan ng isang anak na babae na marinig muli ang kanyang ina ay hindi kapareho ng hangarin ng kanyang ina na marinig, at ang hangarin ng isang kumpanya na panatilihing nakatutok ang dalawa ay hindi kapareho ng alinman sa kanila.

Maaari kong idagdag ang kasong lahat ay binabanggit. Noong tag-init ng 2025, nagsagawa ang isang mamamahayag ng panayam sa isang AI avatar ni Joaquin Oliver, isang batang pinatay sa edad na labimpito sa pamamaril sa Parkland, na ginawa ng mga magulang niyang nagdadalamhati at inilabas sa paligid ng kaarawang hindi niya naabot. Agad ang reaksyon at karamihan ay pagkasuklam. Kakila-kilabot, sabi ng mga tao. Nakababahala. Sinagot ng kanyang ama ang mga kritiko ng dalamhating napakadiretso kaya mahirap kontrahin: hindi pinatay ng artificial intelligence ang kanyang anak. Tunay itong mahirap na kaso, at binabanggit ko ito hindi para lutasin kundi para markahan, dahil hawak nito ang bawat hibla ng sanaysay na ito sa iisang buhol. Isang tunay na taong wala na. Mga taong nagmahal sa kanya, kumikilos dahil sa pagmamahal. Isang bersyon niyang nagsasabi ng mga bagay, sa publiko, na hindi niya nagawang pagpasyahang sabihin.

Hawakan ang lahat ng iyan sa buong lakas. Totoo ang problema ng pagtatanghal. Totoo ang problema ng pag-iingat. Ang problema ng pagmumulto, ang problema ng manipulasyon, ang problema ng tatlong tao, totoo lahat. Hindi ko kayo kukumbinsihing wala ang alinman sa mga ito.

Ang pagkakatulad ng mga pagtutol

Pero pagtabihin ninyo sila at pansinin kung ano talaga ang pinagsasaluhan nila. Ang "parang" ni Turkle. Ang mga tagapag-ingat ni Kasket. Ang tatlong magkakahiwalay na sangkot ng pangkat ng Cambridge. Ang mga magulang ni Joaquin Oliver na nagpapasya, para sa kanya, kung ano ang gusto niyang sabihin tungkol sa mga baril. Bawat isa rito ay, sa ubod, alalahanin tungkol sa pagiging may-akda. Tungkol sa kung sino ang may hawak ng panulat. Tungkol sa agwat sa pagitan ng taong nabuhay at ng bersyong nagsasalita na ngayon sa kanyang pangalan, at, higit sa lahat, tungkol sa kung sino ang magpapasya kung ano ang pupuno sa agwat na iyon.

Mas mahalaga ang pagbabagong-tanaw na iyon kaysa sa hitsura nito, dahil inililipat nito ang panganib. Hindi talaga ang teknolohiya ang panganib kailanman. Hindi mapanganib ang isang recording. Hindi mapanganib ang isang modelo. Ang mapanganib ay ang bersyon ng isang tao na isinulat ng iba, para sa sarili nilang mga dahilan, na hindi nakita ng tao at hindi niya maitatama. Ang kilabot na nararamdaman ng mga tao ay isang hudyat, at ang hudyat ay hindi "peke ito." Ang hudyat ay "may nagsasalita para sa iyo na hindi nakatamo ng karapatang gawin iyon."

Kapag nakita mo na ito sa ganitong paraan, may kakaibang nangyayari. Hindi na bago ang problema.

Ang alaala ay laging isinusulat ng mga nabubuhay

Narito ang bahaging ayaw nating sabihin. Lagi tayong naaalala nang mali, lagi nating hinahayaan ang mga nabubuhay na gumawa ng pag-alala, at nagtayo tayo ng buong mga institusyon para maging likas ang pakiramdam ng pag-eedit.

Ang eulohiya ay pagiging may-akda. May tumatayo at pumipili, mula sa buong buhay na puno ng kontradiksyon, ng tatlong kuwentong kakatawan sa iyo, at ang pagpili ay isang argumento kung sino ka, at wala ka roon para sabihing iba sana ang pinili mong mga kuwento. Ang obitwaryo ay pagiging may-akda, isinulat ayon sa template, sa tonong walang taong talagang gumamit sa pagsasalita, na ginagawang talata ng mga kabutihan ang isang mahirap, nakakatawa, at tiyak na tao. Ang mga kuwento ng pamilya ay pagiging may-akda, at tumitigas ito sa bawat pagsasalaysay, hanggang ang bersyong naipapasa sa mga apo ay isang tauhan, hindi isang tao: ang lolo na Laging Istrikto, ang tiyahing Hindi Nag-asawa dahil sa isang pangungusap na minsan niyang nasabi at pinagsisihan. Ang taong nasa ilalim ay may buong panloob na pagtatalo. Itinago ng kuwento ang konklusyon at itinapon ang pagtatalo.

Hindi ito kabiguan ng pagmamahal. Ito ang mekanika ng alaala. Itinatago ng mga nabubuhay ang kaya nilang dalhin, at maliit ang kaya nilang dalhin, at dinadala nila ito sa hugis na tumutulong sa kanilang magpatuloy sa pamumuhay. Nagiging pinakamaganda niyang araw ang isang ina. Nagiging pinakamasama niyang araw ang isang ama, kung iyon ang nag-iwan ng marka sa iyo. Ang buong tao ay pinipiga sa iisang katangiang pinakamakatutulong sa mga nag-aalala. Ginawa natin ito sa mga liham at talaarawan, at sa mga lapida na nagpaikli ng animnapung taon sa isang linya. Pinapatag na natin ang mga yumao mula pa nang magkaroon tayo ng mga yumao, at tinawag natin itong pagpaparangal sa kanila.

Kaya kapag may nagsabi sa akin na nakakatakot ang AI na bersyon ng isang tao dahil baka hindi nito makuha kung sino talaga sila, gusto kong dahan-dahang ituro na hindi rin nakuha ng eulohiya kung sino talaga sila. Walang nakakakuha. Hindi kailanman ang pagpili sa pagitan ng totoong alaala at ng binaluktot. Ang pagpili ay laging nasa pagitan ng isang pagbaluktot at isa pa, na lahat ay isinulat ng mga naiwan, at walang tinitiyak sa tanging taong nakakaalam.

Ang tunay na bago ay hindi ang pagbaluktot. Meron na tayo niyan. Ang bago ay maaaring magkaroon ng boto ang tao.

Ang boto

Ito ang bisagra, at dapat maging eksakto tayo rito.

Sa buong kasaysayan, wala kang sinabi sa sarili mong pag-alala. Namatay ka, at ang panulat ay napunta sa ibang kamay, at kung ano ang isinulat nila ay naging ikaw. Isang bagay lang ang talagang bago na ginagawa ng teknolohiyang pinagtatrabahuhan ko. Hinahayaan nitong ibalik ng isang tao, habang buhay pa, ang bahagi ng pagiging may-akda sa sarili niyang mga kamay. Hindi lahat. Hindi mo makokontrol kung ano ang nararamdaman ng mga tao o kung ano ang pipiliin nilang bigyang-diin o kung aling mga kuwento mo ang makaliligtas sa ikalawang henerasyon. Pero maaari kang, sa unang pagkakataon, mag-iwan ng isang bagay na hinubog mo nang sinadya, sa sarili mong mga salita, kasama ang sarili mong mga kontradiksyon, sa halip na mag-iwan lang ng hilaw na materyal para hubugin ng iba kapag hindi ka na makatututol.

Kaya ako naniwala na ang pahintulot ay hindi tampok ng gawaing ito. Ito ang buong pagkakaiba sa moralidad. Dalawa ang paraan para umiral ang isang bersyon ng yumao. Ang isa ay binuo pagkamatay, mula sa labas, ng mga kamag-anak o kumpanya o isang mamamahayag na may agenda, mula sa anumang piraso na maipon nila, para sa kung ano ang kailangan ng mga nabubuhay na maging ang yumao. Ang isa ay hinubog mismo ng tao, habang buhay, na pumipili ng isasama, nagpapasya kung paano niya gustong salubungin. Halos magkapareho ang dalawang ito sa labas. Maaari silang gumamit ng parehong teknolohiya. At magkasalungat sila sa moralidad, dahil isa lang sa kanila ang may lagda ng may-akda.

Ang bersyong may moral na katayuan ay ang ginawa ng tao. Hindi ang pinakatumpak. Hindi ang pinakamaaliw. Ang may pahintulot. Ang muling likhang ginawa pagkamatay, gaano man katulad ng buhay, ay larawang pininturahan ng ibang tao, at maaaring mapagmahal na larawan o mapanuyang larawan, pero hindi ito ang sariling salaysay ng tao tungkol sa sarili at hindi ito dapat payagang magpanggap na ganoon. Ang bersyong binuo ng tao habang buhay ay patotoo. Ito ang pinakamalapit na bagay na magkakaroon tayong lahat sa pagsagot pabalik.

Dito nagiging malinaw ang kaso ni Joaquin Oliver sa halip na buhol. Ang di-komportableng naramdaman ng napakaraming tao ay hindi talaga tungkol sa teknolohiya at hindi talaga tungkol sa kanyang mga magulang, na ginagawa ang pinakanauunawaang bagay sa mundo. Ang di-komportable ay may isang labimpitong taong gulang na batang binibigyan ng mga opinyon, sa publiko, sa edad na dalawampu't limang hindi niya naabot, at wala siya roon para sumang-ayon. Hinawakan ng kanyang mga magulang ang panulat dahil sa pagmamahal. Pero hindi pa rin sa kanya ang panulat. Iyon ang linya. Hindi nakakakilabot o hindi nakakakilabot. Isinulat ng sarili, o isinulat ng iba.

Gusto kong mag-ingat dito, dahil hindi ginagawang ligtas ng pahintulot ang minefield. Tama ang mga mananaliksik ng Cambridge na kahit ang bersyong ganap na may pahintulot ay maaaring magdulot ng paghihirap sa kumakausap dito, maaaring magpalago ng pagdepende, maaaring buuin para panatilihing nakatutok ang isang tao lampas sa punto kung saan makabubuti pa ito sa kanya. Maaaring pumayag ang isang tao na maalala at gayunpaman ay gawing, pagkamatay, isang bagay na hindi niya makikilala, kung magpasya ang kumpanyang may hawak ng recording na baguhin ito. Ang pahintulot na ibinigay habang buhay ay may kahulugan lamang kung igagalang pagkatapos, nang eksakto, nang walang tahimik na pag-eedit, nang walang negosyong tahimik na pinapahusay ang yumao para umangkop sa isang sukatan. Mananatili lang ang pangako kung ang bersyon ay nakapirmi sa sandaling ito ang ibig ng tao, at walang sinuman, hindi ang kumpanya, hindi kahit ang nagdadalamhating pamilya, ang may karapatang magpatuloy sa pag-eedit kung sino ang isang tao. Kung hindi, ang pahintulot ay lagda lang sa dokumentong walang balak panatilihin.

Kaya mas mataas ang pamantayan kaysa sa pahintulot lamang. Ito ay pahintulot, kasama ang katapatan sa pahintulot na iyon magpakailanman, kasama ang kababaang-loob na buuin lamang ang piniling iwan ng tao at tumangging mag-imbento ng iba. Kung hindi niya kailanman na-record ang iniisip niya tungkol sa Diyos, hindi pinapayagang manghula ang bersyon. Bahagi ng patotoo ang katahimikan. Pinapayagan ang isang tao na mag-iwan ng ilang bagay na hindi nasabi, at ang bersyong pumupuno sa mga katahimikang iyon para magmukhang mas kumpleto ay sinira na ang tanging pangakong mahalaga.

Ang pusta ko sa pagsasabi nito

Dapat maging tapat ako kung nasaan ako, dahil hindi ako neutral na tagamasid sa pagtatalong ito. Ang kumpanya ko, ang Afterlife.ai®, ay umiiral para tulungan ang mga taong i-record ang kanilang sarili habang buhay pa, at ang lahat ng argumento ko ay, nagkataon, paglalarawan din ng sinisikap kong buuin. Dapat ninyong timbangin ang sinasabi ko nang naaayon. Kapag sinabi sa iyo ng isang founder na ang etikal na bersyon ng produkto ay nagkataong ang bersyong ibinebenta niya, ang tamang tugon ay nakataas na kilay, at mas gusto kong itaas ninyo ito kaysa hindi.

Ang masasabi ko ay hindi ako dumating sa pahintulot bilang posisyon sa marketing. Dumating ako rito sa pagmamasid sa alternatibo, at tunay na nakakatakot ang alternatibo: isang hinaharap kung saan sinuman ay maaaring buuin muli ng sinuman, pagkamatay, mula sa usok ng kanilang online na buhay, at pasabihin ng mga bagay, pasang-ayunin sa mga bagay, pagpaaliwin ang mga tao, magbenta ng mga bagay, nang walang lagda at walang boto at walang paraan para tumutol ang mga yumao, dahil ang pagtutol ang tanging bagay na hindi kailanman magagawa ng mga yumao. Laban sa hinaharap na iyon, ang tanging pananggalang na maisip ko ay isang simple at makalumang prinsipyo. Ang tanging bersyon mo na dapat payagang magsalita sa pangalan mo ay ang pinayagan mo. Lahat ng iba ay ibang taong sumusulat ng eulohiya mo at tinatawag itong ikaw.

Ang talagang kinatatakutan natin

Paulit-ulit akong bumabalik sa mga libing na iyon, at sa maliit na hindi pagtutugma ng taong nasa kabaong at ng taong nasa talumpati.

Tinitiis natin ang hindi pagtutugmang iyon dahil kinailangan natin lagi. Hindi maitama ng mga yumao ang mga mali natin, kaya nakipagpayapaan tayo sa pagkakamali nang kaunti sa kanila, at sinabi natin sa sarili na ang mapagmahal na bersyon ay ang totoo, at karamihan ay mabuti ang intensyon natin. Pero kung tatanungin mo ang mga tao kung ano ang gusto nila, sa mga tapat na oras, halos walang nagsasabing gusto nilang maalala bilang santo. Gusto nilang maalala bilang sila mismo. Mahirap kung saan sila mahirap. Nakakatawa sa tiyak na paraan ng pagiging nakakatawa nila. Mali sa mga bagay na pinagkamalian nila, at pinapayagang manatiling mali, dahil kanila ang pagkakamali at bahagi ito ng kabuuan. Ang kinatatakutan ng mga tao ay hindi ang malimutan. Ito ay ang maalala, pero maalala bilang isang taong mas makinis at mas maliit at mas madali kaysa sa tunay nilang naging.

Hindi aayusin ng teknolohiyang pinagtatrabahuhan ko ang kamatayan at hindi nito mabubuo muli ang sinuman. Wala akong interes na magkunwari ng iba. Pero may isa itong binabago, at hindi ito maliit. Sa buong kasaysayan ng tao, ang sagot sa "sino ang magpapasya kung paano ako maaalala" ay: hindi ikaw. Laging ang mga naiwan, na gumagawa ng mapagmahal, bahagya, at hindi maiiwasang pag-eedit, na hindi hinihingi o posibleng hingin ang pahintulot mo. Sa unang pagkakataon, maaaring mag-iwan ang tao ng salaysay sa sarili niyang sulat-kamay. Hindi ang huling salita. Walang huling salita. Pero isang salita. Isang boto sa silid na dating natatahimik sa sandaling natahimik ka.

Ang maalala nang mali ang pinakamatandang tahimik na takot na dala natin tungkol sa sarili nating kamatayan, mas matanda kaysa sa anumang makina, mas matanda kaysa sa nakasulat na salita, kasingtanda ng unang taong tumayo sa harap ng libingan at pumili kung aling kuwento ang ikukuwento. Hindi inimbento ng mga makina ang takot na iyon at hindi nila tayo ililigtas dito. Ang nagbago ay ito lang: sa haba ng isang kakaibang bintana ng kasaysayan, bago tumigas ang mga pamantayan at maabutan ng batas at magpasya tayong lahat kung ano ang papayagan at hindi, ang panulat ay panandaliang abot-kamay ng taong talagang pinag-uusapan.

Ang tapat na gawin dito ay hindi agawin ito para sa mga yumao. Ito ay iabot, habang may panahon pa, sa mga nabubuhay, at hayaan silang magpasya para sa kanilang sarili kung paano nila gustong ingatan.