Ketakutan tertua tentang kematian bukanlah dilupakan. Melainkan diingat dengan keliru.

Di hampir setiap pemakaman yang pernah saya hadiri, ada momen kecil ketika orang yang terbaring di peti dan orang yang digambarkan dalam pidato duka diam-diam tidak lagi sama. Sosok yang dilukiskan itu sedikit lebih baik hati daripada yang saya kenal, sedikit lebih sabar, tepi-tepinya dihaluskan justru di bagian yang membuat orang aslinya menarik. Tidak ada yang berbohong. Ruangan itu hanya melakukan apa yang selalu dilakukan duka. Ia memilih versi mana yang akan disimpan, memilihnya dengan lembut, dan satu-satunya orang yang mungkin keberatan atas suntingan itu adalah satu-satunya orang yang tidak boleh bicara.

Biasanya kita tidak menyebutnya apa adanya. Kita menyebutnya kebaktian yang indah. Padahal di balik karangan bunga, sedang diambil keputusan tentang siapa seseorang itu, dan orang yang telah tiada tidak punya suara di dalamnya. Ini bukan masalah baru ciptaan teknologi. Ini hal tertua yang terjadi pada kita setelah kita meninggal. Kita diserahkan, seutuhnya, ke dalam ingatan orang lain, dan ingatan mereka itu sebagian saja, penuh kasih, dan keliru dalam seratus hal kecil yang tidak akan pernah bisa kita koreksi.

Saya membangun perangkat lunak di bagian industri yang memungkinkan orang merekam diri mereka sendiri selagi hidup, supaya sesuatu dari suara dan cerita mereka bertahan setelah mereka tiada. Pekerjaan semacam ini memancing satu ketakutan yang sangat khas, dan saya sudah mendengarnya cukup sering sampai hafal bentuknya. Orang bilang ini seram. Mereka bilang ini palsu, boneka yang memakai wajah orang yang sudah meninggal. Mereka bilang ini eksploitatif, duka yang dijadikan langganan berbayar. Keberatan-keberatan itu layak ditanggapi dengan serius, dan saya akan melakukannya. Tetapi saya makin yakin bahwa itu bukan ketakutan yang sebenarnya. Itu ketakutan yang bisa diucapkan keras-keras di meja makan. Ketakutan yang lebih dalam, yang benar-benar membuat orang terjaga di malam hari, lebih sunyi dan lebih sulit diakui.

Ketakutan yang lebih dalam itu adalah diingat dengan keliru. Diratakan. Kontradiksi Anda dihaluskan sampai tak tersisa apa pun selain karikatur yang menyetujui semua orang. Satu kalimat yang Anda ucapkan pada satu hari yang buruk menggantikan seluruh diri Anda selamanya, hanya karena itulah kalimat yang tersimpan. Kita semua takut akan hal itu, dan kita sudah takut jauh sebelum ada yang melatih model AI dengan data orang yang telah meninggal. Mesin tidak menciptakan ketakutan itu. Mesin hanya memberinya wajah untuk ditunjuk.

Keberatan-keberatan itu, dalam kekuatan penuhnya

Izinkan saya menyampaikan argumen yang menentang industri saya sendiri dengan sungguh-sungguh, karena orang-orang yang mengajukannya bukan orang aneh, dan kekhawatiran mereka beralasan.

Mulailah dengan Sherry Turkle, yang puluhan tahun mengamati apa yang terjadi ketika manusia menjalin keterikatan dengan sesuatu yang tidak bisa mencintai mereka. Dalam Alone Together ia menulis bahwa ia "merasa terusik oleh gagasan mencari keintiman dengan mesin yang tidak punya perasaan, tidak mungkin punya perasaan, dan sebenarnya hanyalah kumpulan pertunjukan 'seolah-olah' yang cerdik, bertingkah seolah-olah peduli, seolah-olah memahami kita." Bacalah pelan-pelan. Itu kalimat paling berat yang saya tahu untuk melawan pekerjaan saya sendiri. Sistem yang berbicara dengan irama suara seorang ayah yang telah tiada dan mengucapkan hal-hal yang mungkin ia katakan, pada tingkat tertentu sedang memerankan kepedulian yang tidak ia miliki. Ia bertingkah seolah-olah. Dan orang yang sedang berduka, yang begitu ingin hal itu nyata, justru orang yang paling tidak siap untuk terus mengingat bahwa itu hanya "seolah-olah".

Kekhawatiran Turkle bukan bahwa teknologinya kasar. Kekhawatirannya adalah bahwa teknologi ini cukup baik untuk berarti, dan bahwa kita akan menerima pertunjukan itu karena kita kesepian dan pertunjukan itu tersedia pukul 2 pagi ketika tidak ada hal lain yang tersedia.

Lalu ada Elaine Kasket, psikolog yang menulis All the Ghosts in the Machine, buku tentang nasib kita ketika hidup kita tersimpan di server yang bukan milik kita. Pokok bahasannya adalah sisa-sisa digital: foto, pesan, akun, semua endapan yang ditinggalkan seseorang, dan kenyataan tidak nyaman bahwa endapan ini kini menjadi aset yang bisa dipegang, dipindahkan, diuangkan, dan dibentuk ulang oleh orang lain. Begitu Anda meninggal, diri Anda menjadi data, data punya penjaga, dan para penjaga itu punya kepentingan sendiri. Pertanyaan yang terus ia ajukan bukanlah apakah versi digital dari diri Anda bisa ada. Melainkan siapa yang berhak menjalankannya, untuk kepentingan siapa, dan apakah ada yang menanyai Anda lebih dulu.

Kemudian ada karya paling cermat yang pernah saya baca tentang hal ini, makalah tahun 2024 di Philosophy and Technology oleh Tomasz Hollanek dan Katarzyna Nowaczyk-Basińska, dua peneliti di Cambridge yang mempelajari persis sudut masa depan tempat saya bekerja. Judulnya saja sudah menyebut hal-hal yang ditakuti orang: griefbot, deadbot, avatar pascakematian. Peringatan mereka spesifik, dan menurut saya benar. Hollanek memperingatkan bahwa layanan semacam ini "berisiko menimbulkan tekanan besar bagi orang-orang jika mereka terpaksa mengalami 'hantu digital' yang tak diinginkan dari rekreasi AI yang sangat akurat atas orang-orang yang telah mereka kehilangan." Ia melangkah lebih jauh: "Orang bisa menjalin ikatan emosional yang kuat dengan simulasi semacam itu, yang membuat mereka sangat rentan terhadap manipulasi." Rekan penulisnya menyebut seluruh bidang ini "ladang ranjau etika," dan ia memilih frasa itu dengan hati-hati. Ladang ranjau bukan tempat yang tidak boleh dilintasi. Itu tempat yang dilintasi dengan sangat pelan, sambil memperhatikan di mana kaki dipijakkan.

Yang dilakukan makalah Cambridge itu, dan tidak pernah dilakukan versi ketakutan di meja makan, adalah memisahkan pihak-pihak yang terlibat. Ada orang yang dihadirkan kembali. Ada orang yang menghadirkannya. Dan ada siapa pun yang akhirnya berbicara dengan hasilnya, yang bisa jadi seorang anak, yang bisa jadi jauh dari siap. Tiga orang berbeda, tiga rangkaian hak yang berbeda, dan hampir tidak ada produk di bidang ini yang sungguh memikirkan kenyataan bahwa ketiganya bisa saling bertentangan. Kebutuhan seorang putri untuk mendengar ibunya lagi tidak sama dengan keinginan sang ibu untuk didengar, dan keinginan sebuah perusahaan agar keduanya tetap terlibat tidak sama dengan keinginan salah satunya.

Saya bisa menambahkan kasus yang selalu dirujuk semua orang. Pada musim panas 2025, seorang jurnalis mewawancarai avatar AI Joaquin Oliver, anak laki-laki yang tewas pada usia tujuh belas tahun dalam penembakan Parkland, dibuat oleh orang tuanya yang berduka dan dirilis sekitar hari ulang tahun yang tak pernah ia rayakan. Reaksinya langsung, dan sebagian besar jijik. Mengerikan, kata orang. Meresahkan. Ayahnya menjawab para pengkritik dengan duka yang begitu lugas sehingga sulit dibantah: kecerdasan buatan tidak membunuh putranya. Ini memang kasus yang sungguh sulit, dan saya mengangkatnya bukan untuk menyelesaikannya melainkan untuk menandainya, karena ia memuat setiap benang dari esai ini dalam satu simpul. Seorang manusia nyata, telah tiada. Orang-orang yang mencintainya, bertindak karena cinta. Sebuah versi dirinya mengatakan hal-hal, di depan publik, yang tak pernah sempat ia putuskan untuk dikatakan.

Pegang semua itu dalam kekuatan penuhnya. Masalah pertunjukan itu nyata. Masalah penjagaan itu nyata. Masalah hantu digital, masalah manipulasi, masalah tiga pihak, semuanya nyata. Saya tidak akan membujuk Anda untuk melepaskan satu pun dari kekhawatiran itu.

Apa kesamaan semua keberatan itu

Tetapi letakkan semuanya berdampingan dan perhatikan apa yang sebenarnya sama. "Seolah-olah" dari Turkle. Para penjaga dari Kasket. Tiga pihak terpisah dari tim Cambridge. Orang tua Joaquin Oliver yang memutuskan, atas namanya, apa yang akan ia katakan tentang senjata. Pada dasarnya, semuanya adalah kekhawatiran tentang kepengarangan. Tentang siapa yang memegang pena. Tentang jarak antara orang yang pernah hidup dan versi yang kini berbicara atas namanya, dan, yang terpenting, tentang siapa yang berhak memutuskan apa yang mengisi jarak itu.

Cara pandang baru itu lebih penting daripada kelihatannya, karena ia memindahkan bahayanya. Bahayanya sebenarnya tidak pernah teknologinya. Rekaman tidak berbahaya. Model tidak berbahaya. Yang berbahaya adalah versi seseorang yang dikarang orang lain, untuk alasan mereka sendiri, yang tak pernah dilihat orangnya dan tak bisa ia koreksi. Rasa seram yang dirasakan orang adalah sebuah isyarat, dan isyarat itu bukan "ini palsu." Isyaratnya adalah "ada orang yang berbicara atas nama Anda tanpa pernah berhak melakukannya."

Begitu Anda melihatnya dengan cara itu, terjadi sesuatu yang aneh. Masalahnya berhenti menjadi baru.

Ingatan selalu ditulis oleh yang hidup

Inilah bagian yang tidak suka kita ucapkan. Kita selalu diingat dengan keliru, kita selalu membiarkan yang hidup yang mengingat, dan kita membangun lembaga-lembaga utuh agar penyuntingan itu terasa wajar.

Pidato duka adalah kepengarangan. Seseorang berdiri dan memilih, dari seluruh hidup yang penuh kontradiksi, tiga cerita yang akan mewakili Anda, dan pilihan itu adalah sebuah argumen tentang siapa Anda, sementara Anda tidak ada di sana untuk berkata bahwa Anda akan memilih cerita lain. Berita duka adalah kepengarangan, ditulis menurut cetakan, dalam ragam bahasa yang tak pernah sungguh dipakai siapa pun, yang mengubah orang yang sulit, lucu, dan khas menjadi satu paragraf berisi kebajikan. Cerita keluarga adalah kepengarangan, dan mengeras setiap kali diceritakan ulang, sampai versi yang diwariskan kepada para cucu adalah tokoh, bukan manusia: kakek yang Selalu Galak, bibi yang Tak Pernah Menikah karena satu kalimat yang pernah ia ucapkan dan sesali. Orang di baliknya punya pergulatan batin yang panjang. Cerita itu menyimpan kesimpulannya dan membuang pergulatannya.

Ini bukan kegagalan cinta. Ini mekanika ingatan. Yang hidup menyimpan apa yang sanggup mereka bawa, dan yang sanggup mereka bawa itu sedikit, dan mereka membawanya dalam bentuk yang membantu mereka terus hidup. Seorang ibu menjadi hari terbaiknya. Seorang ayah menjadi hari terburuknya, kalau hari terburuk itulah yang meninggalkan bekas pada Anda. Manusia yang utuh dimampatkan menjadi satu sifat yang paling berguna bagi orang-orang yang mengingat. Kita melakukannya dengan surat dan buku harian, dan dengan batu nisan yang meringkas enam puluh tahun menjadi satu baris. Kita telah meratakan orang yang telah tiada selama kita punya orang yang telah tiada, dan kita menyebutnya menghormati mereka.

Jadi ketika seseorang berkata bahwa versi AI dari seseorang itu menakutkan karena mungkin tidak menangkap siapa dirinya yang sebenarnya, saya ingin dengan lembut menunjukkan bahwa pidato duka pun tidak menangkap siapa dirinya yang sebenarnya. Tidak ada yang bisa. Pilihannya tidak pernah antara ingatan yang benar dan ingatan yang terdistorsi. Pilihannya selalu antara satu distorsi dan distorsi lain, semuanya dikarang oleh orang-orang yang ditinggalkan, tak satu pun diperiksa pada satu-satunya orang yang mengenal dirinya.

Yang benar-benar baru bukan distorsinya. Itu sudah ada. Yang baru adalah bahwa orangnya bisa punya suara.

Suara itu

Inilah engselnya, dan perlu diuraikan dengan tepat.

Sepanjang sejarah, Anda tidak punya hak bicara atas cara Anda sendiri diingat. Anda meninggal, pena berpindah ke tangan lain, dan apa pun yang mereka tulis menjadi diri Anda. Teknologi yang saya kerjakan hanya melakukan satu hal yang benar-benar baru. Ia memungkinkan seseorang, selagi hidup, mengembalikan sebagian kepengarangan ke tangannya sendiri. Bukan seluruhnya. Anda tidak bisa mengendalikan apa yang dirasakan orang, atau apa yang mereka pilih untuk ditekankan, atau cerita Anda yang mana yang bertahan sampai generasi kedua. Tetapi untuk pertama kalinya Anda bisa meninggalkan sesuatu yang Anda bentuk dengan sengaja, dengan kata-kata Anda sendiri, dengan kontradiksi Anda tetap di dalamnya, bukan hanya meninggalkan bahan mentah untuk dibentuk orang lain setelah Anda tak lagi bisa menolak.

Inilah sebabnya saya sampai pada keyakinan bahwa persetujuan bukan sekadar fitur dalam pekerjaan ini. Persetujuan adalah seluruh perbedaan moralnya. Ada dua cara sebuah versi dari orang yang telah meninggal bisa ada. Yang satu dirakit setelah kematian, dari luar, oleh kerabat atau perusahaan atau jurnalis dengan agenda, dari serpihan apa pun yang bisa mereka kumpulkan, demi apa yang dibutuhkan yang hidup dari yang telah tiada. Yang lain dibentuk oleh orangnya sendiri, selagi hidup, memilih apa yang disertakan, menentukan bagaimana ia ingin disambut. Keduanya bisa tampak nyaris sama dari luar. Keduanya bisa memakai teknologi dasar yang sama. Namun keduanya berlawanan secara moral, karena hanya satu yang memiliki tanda tangan sang pengarang.

Versi yang punya kedudukan moral adalah versi yang dibuat orangnya sendiri. Bukan yang paling akurat. Bukan yang paling menghibur. Yang disetujui. Rekreasi yang dibuat setelah kematian, sehidup apa pun, adalah potret yang dilukis orang lain, bisa jadi potret yang penuh kasih atau yang sinis, tetapi itu bukan penuturan orang itu tentang dirinya sendiri dan tidak boleh dibiarkan dianggap demikian. Versi yang dibangun orangnya semasa hidup adalah kesaksian. Itu hal yang paling mendekati kesempatan menjawab balik yang akan dimiliki siapa pun dari kita.

Di sinilah kasus Joaquin Oliver berhenti menjadi simpul dan menjadi jelas. Ketidaknyamanan yang dirasakan begitu banyak orang sebenarnya bukan soal teknologinya dan bukan soal orang tuanya, yang melakukan hal paling bisa dipahami di dunia. Ketidaknyamanannya adalah bahwa seorang anak tujuh belas tahun diberi pendapat, di depan umum, pada usia dua puluh lima tahun yang tak pernah ia capai, dan ia tidak ada di sana untuk setuju. Orang tuanya memegang pena itu karena cinta. Tetapi pena itu tetap bukan miliknya. Itulah garisnya. Bukan seram atau tidak seram. Dikarang oleh diri sendiri, atau dikarang oleh orang lain.

Saya ingin berhati-hati di sini, karena persetujuan tidak membuat ladang ranjau itu aman. Para peneliti Cambridge benar bahwa bahkan versi yang sepenuhnya disetujui pun bisa menekan orang yang berbicara dengannya, bisa menumbuhkan ketergantungan, bisa dibuat agar orang tetap terlibat melampaui titik yang baik baginya. Seseorang bisa menyetujui untuk diingat dan tetap diubah, setelah meninggal, menjadi sesuatu yang tidak ia kenali, jika perusahaan yang memegang rekamannya memutuskan mengubahnya. Persetujuan yang diberikan semasa hidup hanya berarti jika dihormati sesudahnya, persis, tanpa suntingan diam-diam, tanpa bisnis yang diam-diam menyempurnakan orang yang telah tiada demi sebuah metrik. Janji itu hanya berlaku jika versinya dibekukan pada saat orang itu memaksudkannya, dan tak seorang pun, bukan perusahaan, bahkan bukan keluarga yang berduka, berhak terus menyunting siapa seseorang itu. Kalau tidak, persetujuan hanyalah tanda tangan di atas dokumen yang tidak ada yang berniat menaatinya.

Maka standarnya lebih tinggi daripada persetujuan semata. Persetujuan, ditambah kesetiaan pada persetujuan itu selamanya, ditambah kerendahan hati untuk hanya membangun apa yang dipilih orang itu untuk ditinggalkan dan menolak mengarang sisanya. Jika ia tak pernah merekam pendapatnya tentang Tuhan, versi itu tidak boleh menebak. Kebisuan adalah bagian dari kesaksian. Seseorang berhak meninggalkan beberapa hal tak terucap, dan versi yang mengisi kebisuan itu agar tampak lebih lengkap sudah melanggar satu-satunya janji yang penting.

Kepentingan saya dalam mengatakan ini

Saya harus terus terang tentang posisi saya, karena saya bukan pengamat netral dalam perdebatan ini. Perusahaan saya, Afterlife.ai®, ada untuk membantu orang merekam diri mereka sendiri selagi hidup, dan semua yang baru saja saya uraikan, kebetulan, juga merupakan gambaran dari apa yang sedang saya coba bangun. Anda sebaiknya menimbang ucapan saya dengan itu. Ketika seorang pendiri memberi tahu Anda bahwa versi etis dari sebuah produk kebetulan adalah versi yang ia jual, tanggapan yang tepat adalah mengangkat alis, dan saya lebih suka Anda mengangkatnya daripada tidak.

Yang bisa saya katakan adalah bahwa saya tidak sampai pada persetujuan sebagai posisi pemasaran. Saya sampai di sana dengan mengamati alternatifnya, dan alternatifnya sungguh menakutkan: masa depan ketika siapa pun bisa direkonstruksi oleh siapa pun, setelah kematian, dari jejak kehidupan daring mereka, lalu dibuat mengatakan sesuatu, mendukung sesuatu, menghibur orang, menjual sesuatu, tanpa tanda tangan, tanpa suara, dan tanpa cara bagi yang telah tiada untuk keberatan, karena keberatan adalah satu-satunya hal yang tak pernah bisa dilakukan orang yang telah tiada. Melawan masa depan itu, satu-satunya benteng yang bisa saya pikirkan adalah prinsip sederhana yang kuno. Satu-satunya versi diri Anda yang boleh berbicara atas nama Anda adalah versi yang Anda setujui. Selebihnya adalah orang lain menulis pidato duka Anda dan menyebutnya Anda.

Apa yang sebenarnya kita takutkan

Saya terus kembali ke pemakaman-pemakaman itu, dan ketidakcocokan kecil antara orang di dalam peti dan orang dalam pidato.

Kita menoleransi ketidakcocokan itu karena kita selalu harus. Orang yang telah tiada tidak bisa mengoreksi kita, jadi kita berdamai dengan keliru sedikit tentang mereka, dan meyakinkan diri bahwa versi yang penuh kasih adalah yang benar, dan sebagian besar kita bermaksud baik. Tetapi jika Anda bertanya kepada orang apa yang mereka inginkan, pada jam-jam yang jujur, hampir tidak ada yang bilang ingin diingat sebagai orang suci. Mereka ingin diingat sebagai diri mereka sendiri. Sulit di tempat mereka sulit. Lucu dengan cara khas mereka sendiri. Keliru dalam hal-hal yang memang mereka keliru, dan dibiarkan terus keliru, karena kelirunya itu milik mereka dan bagian dari keseluruhan. Yang ditakuti orang bukanlah dilupakan. Melainkan diingat, tetapi diingat sebagai seseorang yang lebih halus, lebih kecil, dan lebih mudah daripada diri mereka sebenarnya.

Teknologi yang saya kerjakan tidak akan memperbaiki kematian dan tidak bisa membuat siapa pun utuh kembali. Saya tidak berminat berpura-pura sebaliknya. Tetapi ia mengubah satu hal, dan itu bukan hal kecil. Sepanjang sejarah manusia, jawaban atas "siapa yang memutuskan bagaimana saya diingat" adalah: bukan Anda. Selalu orang-orang yang ditinggalkan, dengan penyuntingan mereka yang penuh kasih, sebagian, dan tak terelakkan, tanpa persetujuan Anda diminta atau mungkin diminta. Untuk pertama kalinya, seseorang bisa meninggalkan penuturan dengan tulisan tangannya sendiri. Bukan kata terakhir. Tidak ada kata terakhir. Tetapi sebuah kata. Satu suara di ruangan yang dulu menjadi senyap begitu Anda diam.

Diingat dengan keliru adalah ketakutan sunyi tertua yang kita pikul tentang kematian kita sendiri, lebih tua daripada mesin mana pun, lebih tua daripada tulisan, setua orang pertama yang berdiri di atas sebuah makam dan memilih cerita mana yang akan dituturkan. Mesin tidak menciptakan ketakutan itu dan tidak akan menyelamatkan kita darinya. Yang berubah hanyalah ini: selama satu jendela sejarah yang aneh, sebelum norma-norma mengeras dan hukum menyusul dan kita semua memutuskan apa yang akan dan tidak akan kita izinkan, pena itu sebentar berada dalam jangkauan orang yang sebenarnya menjadi pokok ceritanya.

Hal jujur yang bisa dilakukan dengannya bukanlah merebutnya untuk yang telah tiada. Melainkan menyerahkannya, selagi masih ada waktu, kepada yang hidup, dan membiarkan mereka sendiri memutuskan bagaimana mereka ingin disimpan.