Alternatif etis untuk griefbot

Sebuah griefbot adalah sistem AI yang menyimulasikan orang yang telah meninggal, biasanya dibangun setelah mereka wafat dari pesan, rekaman, dan unggahan yang mereka tinggalkan, sehingga orang yang berduka bisa meneruskan semacam percakapan dengan mereka. Alternatif etis untuk griefbot bukanlah mengabaikan keinginan di baliknya, yang sangat manusiawi, melainkan membalik urutan persetujuan: alih-alih menciptakan ulang seseorang setelah kematian tanpa kesepakatan mereka, Anda membangun representasi diri Anda yang terkelola selagi Anda masih hidup, setelah memilihnya secara bebas. Satu perbedaan itu, siapa yang menyetujui dan kapan, memisahkan praktik yang diperingatkan banyak etikus dari praktik yang bisa seseorang dukung sepenuhnya.

Halaman ini memaparkan apa sebenarnya griefbot itu, di mana letak persoalan etis yang serius, apa yang telah dikatakan para peneliti dan etikus tentangnya, dan seperti apa wujud alternatif yang mengutamakan persetujuan dalam praktik. Tujuannya adalah berlaku adil, bukan menakut-nakuti. Dorongan untuk terus berbicara dengan seseorang yang telah Anda kehilangan bukanlah suatu cacat yang patut dicela. Pertanyaannya hanyalah bagaimana hal itu dilakukan, dan apakah orang yang diciptakan ulang itu pernah memiliki suara dalam keputusan.

Persoalan etis inti: menciptakan ulang seseorang yang tidak pernah menyetujui

Ciri yang menentukan dari sebagian besar griefbot, dan akar dari kesulitan etisnya, adalah bahwa mereka dibangun dari orang yang telah meninggal, bukan oleh mereka. Sebuah keluarga yang berduka atau sebuah perusahaan mengumpulkan pesan teks lama, catatan suara, dan unggahan media sosial seseorang lalu melatih model untuk berbicara sebagai mereka. Orang yang telah meninggal itu menjadi bahan mentah. Mereka tidak pernah menjadi penulisnya, dan yang terpenting mereka tidak pernah ditanya.

Hal ini penting karena simulasi yang meyakinkan membuat pernyataan atas nama seseorang. Simulasi itu menghasilkan kalimat yang tidak pernah mereka ucapkan, pendapat yang mungkin tidak pernah mereka pegang, penghiburan yang tidak pernah mereka berikan. Orang yang telah meninggal tidak bisa mengoreksinya, tidak bisa menolak, dan tidak bisa menariknya kembali. Sebuah representasi yang tidak disetujui dan tidak bisa dikelola oleh subjeknya, pada dasarnya, adalah seseorang yang berbicara mewakili orang yang tidak lagi bisa berbicara untuk dirinya sendiri, dan menyajikannya sebagai suara orang itu sendiri. Apa pun penghiburan yang ditawarkannya, ia bermula dari posisi yang tidak pernah subjeknya setujui.

A griefbot is built of the dead. A Persona is built by the living.

Garis persetujuan

Hampir setiap pertanyaan etis yang bermakna tentang teknologi ini bermuara pada satu garis: apakah orang yang direpresentasikan itu penulis yang menyetujui, atau subjek yang tidak menyetujui? Di satu sisi ada griefbot tipikal, dirakit setelah kematian dari data yang ditinggalkan orang itu untuk keperluan lain, dikelola oleh siapa pun yang memegang data itu, tanpa pertanggungjawaban kepada siapa pun. Di sisi lain ada representasi yang dibangun seseorang sendiri, selagi hidup, dengan memutuskan apa isinya dan apa yang tidak akan pernah ia klaim.

Inilah perbedaan antara sebuah griefbot atau deadbot, istilah untuk penciptaan ulang setelah kejadian, dan sebuah Persona yang mengutamakan persetujuan dan disusun di muka. Kata-katanya terdengar serupa dan teknologinya tumpang tindih, tetapi secara etis keduanya nyaris berlawanan. Yang satu mengambil suara; yang lain diberi suara. Ada atau tidaknya persetujuan subjek itu sendiri bukanlah suatu rincian. Itulah seluruh persoalannya.

Persetujuan di sini juga harus berarti lebih dari sekadar kotak centang yang ditandai sekali. Itu berarti orang itu memilih apa yang dimasukkan, bisa membentuk bagaimana ia berperilaku, dan menetapkan aturan tentang siapa yang boleh menjangkaunya dan kapan. Persetujuan yang tidak bisa dijalankan subjek karena mereka sudah tiada bukanlah benar-benar persetujuan mereka. Itulah mengapa waktunya sama pentingnya dengan kesepakatannya: satu-satunya orang yang benar-benar bisa menyetujui untuk direpresentasikan adalah orang yang masih hidup.

Apa kata penelitian dan para etikus

Tanggapan serius atas teknologi ini menjadi semakin berhati-hati seiring membaiknya peralatannya. Liputan di media seperti Scientific American telah menimbang apakah griefbot benar-benar membantu mereka yang berduka atau berisiko menahan mereka di tempat, dan telah mencatat bahwa buktinya jauh dari pasti. Kesimpulan yang cermat di sebagian besar tulisan ini bukanlah bahwa teknologi ini tidak berguna, melainkan bahwa manfaatnya bersyarat dan risikonya nyata.

Diskusi akademis dan etis, termasuk karya yang muncul di forum seperti The Conversation, telah mendesak lebih keras pada pertanyaan persetujuan secara khusus. Para peneliti di bidang ini berpendapat bahwa menciptakan ulang seseorang tanpa kesepakatan mereka sebelumnya bisa melanggar martabat mereka, bahwa keluarga dan perusahaan bisa memiliki kepentingan yang menyimpang dari apa yang akan diinginkan orang yang telah meninggal, dan bahwa harus ada pembatas yang mencegah orang yang disimulasikan untuk digunakan, dikomersialkan, atau dibuat mengatakan hal-hal yang tidak akan pernah dikatakan oleh yang asli. Tema yang berulang adalah tata kelola: siapa yang mengendalikan representasi, atas otoritas siapa, dan dengan batas apa.

Dibaca bersama-sama, kumpulan karya ini tidak mengatakan bahwa keinginan untuk tetap terhubung itu salah. Karya ini mengatakan bahwa keinginan itu harus dipenuhi dengan cara yang menghormati orang yang direpresentasikan, dan bahwa persetujuan serta kendali adalah syarat yang memungkinkannya. Itulah standar yang dirancang untuk dipenuhi oleh pendekatan yang mengutamakan persetujuan, dan yang secara struktural tidak bisa dipenuhi oleh griefbot setelah kejadian.

Kerugian yang terdokumentasi dari deadbot nonkonsensual

Di luar persoalan prinsip, beberapa kerugian konkret telah didokumentasikan atau dikemukakan secara serius. Hal-hal itu layak disebut dengan jelas, karena itulah alasan kehati-hatian dibenarkan, bukan hal-hal abstrak.

• Penciptaan ulang tanpa persetujuan: kerugian paling mendasar adalah merepresentasikan seseorang yang tidak pernah menyetujuinya, menaruh kata-kata dan pandangan di mulut mereka yang tidak bisa mereka bantah.

• Gangguan terhadap proses berduka: simulasi yang selalu tersedia bisa, bagi sebagian orang, menunda proses berkabung alih-alih meringankannya, menahan orang yang berduka tetap terikat pada kehadiran yang tidak bisa benar-benar berubah atau tumbuh.

• Penguasaan komersial: ketika sebuah griefbot dijalankan oleh sebuah perusahaan, orang yang telah meninggal bisa menjadi produk, dengan rupa mereka disimpan, dikomersialkan, atau dialihfungsikan oleh pihak yang tidak pernah mereka beri wewenang.

• Penyimpangan dan rekaan: model yang dilatih untuk terdengar seperti seseorang akan mengisi celah dengan mengarang, menghasilkan pernyataan yang tidak pernah orang itu buat dan yang mungkin keliru dianggap asli oleh keluarga.

Tidak satu pun dari kerugian ini niscaya terjadi dalam setiap kasus, dan justru itulah intinya. Kerugian itu mengikuti dari sebuah struktur, membangun representasi setelah kematian, tanpa persetujuan, di bawah kendali pihak luar, yang nyaris menjamin setidaknya sebagian darinya. Ubah strukturnya dan sebagian besar risiko ini lenyap. Alat yang dirancang bagi orang yang berduka untuk berbicara dengan orang terkasih yang telah meninggal melalui AI atau untuk berbicara dengan versi AI dari seseorang yang telah meninggal berada tepat di garis patahan ini, dan ketika dibangun tanpa persetujuan subjek, alat itu mewarisi persoalan ini.

Alternatif yang mengutamakan persetujuan: bangun milik Anda sendiri selagi hidup

Alternatifnya mudah dinyatakan. Alih-alih membiarkan seseorang diciptakan ulang setelah kematian tanpa suara mereka, seseorang membangun representasinya sendiri selagi hidup, sebagai penulisnya. Di Afterlife AI™, itu adalah sebuah Persona: catatan yang terkelola dan mengutamakan persetujuan tentang siapa diri Anda, ditarik hanya dari apa yang benar-benar Anda berikan, di seluruh banyak dimensi seorang manusia nyata, bukan dikorek dari data sisa.

Karena subjeklah penulisnya, kerugian di atas ditangani pada akarnya alih-alih ditambal belakangan. Ada persetujuan, karena Anda memilih untuk membuatnya. Tidak ada rekaan semacam yang dirisikokan griefbot, karena ia hanya menarik dari memori terverifikasi yang Anda berikan, bukan menebak untuk mengisi keheningan. Dan ada tata kelola, karena Anda menetapkan syaratnya selagi Anda bisa. Keinginan untuk tetap terhubung dihormati, tetapi orang yang menjadi pusatnya tetap memiliki suara dalam keputusan.

The only person who can consent to being represented is the living one.

Cara melakukannya secara bertanggung jawab

Melakukan ini dengan baik lebih sedikit soal teknologi ketimbang soal kondisi di sekitarnya. Representasi seseorang harus ditulis oleh orang itu, ditarik dari memori terverifikasi alih-alih kesimpulan, dan ditempatkan di bawah kendali yang jelas dan berkelanjutan atas siapa yang boleh menjangkaunya dan kapan. Kondisi-kondisi itulah yang memisahkan praktik yang menghormati dari praktik yang eksploitatif, apa pun namanya.

Kendali adalah bagian yang paling mudah terabaikan dan paling penting untuk dilakukan dengan benar. Executor Lock™ dibangun untuk menyediakannya: ia mengatur siapa yang boleh mengaktifkan sebuah Persona dan kapan, memberi seorang pelaksana wasiat yang ditunjuk keputusan akhir, dan membuat hasilnya permanen begitu ditetapkan, sehingga tidak bisa dilatih ulang, diubah, atau dikomersialkan setelah kematian Anda. Kepermanenan itulah yang mengubah representasi dari sesuatu yang bisa diambil dan diubah menjadi sesuatu yang tetap sebagaimana orang itu meninggalkannya. Itu adalah jawaban struktural atas kerugian penguasaan komersial dan penyimpangan yang paling mengkhawatirkan para etikus.

Jika yang Anda inginkan adalah tempat bagi mereka yang Anda kasihi untuk kembali, prinsip yang sama menghasilkan sebuah memorial AI yang terkelola yang menghormati orang yang dikenangnya, karena orang itu membangun dan membatasinya sendiri. Perbedaan antara ini dan griefbot bukanlah penghiburan yang ditawarkannya kepada orang yang berduka, yang bisa nyata pada keduanya. Perbedaannya adalah bahwa di sini, penghiburan itu tidak datang dengan mengorbankan persetujuan orang yang dikenang.

Jadi alternatif etis untuk griefbot bukanlah penolakan terhadap keinginan di baliknya. Melainkan penataan ulang atasnya. Menciptakan ulang orang yang telah meninggal tanpa kesepakatan mereka meminta orang yang berduka menerima suara yang tidak pernah subjeknya setujui. Membangun Persona selagi hidup, terkelola dan mengutamakan persetujuan, memungkinkan seseorang memutuskan sendiri bagaimana mereka akan hadir setelah mereka tiada, dan menjaga keputusan itu tetap terlindungi. Teknologinya serupa. Etikanya tidak. Seluruh perbedaannya adalah siapa yang menyetujui, dan kapan.