Yas botlarına etik alternatif

Bir yas botu, genellikle bir kişi öldükten sonra, geride bıraktığı mesajlardan, kayıtlardan ve paylaşımlardan oluşturulan ve yas tutanların onunla bir tür sohbeti sürdürebilmesini sağlamak için ölü bir kişiyi simüle eden bir yapay zeka sistemidir. Bir yas botuna etik alternatif, arkasındaki dileği, ki bu derinden insani bir dilektir, terk etmek değil, onam sırasını tersine çevirmektir: birini ölümünden sonra rızası olmadan yeniden canlandırmak yerine, hayattayken, özgürce seçerek kendinizin yönetilen bir temsilini oluşturursunuz. Bu tek fark, kimin ve ne zaman onam verdiği, birçok etikçinin uyardığı bir uygulamayı, bir kişinin arkasında durabileceği bir uygulamadan ayırır.

Bu sayfa, bir yas botunun gerçekte ne olduğunu, ciddi etik sorunun nerede yattığını, araştırmacıların ve etikçilerin bu konuda neler söylediğini ve onam öncelikli bir alternatifin pratikte nasıl göründüğünü ortaya koyuyor. Amaç, telaş yaratmaktan ziyade adil olmaktır. Kaybettiğiniz biriyle konuşmaya devam etme dürtüsü, azarlanacak bir kusur değildir. Soru yalnızca bunun nasıl yapıldığı ve yeniden canlandırılan kişinin hiç söz hakkı olup olmadığıdır.

Temel etik sorun: hiç onam vermemiş birini yeniden canlandırmak

Çoğu yas botunun belirleyici özelliği ve etik güçlüğün kökü, bunların ölülerin kendileri tarafından değil, ölülerden oluşturulmasıdır. Yas tutan bir aile ya da bir şirket, bir kişinin eski metinlerini, sesli notlarını ve sosyal paylaşımlarını toplar ve bir modeli o kişi gibi konuşması için eğitir. Ölen kişi ham maddedir. Hiçbir zaman yazar değildir ve en önemlisi, ona hiç sorulmamıştır.

Bunun önemi şuradan gelir: inandırıcı bir simülasyon, bir kişinin adına iddialarda bulunur. O kişinin hiç söylemediği cümleler, hiç sahip olmadığı görüşler, hiç sunmadığı güvenceler üretir. Ölü, bunu düzeltemez, itiraz edemez ve geri çekemez. Öznenin onam vermediği ve yönetemeyeceği bir temsil, özünde, artık kendisi için konuşamayan bir kişi adına başkasının konuşması ve bunu o kişinin kendi sesiymiş gibi sunmasıdır. Sunduğu teselli ne olursa olsun, öznenin hiç kabul etmediği bir noktadan başlar.

A griefbot is built of the dead. A Persona is built by the living.

Onam çizgisi

Bu teknolojiyle ilgili neredeyse her anlamlı etik soru tek bir çizgide çözülür: temsil edilen kişi, onam veren bir yazar mıydı, yoksa onam vermeyen bir özne mi? Bir yanda, ölümden sonra kişinin başka amaçlarla bıraktığı verilerden bir araya getirilen, o veriyi elinde tutan her kim ise onun tarafından yönetilen, kimseye hesap vermeyen tipik yas botu vardır. Diğer yanda ise, bir kişinin hayattayken kendisinin oluşturduğu, neyi içereceğine ve neyi asla iddia etmeyeceğine karar verdiği bir temsil vardır.

Bu, şu ayrımdır: bir yas botu ya da bir ölü bot, olaydan sonra yapılan yeniden canlandırma için kullanılan terimler, ile önceden oluşturulan onam öncelikli bir Persona arasındaki ayrım. Kelimeler kulağa benzer gelir ve teknoloji örtüşür, ancak etik açıdan neredeyse zıttırlar. Biri bir sesi alır; diğerine bir ses verilir. Öznenin kendi onamının varlığı ya da yokluğu bir ayrıntı değildir. Bütün mesele budur.

Buradaki onam, bir kez işaretlenmiş bir kutucuktan fazlasını ifade etmek zorundadır. İçine neyin gireceğini kişinin seçmesi, nasıl davranacağını şekillendirebilmesi ve ona kimin, ne zaman ulaşabileceğinin kurallarını koymuş olması anlamına gelir. Öznenin artık aramızda olmadığı için kullanamayacağı bir onam, aslında onun onamı sayılmaz. İşte bu yüzden zamanlama, anlaşmanın kendisi kadar önemlidir: temsil edilmeye gerçekten onam verebilecek tek kişi, yaşayan kişidir.

Araştırmaların ve etikçilerin söyledikleri

Bu teknoloji hakkındaki ciddi yorumlar, araçlar geliştikçe daha temkinli hale geldi. Scientific American gibi yayın organlarındaki haberler, yas botlarının yas tutanlara gerçekten yardımcı olup olmadığını ya da onları yerinde tutma riski taşıyıp taşımadığını tartmış ve kanıtların hiç de kesinleşmediğini belirtmiştir. Bu yazıların çoğunda ulaşılan dikkatli sonuç, teknolojinin değersiz olduğu değil, faydalarının koşullu ve risklerinin gerçek olduğudur.

Akademik ve etik tartışmalar, The Conversation gibi mecralarda gün yüzüne çıkan çalışmalar da dahil olmak üzere, özellikle onam sorusunun üzerine daha güçlü bir biçimde gitmiştir. Bu alandaki araştırmacılar, bir kişiyi önceden anlaşması olmadan yeniden canlandırmanın onun haysiyetini zedeleyebileceğini, ailelerin ve şirketlerin ölen kişinin isteyeceğinden ayrışan çıkarlara sahip olabileceğini ve simüle edilen bir kişinin kullanılmasını, paraya çevrilmesini ya da orijinalin asla söylemeyeceği şeyleri söylemeye zorlanmasını önleyecek koruyucu önlemlerin bulunması gerektiğini savunmuştur. Yinelenen tema yönetimdir: temsili kim, kimin yetkisiyle ve hangi sınırlarla denetler.

Birlikte okunduğunda, bu çalışmalar bütünü, bağlı kalma dileğinin yanlış olduğunu söylemez. Bu dileğin, temsil edilen kişiye saygı gösteren bir biçimde karşılanması gerektiğini ve onam ile denetimin bunun mümkün olabileceği koşullar olduğunu söyler. İşte bu, onam öncelikli bir yaklaşımın karşılamak üzere tasarlandığı ve olaydan sonra çalışan bir yas botunun yapısal olarak karşılayamayacağı bir ölçüttür.

Onamsız ölü botların belgelenmiş zararları

İlke sorusunun ötesinde, birkaç somut zarar belgelenmiş ya da ciddi biçimde öne sürülmüştür. Bunları açıkça adlandırmaya değer, çünkü bunlar temkinliliğin neden gerekli olduğunun sebepleridir, soyutlamalar değildir.

• Onamsız yeniden canlandırma: en temel zarar, buna hiç razı olmamış bir kişiyi temsil etmek, itiraz edemeyeceği sözleri ve görüşleri onun ağzına koymaktır.

• Yasa müdahale: her zaman erişilebilir olan bir simülasyon, bazı insanlar için yas sürecini hafifletmek yerine geciktirebilir; yas tutanı, gerçekten değişemeyen ya da gelişemeyen bir varlığa bağlı tutabilir.

• Ticari ele geçirme: bir yas botu bir şirket tarafından işletildiğinde, ölen kişi bir ürüne dönüşebilir; benzerliği, hiç yetki vermediği bir tarafça saklanabilir, paraya çevrilebilir ya da başka amaçlarla yeniden kullanılabilir.

• Sapma ve uydurma: birine benzer şekilde konuşması için eğitilen bir model, boşlukları uydurarak doldurur; kişinin hiç söylemediği ve ailenin yanlışlıkla gerçek sanabileceği ifadeler üretir.

Bu zararların hiçbiri her durumda kaçınılmaz değildir ve mesele tam da budur. Bunlar bir yapıdan kaynaklanır, yani temsilin ölümden sonra, onam olmadan, dışarıdan bir denetim altında oluşturulmasından, ki bu yapı bunların en azından bir kısmını neredeyse garanti eder. Yapıyı değiştirin, bu risklerin çoğu ortadan kalkar. Yas tutanların yapay zeka aracılığıyla ölen bir sevdikleriyle konuşmasına ya da ölen birinin yapay zeka versiyonuyla konuşmasına yönelik tasarlanan araçlar tam da bu fay hattının üzerinde durur ve öznenin onamı olmadan oluşturuldukları yerde, tam da bu sorunları miras alırlar.

Onam öncelikli alternatif: hayattayken kendinizinkini oluşturun

Alternatifi ifade etmek basittir. Birinin ölümünden sonra söz hakkı olmadan yeniden canlandırılmasına izin vermek yerine, bir kişi hayattayken kendi temsilini, onun yazarı olarak oluşturur. Afterlife AI™ bünyesinde bu, bir Persona'dır: kim olduğunuzun yönetilen, onam öncelikli bir kaydı; yalnızca gerçekten sağladığınız şeylerden, artık kalmış verilerden derlenmek yerine gerçek bir insanın pek çok boyutu boyunca oluşturulan bir kayıt.

Özne yazar olduğu için, yukarıdaki zararlar sonradan yamalanmak yerine kökünden ele alınır. Onam vardır, çünkü onu oluşturmayı siz seçtiniz. Yas botlarının riske attığı türden bir uydurma yoktur, çünkü sessizliği doldurmak için tahmin yürütmek yerine yalnızca sağladığınız doğrulanmış anıya dayanır. Ve yönetim vardır, çünkü koşulları yapabilecekken siz belirlersiniz. Bağlı kalma dileğine saygı gösterilir, ancak bunun merkezindeki kişi, kararı verirken sesini elinde tutmuştur.

The only person who can consent to being represented is the living one.

Bunu sorumlu bir biçimde nasıl yapmalı

Bunu iyi yapmak, teknolojiden çok onun etrafındaki koşullarla ilgilidir. Bir kişinin temsili, o kişi tarafından yazılmalı, çıkarımdan ziyade doğrulanmış anıdan derlenmeli ve ona kimin, ne zaman ulaşabileceği üzerinde açık, kalıcı bir denetim altına konulmalıdır. Bu koşullar, adı ne olursa olsun, saygılı bir uygulamayı sömürücü bir uygulamadan ayıran şeydir.

Denetim, gözden kaçırılması en kolay ve doğru yapılması en önemli kısımdır. Executor Lock™, bunu sağlamak için tasarlanmıştır: bir Persona'yı kimin, ne zaman etkinleştirebileceğini yönetir, adı belirlenmiş bir vasiye son sözü verir ve bir kez ayarlandığında sonucu kalıcı kılar, böylece ölümünüzden sonra yeniden eğitilemez, değiştirilemez ya da ticarileştirilemez. İşte bu kalıcılık, bir temsili, alınıp değiştirilebilecek bir şeyden, kişinin bıraktığı gibi kalan bir şeye dönüştürür. Bu, etikçileri en çok kaygılandıran ticari ele geçirme ve sapma zararlarına verilen yapısal yanıttır.

İstediğiniz şey, sevdiklerinizin geri dönebileceği bir yerse, aynı ilkeler, hatırladığı kişiye saygı gösteren bir yönetilen yapay zeka anıtı ortaya çıkarır, çünkü o kişiyi bizzat kişinin kendisi oluşturmuş ve sınırlamıştır. Bunun bir yas botundan farkı, yas tutanlara sunduğu teselli değildir, ki bu her ikisinde de gerçek olabilir. Fark şudur: burada teselli, hatırlanan kişinin onamı pahasına gelmez.

Yani bir yas botuna etik alternatif, arkasındaki dileğin reddi değildir. Onun yeniden düzenlenmesidir. Ölüleri anlaşmaları olmadan yeniden canlandırmak, yas tutanlardan öznenin asla onaylamadığı bir sesi kabul etmelerini ister. Hayattayken, yönetilen ve onam öncelikli bir Persona oluşturmak ise, bir kişinin aramızdan ayrıldıktan sonra nasıl var olacağına kendisi karar vermesine olanak tanır ve bu kararı korunmuş tutar. Teknoloji benzerdir. Etik değildir. Farkın tamamı, kimin ve ne zaman onam verdiğidir.