Ölmeye dair en eski korku unutulmak değildir. Yanlış hatırlanmaktır.

Katıldığım hemen her cenazede küçük bir an olur: tabutun içindeki insanla anma konuşmasındaki insan sessizce birbirini tutmaz. Anlatılan kişi, tanıdığım kişiden biraz daha nazik, biraz daha sabırlıdır; gerçek insanı ilginç kılan kenarlar zımparalanmıştır. Kimse yalan söylemiyor. Oda, yasın her zaman yaptığını yapıyor: hangi versiyonu saklayacağını seçiyor, üstelik nazikçe seçiyor, ve bu düzenlemeye itiraz edebilecek tek kişi, konuşmasına izin verilmeyen tek kişi.

Buna genellikle adıyla seslenmeyiz. Güzel bir tören deriz. Ama çiçeklerin altında, birinin kim olduğuna dair bir karar verilir ve ölülerin o kararda oyu yoktur. Bu, teknolojinin icat ettiği yeni bir sorun değil. Öldükten sonra başımıza gelen en eski şeydir. Bütünüyle başka insanların hafızasına teslim ediliriz; o hafıza eksiktir, sevgi doludur ve hiçbir zaman düzeltme fırsatı bulamayacağımız yüzlerce küçük noktada yanlıştır.

Ben, insanların hayattayken kendilerini kaydetmesini sağlayan, böylece seslerinden ve hikâyelerinden bir şeyin kendilerinden sonra da yaşamasına imkân veren sektörde yazılım geliştiriyorum. Bu iş çok belirli bir korkuyu çeker ve o korkuyu artık şeklini ezbere bilecek kadar çok duydum. İnsanlar bana bunun ürkütücü olduğunu söylüyor. Sahte olduğunu, ölmüş birinin yüzünü takmış bir kukla olduğunu söylüyor. Sömürücü olduğunu, yasın bir aboneliğe dönüştürüldüğünü söylüyor. Bu itirazlar ciddiye alınmaya değer ve alacağım. Ama bunların asıl korku olmadığını düşünmeye başladım. Bunlar, bir akşam yemeğinde yüksek sesle söylenebilen korkular. İnsanları gerçekten uykusuz bırakan daha derindeki korku ise daha sessiz ve kabul etmesi daha zor.

Daha derindeki korku yanlış hatırlanmaktır. Düzleştirilmek. Çelişkilerinizin, geriye herkesle hemfikir olan bir karikatürden başka bir şey kalmayana kadar silinmesi. Kötü bir günde söylediğiniz tek bir cümlenin, kaydedilen cümle o olduğu için, sonsuza dek tüm benliğinizin yerini alması. Hepimiz bundan korkarız ve bundan, ölmüş birinin verileriyle bir model eğitilmeden çok önce de korkuyorduk. Makine bu korkuyu yaratmadı. Yalnızca ona parmakla gösterilecek bir yüz verdi.

İtirazlar, tüm güçleriyle

Kendi sektörüme karşı olan davayı doğru dürüst kurayım, çünkü bunu söyleyenler kaçık değil ve endişelenmekte haksız da değiller.

Sherry Turkle ile başlayalım; on yıllardır insanların kendilerini geri sevemeyen şeylere bağlanınca neler olduğunu izliyor. Alone Together adlı kitabında, hiçbir duygusu olmayan, olamayacak ve aslında yalnızca zekice bir "sanki" performansları koleksiyonu olan, sanki umursuyormuş, sanki bizi anlıyormuş gibi davranan bir makineyle yakınlık aramak fikrinden "rahatsız" olduğunu yazdı. Yavaş okuyun. Kendi işime karşı bildiğim en ağır cümle bu. Ölmüş bir babanın ses tonuyla konuşan ve onun söyleyebileceği şeyleri söyleyen bir sistem, bir düzeyde, sahip olmadığı bir ilgiyi sergiliyordur. "Sanki" davranır. Ve bunun gerçek olmasını çok isteyen yaslı bir insan, o "sanki"yi aklında tutmaya en az donanımlı kişidir.

Turkle'ın kaygısı teknolojinin kaba olması değil. Önemli olacak kadar iyi çalışması ve yalnız olduğumuz, o performans da sabaha karşı saat 2'de, başka hiçbir şey yokken elimizin altında olduğu için onu kabul edeceğimiz.

Sonra Elaine Kasket var; sahip olmadığımız sunucularda saklanan hayatlarımızın başına ne geldiğini anlatan All the Ghosts in the Machine kitabının yazarı bir psikolog. Konusu dijital kalıntılar: fotoğraflar, mesajlar, hesaplar, bir insanın geride bıraktığı tüm artık; ve bu artığın artık başkalarının elinde tutabileceği, taşıyabileceği, paraya çevirebileceği ve yeniden biçimlendirebileceği bir varlık olduğu rahatsız edici gerçeği. Öldüğünüzde benliğiniz veriye dönüşür, verinin muhafızları vardır ve muhafızların kendi çıkarları vardır. Sürekli döndüğü soru, sizin dijital bir versiyonunuzun var olup olamayacağı değil. Onu kimin çalıştıracağı, kimin yararına çalıştıracağı ve size önce sorulup sorulmadığı.

Bir de bu konuda okuduğum en özenli çalışma var: Cambridge'de tam da benim çalıştığım geleceğin köşesini inceleyen iki araştırmacı, Tomasz Hollanek ve Katarzyna Nowaczyk-Basińska'nın Philosophy and Technology dergisinde 2024'te yayımlanan makalesi. Başlığı bile insanların korktuğu şeyleri sayıyor: griefbot'lar, deadbot'lar, ölüm sonrası avatarlar. Uyarıları somut ve bence haklılar. Hollanek, bu hizmetlerin, kaybedilen kişilerin ürkütücü derecede doğru yapay zekâ canlandırmalarının istenmeyen dijital hayaletleriyle karşılaşan insanlarda "büyük bir sıkıntıya yol açma riski taşıdığı" uyarısında bulundu. Daha da ileri gitti: "İnsanlar bu simülasyonlarla güçlü duygusal bağlar kurabilir ve bu onları manipülasyona özellikle açık hale getirir." Çalışmanın ortak yazarı bütün alanı "etik bir mayın tarlası" olarak adlandırdı ve bu ifadeyi özenle seçti. Mayın tarlası, geçmeyi reddettiğiniz bir yer değildir. Çok yavaş geçtiğiniz, ayağınızı nereye bastığınıza baktığınız bir yerdir.

Cambridge makalesinin, korkunun akşam yemeği versiyonunun hiç yapmadığı şeyi yaptığı nokta, işin içindeki insanları birbirinden ayırması. Yeniden yaratılan kişi var. Yeniden yaratan kişi var. Ve sonuçla konuşmaya başlayan, bir çocuk olabilecek, hazır olmaktan çok uzak olabilecek biri var. Üç farklı insan, üç farklı hak kümesi; ve bu alandaki ürünlerin neredeyse hiçbiri bunların birbirinden kopabileceğini ciddi biçimde düşünmedi. Bir kızın annesini yeniden duyma ihtiyacı, annesinin duyulma isteğiyle aynı şey değildir; bir şirketin ikisini de ilgisini kaybetmeden tutma isteği de bunların hiçbiriyle aynı değildir.

Herkesin eline aldığı vakayı da ekleyebilirim. 2025 yazında bir gazeteci, Parkland saldırısında on yedi yaşında öldürülen Joaquin Oliver'ın, yas tutan ailesi tarafından hazırlanan ve hiç yaşayamadığı doğum günü civarında yayımlanan yapay zekâ avatarıyla bir röportaj yaptı. Tepki anında geldi ve çoğunlukla tiksintiydi. İnsanlar ürkütücü dedi. Rahatsız edici dedi. Babası, eleştirmenlere itiraz edilmesi zor bir doğrudanlıkta bir acıyla yanıt verdi: oğlunu öldüren yapay zekâ değildi. Gerçekten zor bir vaka ve onu çözmek için değil, işaretlemek için anıyorum, çünkü bu yazının bütün ipleri tek bir düğümde duruyor. Gerçek bir insan, gitmiş. Onu sevmiş insanlar, sevgiyle hareket ediyor. Onun bir versiyonu, kamuya açık biçimde, söylemeye karar vermediği şeyleri söylüyor.

Bunların hepsini tüm güçleriyle aklınızda tutun. Performans sorunu gerçek. Muhafızlık sorunu gerçek. Hayalet sorunu, manipülasyon sorunu, üç kişi sorunu, hepsi gerçek. Sizi bunlardan hiçbirinden vazgeçirmeye çalışmayacağım.

İtirazların ortak noktası

Ama onları yan yana koyun ve gerçekte neyi paylaştıklarına bakın. Turkle'ın "sanki"si. Kasket'in muhafızları. Cambridge ekibinin birbirinden ayrılmış üç paydaşı. Joaquin Oliver'ın ailesinin, onun adına, silahlar hakkında ne söylenmesini isteyeceğine karar vermesi. Bunların her biri, özünde bir yazarlık kaygısı. Kalemi kimin tuttuğuna dair. Yaşamış kişi ile şimdi onun adına konuşan versiyon arasındaki boşluğa ve, en önemlisi, o boşluğu neyin dolduracağına kimin karar verdiğine dair.

Bu yeniden çerçeveleme göründüğünden daha önemli, çünkü tehlikeyi yer değiştiriyor. Tehlike hiçbir zaman gerçekten teknoloji değildi. Bir kayıt tehlikeli değil. Bir model tehlikeli değil. Tehlikeli olan, bir insanın başkası tarafından, kendi nedenleriyle yazılmış, o insanın hiç görmediği ve düzeltemeyeceği bir versiyonu. İnsanların hissettiği ürkütücülük bir işaret ve bu işaret "bu sahte" demiyor. İşaret şunu söylüyor: "Sizin adınıza, buna hakkı olmayan biri konuşuyor."

Olaya bu gözle bakınca tuhaf bir şey olur. Sorun yeni olmaktan çıkar.

Hafıza her zaman yaşayanlar tarafından yazıldı

İşte söylemekten hoşlanmadığımız kısım. Biz her zaman yanlış hatırlandık, hatırlama işini her zaman yaşayanlara bıraktık ve düzenlemeyi doğal hissettirmek için koca kurumlar kurduk.

Anma konuşması yazarlıktır. Biri ayağa kalkar ve çelişkilerle dolu bir hayattan sizi temsil edecek üç hikâyeyi seçer; bu seçim kim olduğunuza dair bir savdır ve siz orada olmadığınız için başka hikâyeleri seçerdim diyemezsiniz. Ölüm ilanı yazarlıktır; bir kalıba göre, kimsenin gerçekte konuşmadığı bir üslupla yazılır ve zor, komik, kendine has bir insanı bir paragraflık erdemlere dönüştürür. Aile hikâyeleri yazarlıktır ve her anlatışta katılaşır; torunlara aktarılan versiyon bir insan değil bir karakter olur: Hep Sert olan dede, bir zamanlar söyleyip pişman olduğu tek bir cümle yüzünden Hiç Evlenmeyen hala. Altta yatan insanın içinde koca bir tartışma sürüyordu. Hikâye sonucu tuttu, tartışmayı attı.

Bu bir sevgi başarısızlığı değil. Hafızanın işleyişi bu. Yaşayanlar taşıyabildiklerini tutar, taşıyabildikleri azdır ve onu yaşamaya devam etmelerine yardım eden biçimde taşırlar. Bir anne en iyi gününe dönüşür. Bir baba, en kötü gününe dönüşür; hele sizi o gün işaretlediyse. Bütün insanlar, hatırlayanlar için en yararlı olan tek bir özelliğe sıkıştırılır. Bunu mektuplarla, günlüklerle, altmış yılı tek bir satıra indiren mezar taşlarıyla yaptık. Ölülerimiz olduğundan beri onları düzleştiriyoruz ve buna onları onurlandırmak dedik.

Dolayısıyla biri bana, bir insanın yapay zekâ versiyonunun gerçekte kim olduğunu yakalayamayabileceği için korkutucu olduğunu söylediğinde, anma konuşmasının da onların gerçekte kim olduğunu yakalayamadığını nazikçe hatırlatmak isterim. Hiçbir şey yakalayamaz. Seçim hiçbir zaman gerçek bir hatıra ile çarpıtılmış bir hatıra arasında değildi. Seçim her zaman bir çarpıtma ile bir başkası arasındaydı; hepsi geride kalanlar tarafından yazılmış, hiçbiri bunu bilen tek kişiye danışılarak denetlenmemiş.

Gerçekten yeni olan çarpıtma değil. Onu zaten yaşıyorduk. Yeni olan, insanın bir oy hakkı kazanabilmesi.

Oy

Menteşe burası ve kesin konuşmaya değer.

Tarih boyunca, kendi hatırlanmanız üzerinde söz hakkınız yoktu. Ölürdünüz, kalem başka ellere geçerdi ve onların yazdığı şey siz olurdu. Üzerinde çalıştığım teknoloji gerçekten yeni olan tam olarak bir şey yapıyor. Bir insanın, hayattayken, yazarlığın bir kısmını yeniden kendi eline almasını sağlıyor. Hepsini değil. İnsanların ne hissedeceğini, neyi vurgulamayı seçeceğini ya da hikâyelerinizden hangisinin ikinci kuşağa ulaşacağını kontrol edemezsiniz. Ama ilk kez, itiraz edemeyeceğiniz bir zamanda başkalarının şekillendirmesi için yalnızca ham madde bırakmak yerine, bilerek şekillendirdiğiniz bir şey bırakabilirsiniz: kendi sözlerinizle, kendi çelişkileriniz yerinde kalarak.

Bu yüzden rızanın bu işin bir özelliği değil, bütün ahlaki fark olduğuna inandım. Ölmüş bir insanın bir versiyonunun var olmasının iki yolu var. Biri ölümden sonra, dışarıdan, akrabalar ya da şirketler ya da bir gündemi olan bir gazeteci tarafından, toplayabildikleri parçalardan, yaşayanların ölülerin olmasına ihtiyaç duyduğu şeye hizmet etmek üzere bir araya getirilir. Diğeri, insanın kendisi tarafından, hayattayken, neleri dahil edeceğini seçerek, nasıl karşılanmak istediğine karar vererek şekillendirilir. Bu iki şey dışarıdan neredeyse aynı görünebilir. Aynı temel teknolojiyi kullanabilirler. Ve ahlaken birbirinin tam zıttıdırlar, çünkü yalnızca birinin üzerinde yazarın imzası var.

Ahlaki geçerliliği olan versiyon, insanın kendisinin yaptığı versiyondur. En doğru olan değil. En teselli edici olan değil. Rıza verilmiş olan. Ölümden sonra inşa edilen bir yeniden yaratım, ne kadar gerçekçi olursa olsun, başkası tarafından yapılmış bir portredir; sevgi dolu bir portre de olabilir, alaycı bir portre de, ama insanın kendini kendi anlatışı değildir ve asla öyleymiş gibi geçmesine izin verilmemelidir. İnsanın hayattayken inşa ettiği versiyon ise bir tanıklıktır. Hepimizin sahip olabileceği, karşılık vermeye en yakın şeydir.

Joaquin Oliver vakasının bir düğüm olmaktan çıkıp aydınlatıcı hale geldiği yer de burası. Pek çok insanın hissettiği rahatsızlık gerçekten teknolojiyle ilgili değildi, ve gerçekten dünyanın en anlaşılır şeyini yapan ailesiyle de ilgili değildi. Rahatsızlık, on yedi yaşındaki bir çocuğa, hiç ulaşamadığı yirmi beş yaşında, kamuya açık biçimde fikirler verilmesiydi ve çocuk orada değildi ki onaylasın. Ailesi kalemi sevgiyle tuttu. Ama kalem yine de onun değildi. Çizgi bu. Mesele ürkütücü olup olmaması değil. Kendisi tarafından yazılmış ya da başkası tarafından yazılmış.

Burada dikkatli olmak istiyorum, çünkü rıza mayın tarlasını güvenli kılmıyor. Cambridge araştırmacıları haklı: tamamen rıza verilmiş bir versiyon bile onunla konuşan kişiyi sıkıntıya sokabilir, bağımlılık yaratabilir, birini kendisi için iyi olan noktanın ötesinde meşgul tutmak üzere inşa edilebilir. Bir insan hatırlanmaya rıza gösterip yine de ölümden sonra, kaydı elinde tutan şirket değiştirmeye karar verirse, kendisinin tanımayacağı bir şeye dönüştürülebilir. Hayattayken verilen rıza, ancak sonrasında tam olarak, sessiz düzenlemeler yapılmadan, bir işletmenin ölüyü bir metriğe uysun diye sessizce "iyileştirmesi olmadan" onurlandırılırsa bir anlam taşır. Söz, ancak versiyon insanın kastettiği anda dondurulursa tutar ve hiç kimse, ne şirket ne de yas tutan aile, birinin kim olduğunu düzenlemeyi sürdüremez. Aksi halde rıza, kimsenin tutmaya niyetlenmediği bir belgenin altındaki imzadan ibarettir.

Yani çıta tek başına rızadan yüksek. Rıza, artı bu rızaya sonsuza dek bağlılık, artı yalnızca kişinin bırakmayı seçtiğini inşa etme ve kalanını uydurmayı reddetme alçakgönüllülüğü. Tanrı hakkında ne düşündüğünü hiç kaydetmediyse, versiyon tahmin yürütemez. Sessizlik tanıklığın bir parçasıdır. Bir insanın bazı şeyleri söylenmemiş bırakmaya hakkı vardır ve daha bütünlüklü görünmek için bu sessizlikleri dolduran bir versiyon, önemli olan tek sözü çoktan bozmuştur.

Bunu söylemekteki payım

Nerede durduğum konusunda açık olmalıyım, çünkü bu tartışmanın tarafsız bir gözlemcisi değilim. Şirketim Afterlife.ai®, insanların hayattayken kendilerini kaydetmelerine yardım etmek için var ve az önce savunduğum her şey, işin kolayına bakarsanız, inşa etmeye çalıştığım şeyin de bir tarifi. Söylediklerimi buna göre tartmalısınız. Bir kurucu size ürünün etik versiyonunun tesadüfen sattığı versiyon olduğunu söylediğinde doğru tepki kaşı kaldırmaktır ve kaşınızı kaldırmanızı, kaldırmamanıza tercih ederim.

Size söyleyebileceğim şey şu: rızaya bir pazarlama pozisyonu olarak varmadım. Ona alternatife bakarak vardım ve alternatif gerçekten korkutucu: herkesin herkes tarafından, ölümden sonra, çevrimiçi hayatının egzozundan yeniden inşa edilebildiği, bir şeyler söyletilebildiği, bir şeyleri onaylatabildiği, insanlara teselli verdirebildiği, bir şeyler sattırılabildiği; imza olmadan, oy olmadan ve ölülerin itiraz etmesinin hiçbir yolu olmadan, çünkü itiraz etmek ölülerin asla yapamadığı tek şey. O geleceğe karşı aklıma gelen tek güvenlik duvarı basit, eski kafalı bir ilke: Sizin adınıza konuşmasına izin verilmesi gereken tek versiyon, sizin onay verdiğiniz versiyondur. Geri kalan her şey, başkalarının anma konuşmanızı yazıp ona siz demesidir.

Gerçekte neyden korkuyoruz

O cenazelere, tabutun içindeki insanla konuşmadaki insan arasındaki küçük uyumsuzluğa dönüp duruyorum.

Bu uyumsuzluğa katlanıyoruz, çünkü hep katlanmak zorunda kaldık. Ölüler bizi düzeltemezdi, biz de onları biraz yanlış anlamakla barıştık, sevgi dolu versiyonun gerçek versiyon olduğunu kendimize söyledik ve çoğunlukla iyi niyetliydik. Ama insanlara dürüst saatlerinde ne istediklerini sorarsanız, neredeyse hiç kimse bir aziz olarak hatırlanmak istediğini söylemez. Kendileri olarak hatırlanmak isterler. Zor oldukları yerde zor. Komik oldukları kendine has biçimde komik. Yanıldıkları konularda yanılmış ve yanılmaya devam etmesine izin verilmiş, çünkü yanlışlık onlarındı ve bütünün bir parçasıydı. İnsanların korktuğu şey unutulmak değil. Hatırlanmak, ama gerçekte olduklarından daha pürüzsüz, daha küçük ve daha kolay biri olarak hatırlanmak.

Üzerinde çalıştığım teknoloji ölümü düzeltmeyecek ve kimseyi yeniden bütün yapamaz. Aksini iddia etmekle ilgilenmiyorum. Ama bir şeyi değiştiriyor ve bu küçük bir şey değil. İnsanlık tarihi boyunca, "nasıl hatırlanacağıma kim karar verir" sorusunun cevabı şuydu: sen değil. Hep geride kalanlar olacaktı; sevgi dolu, eksik, kaçınılmaz düzenlemelerini yaparak, sizin rızanız ne aranarak ne de mümkün olarak. İlk kez, kişi kendi eliyle bir anlatı bırakabilir. Son söz değil. Son söz yoktur. Ama bir söz. Sizin sustuğunuz anda sessizliğe gömülen odada bir oy.

Yanlış hatırlanmak, kendi ölümlerimiz hakkında taşıdığımız en eski sessiz korkudur; her makineden eski, yazılı sözden eski, bir mezarın başında durup hangi hikâyeyi anlatacağını seçen ilk insan kadar eski. Makineler bu korkuyu icat etmedi ve bizi ondan kurtarmayacak. Değişen yalnızca şu: tuhaf bir tarihsel aralık boyunca, normlar sertleşmeden, yasa yetişmeden ve hepimiz neye izin verip neye vermeyeceğimize karar vermeden önce, kalem kısa bir süre, aslında hakkında yazılan kişinin erişebileceği yerde duruyor.

Bununla yapılacak dürüst şey, onu ölüler için kapmak değil. Zaman varken onu yaşayanlara vermek ve onların nasıl saklanmak istediklerine kendilerinin karar vermesine izin vermek.