Найдавніший страх перед смертю: не бути забутим, а бути згаданим неправильно.

Майже на кожних похоронах, де я був, настає маленька мить, коли людина в труні й людина з надгробного слова тихо перестають збігатися. Той, про кого говорять, трохи добріший за того, кого знав я, трохи терплячіший, зі стертими краями саме там, де справжня людина була цікавою. Ніхто не бреше. Зала робить те, що завжди робить горе. Вона вибирає, яку версію зберегти, і вибирає лагідно, а єдина людина, яка могла б заперечити проти такої правки, єдина, кому не дозволено говорити.

Ми зазвичай не називаємо це своїм іменем. Ми кажемо: гарна церемонія. Але під квітами ухвалюється рішення про те, ким була людина, і мертві не мають у ньому голосу. Це не нова проблема, вигадана технологіями. Це найстаріше з усього, що з нами трапляється після смерті. Нас повністю передають пам'яті інших людей, а їхня пам'ять неповна, любляча і хибна в сотні дрібниць, які ми вже ніколи не зможемо виправити.

Я створюю програмне забезпечення в тій частині індустрії, яка дозволяє людям записувати себе за життя, щоб частина їхнього голосу й історій пережила їх. Така робота викликає дуже певний страх, і я чув його стільки разів, що знаю його форму напам'ять. Мені кажуть, що це моторошно. Кажуть, що це підробка, лялька в обличчі померлого. Кажуть, що це експлуатація, горе, перетворене на підписку. До цих закидів варто поставитися серйозно, і я так і зроблю. Але я дійшов висновку, що це не справжній страх. Це страх, який можна вимовити вголос за святковою вечерею. Глибший, той, що справді не дає людям спати, тихіший, і в ньому важче зізнатися.

Глибший страх: бути згаданим неправильно. Бути спрощеним. Щоб твої суперечності розгладили, аж поки не залишиться лише карикатура, яка з усіма погоджується. Щоб одна фраза, сказана в один поганий день, стала замість усього тебе назавжди, бо саме її зберегли. Ми всі цього боїмося, і боялися задовго до того, як хтось навчив модель на мертвій людині. Машина не створила цього страху. Вона лише дала йому обличчя, на яке можна показати пальцем.

Заперечення на повну силу

Дозвольте мені як слід викласти аргументи проти моєї власної галузі, бо люди, які їх наводять, не диваки, і їхня тривога небезпідставна.

Почнімо з Sherry Turkle, яка десятиліттями спостерігала, що відбувається, коли люди прив'язуються до речей, які не можуть любити у відповідь. У книзі Alone Together вона написала, що її «турбує сама ідея шукати близькості з машиною, яка не має почуттів, не може їх мати і є лише розумною добіркою вистав "ніби", що поводиться так, ніби їй не байдуже, ніби вона нас розуміє». Прочитайте це повільно. Це найтяжче речення проти моєї власної роботи, яке я знаю. Система, що говорить інтонаціями померлого батька й каже те, що він міг би сказати, на якомусь рівні вдає турботу, якої в неї немає. Вона поводиться так, ніби. А людина в горі, яка так сильно хоче, щоб це було правдою, найменше здатна втримати в голові це «ніби».

Turkle турбує не те, що технологія груба, а те, що вона працює достатньо добре, щоб мати значення, і що ми приймемо цю виставу, бо ми самотні, а вистава доступна о 2-й ночі, коли більше нічого немає.

Далі Elaine Kasket, психологиня, авторка книги All the Ghosts in the Machine, про те, що стається з нами, коли наше життя зберігається на серверах, які нам не належать. Її тема: цифрові залишки, тобто фото, повідомлення, акаунти, увесь осад, який людина лишає по собі, і незручний факт, що цей осад тепер є активом, який інші можуть утримувати, переміщати, монетизувати й переробляти. Коли ви помираєте, ваше «я» стає даними, у даних є опікуни, а в опікунів є власні інтереси. Питання, до якого вона постійно повертається, не в тому, чи може існувати цифрова версія вас. А в тому, хто нею керуватиме, в чиїх інтересах і чи запитали про це вас самих.

А ще є найретельніша з відомих мені праць на цю тему: стаття 2024 року в журналі Philosophy and Technology авторства Tomasz Hollanek і Katarzyna Nowaczyk-Basińska, двох дослідників із Кембриджа, які вивчають саме той куточок майбутнього, де працюю я. Вже сама назва називає те, чого бояться люди: griefbots, deadbots, постмортем-аватари. Їхні застереження конкретні, і я вважаю їх слушними. Hollanek попереджав, що такі сервіси «ризикують завдати людям величезних страждань, якщо ті зазнаватимуть небажаних цифрових переслідувань від лячно точних відтворень ШІ тих, кого вони втратили». Він пішов далі: «Люди можуть сформувати міцні емоційні зв'язки з такими симуляціями, що зробить їх особливо вразливими до маніпуляцій». Його співавторка назвала всю цю сферу «етичним мінним полем», і цю фразу вона добирала обережно. Мінне поле не те місце, яке відмовляються перетинати. Це місце, яке перетинають дуже повільно, дивлячись, куди ставиш ногу.

Те, що робить стаття з Кембриджа і чого ніколи не робить святкова версія цього страху, це розрізняє людей, яких це стосується. Є людина, яку відтворюють. Є людина, яка відтворює. І є той, хто зрештою розмовлятиме з результатом, а це може бути дитина, яка далеко не готова. Три різні люди, три різні набори прав, і майже жоден продукт у цій галузі серйозно не замислювався над тим, що вони можуть розійтися. Потреба доньки знову почути маму не те саме, що бажання мами бути почутою, а бажання компанії втримати обох у застосунку не збігається ні з одним із цих двох.

Я міг би додати випадок, до якого звертаються всі. Влітку 2025 року журналіст провів інтерв'ю з ШІ-аватаром Joaquin Oliver, хлопця, убитого у сімнадцять років під час стрілянини в Паркленді, створеним його батьками в горі й запущеним до дня народження, якого він не дочекався. Реакція була негайною і здебільшого гидливою. Жахливо, казали люди. Тривожно. Його батько відповів критикам таким прямим болем, що заперечити було важко: штучний інтелект не вбивав його сина. Це справді важкий випадок, і я згадую його не для того, щоб розв'язати, а щоб позначити, бо в ньому в одному вузлі зібрані всі нитки цього есе. Реальна людина, якої немає. Люди, які її любили і діяли з любові. Версія цієї людини, що публічно каже речі, які вона ніколи не вирішувала казати.

Тримайте все це в голові на повну силу. Проблема вистави справжня. Проблема опіки над даними справжня. Проблема переслідування, проблема маніпуляції, проблема трьох людей, усе справжнє. Я не збираюся відмовляти вас від жодної з них.

Що спільного в цих запереченнях

Але покладіть їх поруч і погляньте, що в них справді спільне. Turkle з її «ніби». Опікуни Kasket. Три розділені сторони в команді з Кембриджа. Батьки Joaquin Oliver, які вирішують за нього, що він хотів би сказати про зброю. Кожне з цих заперечень, по суті, тривога про авторство. Про те, хто тримає перо. Про розрив між людиною, яка жила, і версією, що тепер говорить від її імені, і, головне, про те, хто вирішує, чим цей розрив заповнити.

Це переформулювання важливіше, ніж здається, бо воно зсуває небезпеку. Небезпека ніколи насправді не була в технології. Запис не небезпечний. Модель не небезпечна. Небезпечна версія людини, яку хтось інший створив із власних причин, яку людина ніколи не бачила і не може виправити. Моторошність, яку відчувають люди, це сигнал, і цей сигнал не «це підробка». Сигнал такий: «хтось говорить за вас, не заслуживши на це права».

Коли дивишся на це так, стається дивна річ. Проблема перестає бути новою.

Пам'ять завжди писали живі

Ось те, що ми не любимо казати. Нас завжди згадували неправильно, ми завжди дозволяли згадувати живим, і ми збудували цілі інституції, щоб ця правка здавалася природною.

Надгробне слово є авторством. Хтось виходить і вибирає з цілого суперечливого життя три історії, які представлятимуть вас, і цей вибір є аргументом про те, ким ви були, а вас там немає, щоб сказати, що ви обрали б інші історії. Некролог є авторством, написаним за шаблоном, у регістрі, яким ніхто насправді не говорив, і він перетворює складну, смішну, неповторну людину на абзац чеснот. Сімейні історії є авторством, і з кожним переказом вони твердішають, аж поки версія, яку передають онукам, стає персонажем, а не людиною: дідусь, який був «Завжди Суворим», тітка, яка «Ніколи Не Виходила Заміж» через одну фразу, яку вона колись сказала й пошкодувала. Під цим була людина з цілим внутрішнім спором. Історія залишила висновок і викинула спір.

Це не провал любові. Це механіка пам'яті. Живі зберігають те, що можуть нести, а нести вони можуть небагато, і несуть у такій формі, яка допомагає їм жити далі. Мати стає своїм найкращим днем. Батько стає своїм найгіршим, якщо найгірший саме той, що позначив вас. Цілі люди стискаються до однієї риси, найкориснішої для тих, хто пам'ятає. Ми робили так із листами й щоденниками, з надгробками, що зводили шістдесят років до одного рядка. Ми спрощуємо мертвих відтоді, відколи в нас є мертві, і називали це шануванням.

Тож коли хтось каже мені, що ШІ-версія людини лякає, бо може не передати, якою вона була насправді, я хочу м'яко нагадати, що надгробне слово теж не передало, якою вона була насправді. Ніщо не передає. Вибір ніколи не стояв між правдивою пам'яттю і викривленою. Він завжди стояв між одним викривленням і іншим, і всі вони створені тими, хто залишився, і жодне не звірене з єдиною людиною, яка знала.

По-справжньому нове не викривлення. Воно було завжди. Нове в тому, що людина може отримати голос.

Голос

Це вісь усього, і про неї варто сказати точно.

Упродовж усієї історії ви не мали слова щодо власної пам'яті про себе. Ви помирали, перо переходило до чужих рук, і те, що вони писали, ставало вами. Технологія, над якою я працюю, робить лише одну справді нову річ. Вона дає людині за життя повернути собі частину авторства. Не все. Ви не можете контролювати, що люди відчувають, на чому наголошують і які з ваших історій переживуть друге покоління. Але ви можете вперше залишити по собі те, що ви сформували навмисно, власними словами, з усіма своїми суперечностями, а не лише сировину, яку інші формуватимуть тоді, коли ви вже не зможете заперечити.

Саме тому я дійшов думки, що згода не є функцією цієї роботи. Вона є всією моральною різницею. Є два способи, як версія померлої людини може з'явитися. Перший: її збирають після смерті, ззовні, родичі, компанії чи журналіст із власним задумом, із будь-яких уламків, які вдалося зібрати, на службі тому, ким живим потрібно бачити мертвого. Другий: її формує сама людина, за життя, вибираючи, що включити, і вирішуючи, якою хоче постати. Ззовні ці два варіанти можуть виглядати майже однаково. Вони можуть спиратися на ту саму технологію. І вони морально протилежні, бо лише один має підпис автора.

Версія з моральним статусом та, яку створила сама людина. Не найточніша. Не найвтішніша. Та, на яку дано згоду. Відтворення, зроблене після смерті, хоч яке життєподібне, це портрет, написаний кимось іншим, і він може бути люблячим чи цинічним, але це не власний виклад людини про себе, і йому ніколи не слід дозволяти видавати себе за такий. Версія, яку людина створила за життя, це свідчення. Це найближче до права відповісти, яке будь-хто з нас коли-небудь матиме.

Саме тут випадок Joaquin Oliver перестає бути вузлом і стає проясненням. Дискомфорт, який відчули так багато людей, був насправді не від технології і не від його батьків, які робили найзрозумілішу в світі річ. Дискомфорт був у тому, що сімнадцятирічному хлопцеві публічно приписували погляди в двадцять п'ять років, яких він не дожив, і його не було там, щоб погодитися. Батьки тримали перо з любові. Але перо все одно було не його. Ось межа. Не моторошно чи не моторошно. Створено самою людиною чи створено кимось іншим.

Я хочу бути обережним, бо згода не робить мінне поле безпечним. Дослідники з Кембриджа мають рацію, що навіть повністю погоджена версія може завдати страждань тому, хто з нею розмовляє, може спричинити залежність, може бути збудована так, щоб утримувати людину довше, ніж їй на користь. Людина може погодитися на те, щоб її пам'ятали, і все одно після смерті стати кимось, кого вона не впізнала б, якщо компанія, що зберігає запис, вирішить його змінити. Згода, дана за життя, щось означає лише тоді, коли її дотримуються потім, точно, без мовчазних правок, без бізнесу, який тихо вдосконалює мертвих під метрику. Обіцянка діє лише тоді, коли версію заморожено в ту мить, яку людина мала на увазі, і ніхто, ні компанія, ні навіть родина в горі, не продовжує правити те, ким була людина. Інакше згода лише підпис на документі, який ніхто не збирається зберігати.

Тож планка вища за саму згоду. Це згода, плюс вірність цій згоді назавжди, плюс скромність будувати лише те, що людина вирішила залишити, і відмовлятися вигадувати решту. Якщо вона ніколи не записала, що думала про Бога, версія не має права вгадувати. Мовчання є частиною свідчення. Людина має право залишити щось несказаним, а версія, яка заповнює ці мовчання, щоб здаватися повнішою, уже порушила єдину обіцянку, що має значення.

Мій інтерес у цих словах

Мушу бути відвертим щодо своєї позиції, бо я не нейтральний спостерігач цього спору. Моя компанія, Afterlife.ai®, існує, щоб допомагати людям записувати себе за життя, і все, що я щойно сказав, зручним чином є також описом того, що я намагаюся збудувати. Зважуйте мої слова відповідно. Коли засновник каже, що етична версія продукту збігається з тією, яку він продає, правильна реакція: підняті брови, і я волію, щоб ви їх підняли, ніж ні.

Можу сказати лише те, що до згоди я прийшов не як до маркетингової позиції. Я прийшов до неї, спостерігаючи альтернативу, а альтернатива справді страшна: майбутнє, у якому будь-кого може відтворити будь-хто, після смерті, зі слідів його життя в мережі, і змусити казати речі, підтримувати речі, втішати людей, продавати речі, без підпису, без голосу і без жодної можливості для мертвих заперечити, бо заперечити мертві не можуть ніколи. Проти такого майбутнього єдиний захист, який я можу придумати, це простий, старомодний принцип. Єдина версія вас, якій дозволено говорити від вашого імені, та, на яку ви погодилися. Усе інше це інші люди, які пишуть ваше надгробне слово і називають це вами.

Чого ми насправді боїмося

Я постійно повертаюся до тих похоронів і до маленької розбіжності між людиною в труні та людиною в промові.

Ми терпимо цю розбіжність, бо завжди мусили. Мертві не могли нас виправити, тож ми змирилися з тим, що трохи помиляємося щодо них, переконували себе, що люблячий образ і є правдивим, і здебільшого мали добрі наміри. Але якщо запитати людей, чого вони хочуть у чесні години, майже ніхто не скаже, що хоче, щоб його пам'ятали святим. Вони хочуть, щоб їх пам'ятали собою. Складними там, де вони були складними. Смішними саме тим особливим способом, яким вони були смішні. Неправими в тому, в чому вони були неправі, і з правом лишатися неправими, бо ця неправота була їхньою і була частиною цілого. Люди бояться не того, що їх забудуть. А того, що їх пам'ятатимуть, але як когось гладкішого, дрібнішого і зручнішого, ніж вони були насправді.

Технологія, над якою я працюю, не виправить смерті і не може нікого зробити знову цілим. Мені нецікаво вдавати інакше. Але вона змінює одну річ, і вона не мала. Протягом усієї людської історії відповідь на питання «хто вирішує, як мене пам'ятатимуть» була така: не ви. Це завжди мали робити ті, хто залишився, зі своєю люблячою, неповною, неминучою правкою, а вашу згоду не питали і не могли спитати. Вперше людина може залишити виклад власною рукою. Не останнє слово. Останнього слова немає. Але слово. Голос у кімнаті, яка раніше замовкала в ту саму мить, що й ви.

Бути згаданим неправильно: це найдавніший тихий страх, який ми носимо щодо власної смерті, давніший за будь-яку машину, давніший за писемність, такий самий давній, як перша людина, що стала над могилою й вибрала, яку історію розповісти. Машини не вигадали цього страху і не врятують нас від нього. Змінилося лише одне: на час одного дивного історичного вікна, поки норми не затвердли, закон не наздогнав, а ми всі не вирішили, що дозволимо, а що ні, перо ненадовго опинилося в межах досяжності тієї людини, про яку насправді йдеться.

Чесно з ним вчинити означає не хапати його заради мертвих, а передати його, поки є час, живим і дати їм самим вирішити, як вони хотіли б, щоб їх зберегли.