Есть правильный и неправильный способ создать ИИ человека. Вся разница в согласии.
Есть правильный и неправильный способ создать ИИ, который звучит как близкий вам человек, и вся разница в согласии, данном, пока человек жив. ИИ, который он собрал из собственных воспоминаний, согласившись, что его будут помнить именно так, это выбранный им образ. ИИ, собранный из данных умершего, который никогда не соглашался, у него отнят. Согласие и есть граница, и провести её можно только с одной стороны.
В день, когда Joaquin Oliver исполнилось бы двадцать пять, журналист сел взять у него интервью. Joaquin умер семь лет назад. Ему было семнадцать, когда его убили во время стрельбы 2018 года в школе Marjory Stoneman Douglas High School в Паркленде, штат Флорида; он был одним из семнадцати человек, убитых в тот день. Его родители все эти годы борются за прекращение насилия с оружием и создали ИИ-версию сына, чтобы его голос звучал в борьбе, к которой он сам уже не может присоединиться. 4 августа 2025 года бывший ведущий CNN Jim Acosta опубликовал запись разговора с этим ИИ, и реакция была мгновенной и яростной (TheWrap, 5 августа 2025).
Мне важно аккуратно разобраться, почему она была яростной, потому что лёгкие причины неверны, а неверные причины приведут нас к запрету не того, что нужно. Ярость вызвали не грубость технологии, не то, что горе личное, и не то, что родители были кем-то иным, кроме убитых горем людей, делающих то, что такие люди делали всегда: отказываются тихо отпускать ребёнка. Ярость вызвало то, что семнадцатилетний подросток не может согласиться стать чат-ботом, а его всё равно сделали им, люди, которые его любили, ради дела, которое он вполне мог разделять. Любовь была. Горе было. Структурно и навсегда отсутствовал только один: сам Joaquin. Это эссе об этом отсутствии, потому что в нём весь аргумент.
В чём на самом деле разница между правильным и неправильным способом создать ИИ человека?
Возьмите два ИИ, которые ведут себя одинаково. Оба говорят с интонациями человека. Оба знают семейные истории. Обоим можно задать вопрос, и они ответят так, как ответил бы он. Снаружи, на уровне интерфейса, их не отличить. И всё же один из них создан как акт авторства, а другой как акт присвоения, и сколько ни изучай результат, понять, где что, невозможно. Разница не в модели. Она в истории того, как модель появилась.
Киберпсихолог Elaine Kasket, приглашённый профессор Центра изучения смерти и общества Университета Бата (University of Bath), формулирует главный вопрос всей области в девяти английских словах: «Соглашался ли умерший, прямо или косвенно, стать чат-ботом?» (Elaine Kasket, "What Are Grief Bots?"). Она предупреждает, что без чётких правил «мы рискуем создать цифровую загробную жизнь, в которой умерших переделывают, монетизируют или придумывают заново без их воли и без осознанного согласия их близких». Прочтите эту фразу медленно. Переделывают. Монетизируют. Придумывают заново. Так поступают с вещью. Так не поступают с человеком, который всё ещё в комнате.
Вот это различие, сказанное как можно проще. ИИ человека, построенный по принципу «сначала согласие», строят вперёд, живые, как решение. Человек садится, выбирает, что записать, выбирает, что оставить за скобками, и заранее, письменно соглашается, что после смерти его будут помнить так. ИИ, собранный из оставленных данных, строят назад, снаружи, после смерти, из сообщений, голосовых и лент, которые человек оставил для других целей, и кто-то решает за него, что он бы этого хотел. Первое похоже на завещание. Второе на догадку в наряде дани памяти.
Результат может быть одинаковым. Этика никогда. Один образ написал сам человек. Другой написали о нём.
Это с каждым годом важнее, потому что угадывать становится легче и дешевле. Инструменты, для которых раньше нужна была исследовательская лаборатория, теперь требуют одного вечера, а желающих угадывать за вас становится всё больше.
Этика AI Persona умерших в цифрах (по состоянию на июль 2026)
Этот спор не гипотетический и не маргинальный. Это действующая индустрия, к которой тянется растущая научная литература с требованием отчёта. Вот честная картина, с источниками.
Больше полудюжины платформ сейчас предлагают воссоздавать умерших в виде интерактивного ИИ, сообщает обзорная статья в одном из ведущих научных журналов мира (Nature, сентябрь 2025). Сторонники говорят, что это утешает скорбящих; скептики говорят, что это осложняет горевание. Верно может быть и то и другое.
Одно рецензируемое исследование проанализировало шесть таких сервисов поимённо: Seance AI, Eternos, You Only Virtual, HereAfter AI, Project December и re;memory, изучив допущения о том, как вправе выглядеть «нормальное» горе (ScienceDirect, январь 2026).
Самая цитируемая этическая работа в этой области, написанная исследователями из Кембриджа, описывает три разных сценария создания таких систем, от человека, передающего свои данные, до компании, которая воссоздаёт человека по тому, что он оставил, и рекомендует взаимное согласие, защиту достоинства и достойные способы «выключить» бота (Hollanek и Nowaczyk-Basińska, Philosophy & Technology, 9 мая 2024).
Эта практика старше нынешней волны ИИ. Project December, один из первых сервисов, позволивших создавать чат-ботов умерших, запустился в сентябре 2020 года на ранней большой языковой модели, стал вирусным после того, как мужчина воссоздал с его помощью симуляцию покойной невесты, и вскоре поставщик ограничил доступ к лежащей в основе модели (The Register, 8 сентября 2021).
Массовая научная журналистика теперь считает этот вопрос постоянной темой, а не диковинкой: материал ноября 2025 года взвешивал, помогают ли такие системы скорбящим исцеляться, опросив терапевтов и философов по обе стороны (Scientific American, 18 ноября 2025).
Обратите внимание, к чему сходится эта литература. Не «запретить». Не «строить свободно». Слово, которое повторяется из работы в работу: согласие. Область уже нашла несущую стену. Спорят лишь о том, станет ли кто-нибудь на ней строить.
Почему согласие живого человека меняет всё?
Потому что умершие не могут возразить, а право, которым нельзя воспользоваться, не является правом. Это асимметрия, лежащая под каждым трудным случаем. Если создать ИИ живого человека, не спросив его, он может узнать об этом, ужаснуться и заставить вас остановиться. Если создать ИИ умершего, не спросив, не остаётся никого, кто мог бы сказать нет. Его молчание не означает согласия. Проблема именно в этом молчании.
В специальной этической работе о гриф-ботах (чат-ботах, имитирующих умерших) утверждается, что согласие должно охватывать три отдельных действия, а не одно: согласие на создание Persona, согласие на её дальнейшее использование и согласие на её удаление, плюс отдельное согласие на использование образа и голоса человека (ScienceDirect, 2026). Подумайте, сколько из этого умершие дать не могут. Человек, воссозданный после смерти, не согласился ни на что. Ни на создание, ни на работу, ни на конец, ни на лицо, ни на голос. Каждое из этих решений приняли за него, стоя вне его жизни и читая её как книгу, которую он не соглашался публиковать.
Исследователи из Кембриджа описывают вред через достоинство. Katarzyna Nowaczyk-Basinska говорит: «Важно ставить достоинство умершего на первое место и следить, чтобы ему не угрожали финансовые мотивы сервисов цифровой загробной жизни» (University of Cambridge, 9 мая 2024, по материалам SciTechDaily). Достоинство как раз то слово, которое нужно, потому что достоинство защищает согласие. Человек, пожелавший, чтобы его помнили определённым образом, сохраняет достоинство и внутри машины, потому что машина исполняет его волю. Человеку, воссозданному против его воли или просто без неё, достоинство определил комитет, в который его не приглашали.
Умершие не могут дать согласие. Это не формальность, которую можно обойти. Это причина, по которой существует весь вопрос.
Вот почему случай в Паркленде трудный, а не чистый. Родители Joaquin не злодеи, и я не стану делать вид, что это не так, ради более аккуратного довода. Они действовали из горя и из убеждённости. Но Persona несовершеннолетнего, который не соглашался, созданная и озвученная после его смерти для отстаивания позиции, не может черпать полномочия из Joaquin, потому что он их не давал. Она может черпать их только у его родителей, и стоит это признать, как «интервью» становится тем, чем оно на самом деле является: посланием его родителей его украденным голосом. Возможно, это послание стоит услышать. Но оно всё равно не его.
Но разве гриф-бот, который по-настоящему утешает скорбящего, не хорошая вещь?
Это самое сильное возражение всему, что я написал, и я хочу изложить его в полную силу, а не разбивать слабую версию. Горе не проблема, которую нужно решить, но это рана, и утешение немало значит. Терапевты, опрошенные в недавних материалах, рассказывают о пациентах, нашедших настоящее облегчение в ещё одном разговоре, в ещё одной возможности сказать несказанное (Scientific American, 18 ноября 2025). Некоторые исследователи, изучавшие пожилых и одиноких скорбящих, обнаружили, что такое общение уменьшало одиночество. Если вдова двадцать минут слушает знакомую манеру речи и встаёт с облегчением, то кто же я, да и любой этик, чтобы говорить ей, что она поступила неправильно. Это серьёзный вопрос, и он заслуживает серьёзного ответа, а не лозунга.
Вот честная уступка. Утешение настоящее, а огульное осуждение любого гриф-бота остаётся удобной позицией тех, кто сам не скорбит. Отказ от этого утешения из принципа тоже может быть своего рода жестокостью.
И всё же утешение живых не отвечает и не может ответить на вопрос о согласии воссоздаваемого человека, потому что это два разных человека с двумя разными правами. Потребность скорбящего реальна. Отсутствие согласия умершего тоже реально. Когда они сталкиваются, «но мне это помогает» говорит о благополучии скорбящего, а этическое возражение никогда не было о благополучии скорбящего. Оно было о том, вправе ли мы загонять кого-то в представление, на которое он никогда не пробовался, как бы сильно его игра нас ни успокаивала. Слишком совершенная копия, созданная под нашу потребность, тихо подменила человека самой потребностью. Утешение подлинное. Но когда согласия не было, оно также куплено ценой чужого достоинства, а тот, кто платит, голоса не имеет, потому что он мёртв.
Есть и ещё одна цена, которую скорбящие в итоге платят сами. Некоторые клиницисты и авторы теперь опасаются, что бот, всегда доступный, позволяет скорбящему держать отношения внешними и действующими вместо более трудной внутренней работы: позволить умершему стать воспоминанием (Nature, сентябрь 2025). Я отношусь к этому опасению осторожно, потому что исследований пока мало, а горе бывает разным. Но оно указывает на ту же линию разлома с другой стороны. Persona, которую человек создал для вас, довёл до конца и запечатал, это завершённый подарок, к которому можно возвращаться. Persona, которую вы генерируете снова и снова, вечно, по требованию, с помощью модели, отвечающей на всё, что бы вы ни спросили, это дверь, которую вы подперли, открыв её в комнату, из которой человек уже ушёл.
А как быть с теми, кто получает сообщение?
Согласие, как выясняется, имеет две стороны, и самое острое наблюдение в этой области в том, что вторую мы всё время забываем. Соглашаться должен не только воссоздаваемый человек. Соглашаться должен и тот, кто на другом конце разговора, тот, к кому Persona будет обращаться.
Tomasz Hollanek, один из кембриджских авторов, говорит прямо: «Крайне важно, чтобы сервисы цифровой загробной жизни учитывали права и согласие не только тех, кого они воссоздают, но и тех, кому придётся взаимодействовать с симуляциями» (University of Cambridge, 9 мая 2024). Он предупреждает о том, что называет «нежелательными цифровыми призраками», и это выражение стоит запомнить. Представьте Persona, которую скорбящий родитель создал для ребёнка, а затем завещал брату или сестре, которые этого не хотели, и теперь они получают сообщения от умершего брата, о котором ещё учились горевать. Представьте сервис, который поддерживает Persona активной, а подписку живой, присылая время от времени непрошеные сообщения, потому что вовлечённость и есть бизнес-модель, а молчащий бот не продлевается.
Здесь добрые намерения расходятся с дурными стимулами. Persona, созданная с мыслью о получателе, переданная бережно, в момент, который выбрал живой получатель, уважает оба согласия. Persona, навязанная людям, запускающаяся сама в момент острого горя, вытягивающая внимание, потому что этого требует таблица, не уважает ни одного. Ничто в наследии не должно приходить как засада. Правило, которого я держусь, и скажу прямо, что ни одна научная работа не формулирует его этими словами, поэтому предлагаю его как наш принцип проектирования, а не как цитируемый вывод, таково: ничто в контексте горя не должно запускаться само, и ни одно сообщение от умершего не должно приходить без приглашения. Каждая встреча должна быть выбранным касанием. Подарок предлагают. Лишь призрака навязывают.
У согласия две стороны. Воссоздаваемый человек должен согласиться говорить. Слушающий должен согласиться слышать.
Сложите два согласия, и получится весь этический тест, который можно применять на практике. Соглашался ли человек, пока был жив, чтобы его помнили так? И волен ли тот, кто получает Persona, принять её на своих условиях, в своё время, или уйти? Если оба ответа «да», перед вами подарок. Если хотя бы один «нет», перед вами нечто, отнятое у одного человека и навязанное другому, сколько бы любви ни было в комнате, когда это создавали.
Какому стандарту обязана компания, строящая всё на согласии
Я работаю в этой индустрии, поэтому скажу, каким, по-моему, должен быть стандарт, зная, что вручаю вам точную мерку, по которой можно проверять мою собственную компанию. В этом и смысл. Стандарт, по которому нельзя спросить с того, кто его называет, не стандарт, а маркетинг.
Вот что, по моему убеждению, любая серьёзная компания, строящая всё на согласии, должна человеку, которого она воссоздаёт. Persona должна создаваться живым человеком, намеренно, из того, что он сам решил включить, и никогда не собираться из данных умершего и не составляться снаружи. Согласие должно быть явным, задокументированным и конкретным: на создание, на использование, на голос и на то, что произойдёт после смерти. Пожелания человека, раз выраженные, должны соблюдаться, а не тихо переписываться позже родственником, наследником или самой компанией. И всё это должно быть устроено так, чтобы восприниматься как подарок, а не навязываться как призрак: по выбору, без автозапуска, без использования для вытягивания внимания скорбящего.
Именно поэтому Afterlife.ai® устроен так, как устроен, и поэтому мы говорим нет там, где проще было бы сказать да. Ваша Persona создаётся только вами, пока вы живы, из воспоминаний, которые вы сами решаете добавить, по одному решению за раз. Мы не создаём Persona никого снаружи после его смерти, потому что согласиться уже некому, а Persona без согласия как раз то, против чего направлено это эссе. Голос сохраняется с помощью профессиональной голосовой технологии и только с вашего собственного голоса, с вашего явного согласия, что он может звучать после вашего ухода, согласия, данного, пока вы ещё можете его дать или отказать. А Executor Lock™ существует, чтобы ответить на вопрос, на который не могут ответить сервисы, собирающие данные умерших: в выбранный вами момент созданная вами запись запечатывается как точный снимок того, кем вы были. Каждый последующий разговор опирается только на эту запечатанную запись, и ваш душеприказчик управляет доступом, но не может переписать, кем вы были. Ваше согласие, замороженное. Ваше достоинство, сохранённое.
Я назову пределы так же прямо, потому что компания, перечисляющая только то, что умеет, что-то продаёт. Мы не можем воссоздать человека, который не создавал себя сам. Мы не можем восстановить голос, который никогда не записывался с согласия. Мы не можем обещать, что какой-либо ИИ, включая наш, заменяет человека, и не станем делать вид, что это так; Persona это живой образ, который создал сам человек, а не вернувшийся человек. Если вам нужна более полная версия того, почему создавать ИИ о себе, пока вы живы, единственный вариант, который вы вправе дать, мы отдельно написали довод в пользу создания ИИ самого себя. А если хотите увидеть по пунктам, чем подход с согласием отличается от гриф-ботов, вокруг которых ходит это эссе, это сравнение находится на отдельной странице.
Что делать, пока вы живы?
Неудобный ответ: правильный ИИ о вас может создать только вы сами, и сделать это можно только сейчас, пока вы ещё можете выбирать, что туда войдёт, и соглашаться на то, как это будет использоваться. Каждый трудный случай в этом эссе существует потому, что кто-то ждал, пока человек уже не сможет дать согласие, а потом любил его так сильно, что всё равно пошёл дальше.
Поэтому практический шаг не в том, чтобы бояться технологии или зарекаться от неё. Он в том, чтобы вынуть решение из рук семьи и положить в свои, туда, где живёт согласие. Решите, пока вы здоровы, хотите ли вы вообще, чтобы вас помнили так, потому что право сказать нет так же входит в согласие, как право сказать да. Если хотите, создайте это сами, осознанно, из того, что вы действительно хотите передать, и определите условия на время после вашего ухода, а не оставляйте их на угадывание. Если вы взвешиваете, безопасно ли вообще заниматься голосовой частью, мы прямо написали о том, безопасно ли клонирование голоса и где на самом деле лежат риски. А поскольку эти решения не заканчиваются созданием Persona, стоит понять, кому на самом деле принадлежит ваша цифровая загробная жизнь, когда вас уже не будет, чтобы ею управлять.
Случай в Паркленде будут продолжать цитировать, и это правильно, потому что он честная граница всего этого вопроса: место, где любовь и согласие разошлись, и любовь пошла дальше одна. Урок не в том, что его родители сделали что-то чудовищное. Урок в том, что сделать этот ИИ законным мог только Joaquin, и сделать это он мог только пока был жив. Это окно не откроется снова. Для вас оно открыто прямо сейчас и только сейчас, и это единственное, с чем согласны все этики, все суды и все честные создатели в этой области: решение принадлежит человеку, и человек должен быть жив, чтобы его принять.
Создайте ту версию себя, на которую вы согласны. Тогда вам никогда не придётся оставлять этот вопрос людям, которые любили вас слишком сильно, чтобы спросить.
Часто задаваемые вопросы
Что делает AI Persona умершего этичной или неэтичной?
Разделяющая линия: согласие воссоздаваемого человека, данное при жизни. ИИ, созданный самим живым человеком, который выбрал, что включить, и заранее согласился, что его будут помнить так, этичен, потому что его полномочия идут от самого человека. ИИ, собранный из сообщений и голоса умершего после его смерти, как бы любяще ни было намерение, не может черпать полномочия у того, кто не соглашался. Поведение двух может выглядеть одинаково; этика никогда. Согласие, как утверждают и кембриджские исследователи, и Elaine Kasket, и есть несущий принцип этой области.
Неправильно ли скорбящим семьям пользоваться гриф-ботами ради утешения?
Не так просто, нет. Утешение настоящее, а огульно осуждать легко тем, кто сам не скорбит. Этическое возражение уже и острее: утешение живых не отвечает на вопрос о согласии воссоздаваемого человека, потому что это два разных человека с двумя разными правами. Persona, которую человек создал и запечатал сам, даёт утешение, не отнимая ни у кого достоинства. ИИ, воссозданный из умершего, который не соглашался, даёт то же утешение за чужой счёт, и этот человек не может возразить, потому что его нет.
Можно ли создать ИИ человека, который уже умер?
Технически да, и больше полудюжины сервисов это предлагают (Nature, сентябрь 2025). С этической точки зрения это та самая практика, против которой направлено это эссе, потому что умерший человек не может согласиться ни на что: ни на создание, ни на голос, ни на дальнейшее использование, ни на конец. Поэтому Afterlife AI™ позволяет создать Persona только о себе, пока вы живы. Правильный ИИ о вас может написать только вы сами, и это ещё одна причина начинать сейчас, а не оставлять это людям, которые однажды пожалеют, что не могут спросить.
Кто должен соглашаться, только воссоздаваемый человек?
Обе стороны. Воссоздаваемый человек должен при жизни согласиться, чтобы его помнили так. Но кембриджские исследователи подчёркивают второе согласие, о котором легко забыть: тот, кто будет общаться с Persona, должен быть вправе принять её на своих условиях или отказаться. Tomasz Hollanek предупреждает о «нежелательных цифровых призраках», когда Persona навязывают людям, которые о ней не просили. Наследие, переданное бережно, в момент, который выбрал получатель, уважает оба согласия. То, что запускается само или приходит без приглашения, не уважает ни одного.
Чем Afterlife AI™ отличается от гриф-бота?
Гриф-бот обычно создаётся после смерти, снаружи, из данных, которые человек оставил для других целей. Persona в Afterlife AI™ создаётся вами, пока вы живы, из воспоминаний, которые вы выбираете сознательно, с вашего явного согласия на то, как ваш голос и образ могут использоваться после вашего ухода. Затем Executor Lock™ запечатывает, кто вы есть, в выбранный вами момент, чтобы никто не мог переписать вас позже. Мы не создаём Persona умерших снаружи. Полное сравнение находится на нашей странице об этичной альтернативе гриф-ботам, а тарифы указаны на странице цен.