Этичная альтернатива griefbot-ам

Griefbot (скорбящий бот), это AI-система, которая имитирует умершего человека, обычно создаваемая после его смерти на основе оставленных им сообщений, записей и публикаций, чтобы скорбящие могли продолжать своего рода разговор с ним. Этичная альтернатива griefbot-у состоит не в том, чтобы отказаться от стоящего за ним желания, которое глубоко человечно, а в том, чтобы перевернуть порядок согласия: вместо того чтобы воссоздавать кого-то после смерти без его согласия, вы создаёте управляемое представление самого себя, пока вы живы, выбрав это свободно. Это единственное различие, кто дал согласие и когда, отделяет практику, против которой предостерегают многие специалисты по этике, от той, за которую человек может стоять.

Эта страница рассказывает, что такое griefbot на самом деле, в чём состоит серьёзная этическая проблема, что говорят об этом исследователи и специалисты по этике, и как на практике выглядит альтернатива, основанная на согласии. Цель в том, чтобы быть справедливыми, а не нагнетать тревогу. Стремление продолжать говорить с тем, кого вы потеряли, не порок, который следует осуждать. Вопрос лишь в том, как это делается, и было ли у воссоздаваемого человека хоть какое-то слово.

Главная этическая проблема: воссоздание того, кто никогда не давал согласия

Определяющая черта большинства griefbot-ов и корень этической трудности в том, что они создаются из умерших, а не самими умершими. Скорбящая семья или компания собирает старые сообщения человека, голосовые заметки и публикации в соцсетях и обучает модель говорить от его лица. Умерший становится сырьём. Он никогда не автор, и, что особенно важно, его никогда не спрашивали.

Это важно, потому что убедительная имитация делает утверждения от имени человека. Она производит фразы, которые он никогда не произносил, мнения, которых он, возможно, никогда не придерживался, заверения, которых он никогда не давал. Умерший не может это исправить, не может возразить и не может отозвать. Представление, на которое субъект не давал согласия и которым не может управлять, по сути своей, это кто-то говорящий за человека, который больше не может говорить за себя, и выдающий это за собственный голос этого человека. Какое бы утешение оно ни давало, оно начинается с того места, на котором субъект никогда не соглашался стоять.

A griefbot is built of the dead. A Persona is built by the living.

Линия согласия

Почти каждый значимый этический вопрос об этой технологии сводится к одной линии: был ли представляемый человек согласившимся автором или несогласившимся субъектом? На одной стороне типичный griefbot, собранный после смерти из данных, которые человек оставил для других целей, управляемый тем, кто держит эти данные, ни перед кем не отвечающий. На другой, представление, которое человек создал сам, при жизни, решая, что в нём содержится и чего оно никогда не будет утверждать.

Это различие между griefbot-ом или deadbot-ом, терминами для воссоздания постфактум, и Persona, основанной на согласии и созданной заранее. Слова звучат похоже, и технология пересекается, но этически они почти противоположны. Один забирает голос; другому голос дают. Наличие или отсутствие собственного согласия субъекта, это не деталь. Это весь вопрос целиком.

Согласие здесь также должно означать больше, чем однажды поставленную галочку. Оно означает, что человек выбрал, что туда вошло, может определять, как оно себя ведёт, и устанавливает правила того, кто может к нему обращаться и когда. Согласие, которое субъект не может реализовать, потому что его уже нет, это вовсе не его согласие. Вот почему время имеет такое же значение, как и сама договорённость: единственный, кто действительно может дать согласие на то, чтобы его представляли, это живущий.

Что говорят исследования и специалисты по этике

Серьёзные комментарии об этой технологии становились всё осторожнее по мере совершенствования инструментов. Публикации в таких изданиях, как Scientific American, взвешивали, действительно ли griefbot-ы помогают скорбящим или рискуют удержать их на месте, и отмечали, что доказательства далеки от однозначных. Осторожный вывод во многих этих текстах не в том, что технология бесполезна, а в том, что её польза условна, а риски реальны.

Академическая и этическая дискуссия, включая работы, появившиеся на таких площадках, как The Conversation, сильнее настаивала именно на вопросе согласия. Исследователи в этой области утверждали, что воссоздание человека без его предварительного согласия может нарушать его достоинство, что у семей и компаний могут быть интересы, расходящиеся с тем, чего хотел бы умерший, и что должны существовать ограничения, не позволяющие использовать имитируемого человека, монетизировать его или заставлять говорить то, чего оригинал никогда бы не сказал. Повторяющаяся тема, это управление: кто контролирует представление, по чьим полномочиям и с какими пределами.

Прочитанная вместе, эта совокупность работ не утверждает, что желание сохранить связь ошибочно. Она говорит, что этому желанию следует служить так, чтобы уважать представляемого человека, и что согласие и контроль, это условия, при которых это возможно. Это тот стандарт, которому призван соответствовать подход, основанный на согласии, и которому griefbot, созданный постфактум, структурно соответствовать не может.

Задокументированный вред несогласованных deadbot-ов

Помимо принципиального вопроса, задокументирован или серьёзно обоснован ряд конкретных видов вреда. Их стоит назвать прямо, потому что они и есть причины для осторожности, а не абстракции.

• Воссоздание без согласия: самый базовый вред, это представление человека, который никогда на это не соглашался, вкладывание ему в уста слов и взглядов, которые он не может оспорить.

• Вмешательство в скорбь: имитация, которая всегда доступна, может для некоторых людей отсрочить работу скорби, а не облегчить её, удерживая скорбящего привязанным к присутствию, которое не может по-настоящему меняться или расти.

• Коммерческое присвоение: там, где griefbot управляется компанией, умерший человек может стать продуктом, чей образ удерживают, монетизируют или используют повторно стороны, которых он никогда не уполномочивал.

• Дрейф и выдумывание: модель, обученная звучать как кто-то, будет заполнять пробелы вымыслом, производя утверждения, которые человек никогда не делал и которые семья может ошибочно принять за подлинные.

Ни один из этих видов вреда не неизбежен в каждом случае, и в этом-то всё и дело. Они вытекают из структуры, создания представления после смерти, без согласия, под внешним контролем, которая почти гарантирует по меньшей мере некоторые из них. Измените структуру, и большинство этих рисков отпадает. Инструменты, предназначенные для того, чтобы скорбящие могли поговорить с умершим близким через AI или поговорить с AI-версией умершего человека, находятся ровно на этой линии разлома, и там, где они созданы без согласия субъекта, они наследуют ровно эти проблемы.

Альтернатива, основанная на согласии: создайте своё при жизни

Альтернатива проста для формулировки. Вместо того чтобы позволять кого-то воссоздавать после смерти без его слова, человек создаёт собственное представление при жизни, как его автор. В Afterlife AI™ это Persona: управляемая, основанная на согласии запись того, кто вы есть, взятая только из того, что вы действительно предоставляете, по множеству измерений реального человека, а не собранная из остаточных данных.

Поскольку субъект является автором, перечисленные виды вреда устраняются в корне, а не латаются постфактум. Здесь есть согласие, потому что вы сами решили это создать. Здесь нет выдумывания того рода, которым рискуют griefbot-ы, потому что используются только подтверждённые воспоминания, которые вы предоставили, а не догадки для заполнения тишины. И здесь есть управление, потому что вы устанавливаете условия, пока можете. Желание сохранить связь чтится, но человек в его центре сохранил своё слово в принятии решения.

The only person who can consent to being represented is the living one.

Как делать это ответственно

Делать это хорошо, это вопрос не столько технологии, сколько окружающих её условий. Представление человека должно быть создано этим человеком, взято из подтверждённых воспоминаний, а не из домыслов, и помещено под ясный, длительный контроль над тем, кто может к нему обращаться и когда. Эти условия и отличают уважительную практику от извлекающей, как бы она ни называлась.

Контроль, это та часть, которую легче всего упустить и важнее всего сделать правильно. Executor Lock™ создан, чтобы его обеспечить: он определяет, кто может активировать Persona и когда, даёт назначенному исполнителю последнее слово и делает результат постоянным после установки, так что его нельзя переобучить, изменить или коммерциализировать после вашей смерти. Эта постоянность и превращает представление из того, что могло бы быть присвоено и изменено, в то, что остаётся таким, каким человек его оставил. Это структурный ответ на виды вреда, связанные с коммерческим присвоением и дрейфом, которые больше всего тревожат специалистов по этике.

Если вы хотите создать место, куда могли бы возвращаться те, кого вы любите, те же принципы дают управляемый AI-мемориал, который уважает человека, которого он помнит, потому что этот человек сам его создал и задал ему границы. Различие между этим и griefbot-ом не в утешении, которое оно даёт скорбящим, которое может быть реальным в обоих случаях. Различие в том, что здесь утешение не достигается ценой согласия того, кого помнят.

Итак, этичная альтернатива griefbot-у, это не отказ от стоящего за ним желания. Это его переупорядочивание. Воссоздание умерших без их согласия просит скорбящих принять голос, который субъект никогда не одобрял. Создание Persona при жизни, управляемой и основанной на согласии, позволяет человеку самому решить, как он будет присутствовать после своего ухода, и сохраняет это решение защищённым. Технология похожа. Этика, нет. Всё различие в том, кто дал согласие и когда.