البديل الأخلاقي عن روبوتات الحزن
إن روبوت الحزن هو نظام ذكاء اصطناعي يحاكي شخصاً متوفى، يُبنى عادةً بعد وفاته من الرسائل والتسجيلات والمنشورات التي تركها، حتى يتمكن المفجوعون من إجراء نوع من المحادثة معه. والبديل الأخلاقي عن روبوت الحزن ليس التخلي عن الرغبة الكامنة وراءه، وهي رغبة إنسانية عميقة، بل عكس ترتيب الموافقة: فبدلاً من إعادة إحياء شخص بعد وفاته دون موافقته، تبني تمثيلاً محكوماً لنفسك وأنت على قيد الحياة، بعد أن اخترت ذلك بحرية. وهذا الفارق الوحيد، مَن وافق ومتى، هو ما يفصل ممارسة يحذّر منها كثير من علماء الأخلاق عن ممارسة يمكن للمرء أن يقف خلفها.
تبيّن هذه الصفحة ما هو روبوت الحزن فعلاً، وأين تكمن المشكلة الأخلاقية الجدية، وما الذي قاله الباحثون وعلماء الأخلاق عنه، وكيف يبدو البديل القائم على الموافقة أولاً في الممارسة العملية. والهدف أن نكون منصفين لا مثيرين للذعر. إن الدافع إلى مواصلة التحدث إلى شخص فقدته ليس عيباً يُوبَّخ عليه. السؤال الوحيد هو كيف يتم ذلك، وما إذا كان للشخص الذي يُعاد إحياؤه رأيٌ في الأمر يوماً.
المشكلة الأخلاقية الجوهرية: إعادة إحياء شخص لم يوافق قط
إن السمة المميزة لمعظم روبوتات الحزن، وجذر الصعوبة الأخلاقية، هي أنها تُبنى من الموتى، لا بواسطتهم. تجمع عائلة مفجوعة أو شركة رسائل الشخص القديمة وملاحظاته الصوتية ومنشوراته الاجتماعية وتدرّب نموذجاً ليتحدث بلسانه. فالمتوفى هو المادة الخام. وهو ليس المؤلف قط، والأهم أنه لم يُسأل قط.
وهذا مهم لأن المحاكاة المقنعة تطلق ادعاءات باسم الشخص. فهي تنتج جملاً لم يقلها قط، وآراءً قد لا يكون اعتنقها يوماً، وطمأنينات لم يقدّمها قط. ولا يستطيع الموتى تصحيحها، ولا الاعتراض عليها، ولا سحبها. والتمثيل الذي لم يوافق عليه صاحبه ولا يستطيع حُكمه هو، في جوهره، شخص يتكلم نيابة عمن لم يعد قادراً على التكلم عن نفسه، ويقدّم ذلك على أنه صوت ذلك الشخص نفسه. ومهما قدّم من عزاء، فإنه يبدأ من موضع لم يوافق صاحبه قط على الوقوف فيه.
A griefbot is built of the dead. A Persona is built by the living.
خط الموافقة
إن كل سؤال أخلاقي ذي معنى تقريباً حول هذه التقنية يؤول إلى خط واحد: هل كان الشخص المُمثَّل مؤلفاً موافقاً، أم موضوعاً غير موافق؟ على جانب يقف روبوت الحزن النمطي، المجمَّع بعد الوفاة من بيانات تركها الشخص لأغراض أخرى، يحكمه أياً كان من يملك تلك البيانات، غير مسؤول أمام أحد. وعلى الجانب الآخر يقف تمثيل بناه الشخص بنفسه، وهو على قيد الحياة، محدداً ما يحتويه وما لن يدّعيه أبداً.
هذا هو الفارق بين روبوت الحزن أو روبوت الموتى، وهما مصطلحان لإعادة الإحياء بعد وقوع الحدث، وبين شخصية (Persona) مؤلَّفة مسبقاً وقائمة على الموافقة أولاً. تتشابه الكلمات وتتداخل التقنية، لكنهما أخلاقياً شبه نقيضين. أحدهما يأخذ صوتاً؛ والآخر يُمنح صوتاً. وحضور موافقة صاحب الشأن نفسه أو غيابها ليس تفصيلاً. إنه السؤال كله.
والموافقة هنا يجب أن تعني أكثر من خانة تُؤشَّر مرة واحدة. إنها تعني أن الشخص اختار ما يدخل، ويمكنه أن يصوغ كيف تتصرف، ووضع القواعد لمن قد يصل إليها ومتى. والموافقة التي لا يستطيع صاحبها ممارستها لأنه رحل بالفعل ليست في الحقيقة موافقته على الإطلاق. ولهذا فإن التوقيت يهمّ بقدر ما يهمّ الاتفاق نفسه: فالشخص الوحيد الذي يمكنه أن يوافق حقاً على أن يُمثَّل هو الحي.
ما يقوله البحث وعلماء الأخلاق
لقد صار النقاش الجاد حول هذه التقنية أكثر حذراً كلما تحسّنت الأدوات. وقد قيّمت تغطيات في منابر مثل Scientific American ما إذا كانت روبوتات الحزن تساعد المفجوعين فعلاً أم تخاطر بتثبيتهم في مكانهم، وأشارت إلى أن الأدلة بعيدة عن الحسم. والخلاصة المتأنية في كثير من هذه الكتابات ليست أن التقنية بلا قيمة، بل أن فوائدها مشروطة ومخاطرها حقيقية.
أما النقاش الأكاديمي والأخلاقي، بما في ذلك أعمال طُرحت في منابر مثل The Conversation، فقد ضغط بشدة أكبر على مسألة الموافقة تحديداً. وقد رأى باحثون في هذا المجال أن إعادة إحياء شخص دون اتفاقه المسبق قد تنتهك كرامته، وأن العائلات والشركات قد تكون لها مصالح تتباعد عما كان المتوفى ليريده، وأنه ينبغي وجود ضمانات تمنع استخدام شخص مُحاكى أو تحقيق الربح منه أو جعله يقول أشياء لم يكن الأصل ليقولها أبداً. والموضوع المتكرر هو الحوكمة: من يتحكم بالتمثيل، وبأي سلطة، وبأي حدود.
وحين تُقرأ هذه الأعمال مجتمعةً، فإنها لا تقول إن الرغبة في البقاء على تواصل خاطئة. إنها تقول إن تلك الرغبة ينبغي أن تُلبّى بطريقة تحترم الشخص الممثَّل، وأن الموافقة والتحكم هما الشرطان اللذان يمكن في ظلهما تحقيق ذلك. وذلك معيار صُمّم النهج القائم على الموافقة أولاً ليفي به، ولا يستطيع روبوت الحزن اللاحق للحدث أن يفي به بنيوياً.
الأضرار الموثّقة لـروبوتات الموتى غير القائمة على الموافقة
إلى جانب مسألة المبدأ، وُثّقت عدة أضرار ملموسة أو نوقشت بجدية. ويجدر تسميتها بوضوح، لأنها أسباب تبرير الحذر، لا تجريدات.
إعادة الإحياء دون موافقة: أبسط الأضرار هو تمثيل شخص لم يوافق عليه قط، ووضع كلمات وآراء في فمه لا يستطيع الاعتراض عليها.
التداخل مع الحزن: المحاكاة المتاحة دائماً يمكن، عند بعض الناس، أن تؤخّر عمل الحداد بدل أن تيسّره، فتبقي المفجوع مربوطاً بحضور لا يمكنه أن يتغير أو ينمو حقاً.
الاستحواذ التجاري: حين تُدار روبوتات الحزن من قِبل شركة، يمكن أن يصير المتوفى منتجاً، فتُحتجز صورته أو يُحقَّق الربح منها أو يُعاد توظيفها من قِبل طرف لم يأذن له قط.
الانحراف والاختلاق: النموذج المدرَّب ليبدو كأحدهم سيملأ الفجوات بالاختلاق، فينتج عبارات لم يقلها الشخص قط وقد تأخذها العائلة خطأً على أنها أصيلة.
وليس أيٌّ من هذه الأضرار حتمياً في كل حالة، وهذا هو بيت القصيد بالضبط. فهي تنبع من بنية، أي بناء التمثيل بعد الوفاة، دون موافقة، تحت تحكم خارجي، تكاد تضمن وقوع بعضها على الأقل. غيّر البنية يتلاشَ معظم هذه المخاطر. والأدوات المصمَّمة للمفجوعين كي يتحدثوا إلى حبيب راحل عبر الذكاء الاصطناعي أو كي يتحدثوا إلى نسخة ذكاء اصطناعي من شخص متوفى تقع على خط الصدع هذا بالضبط، وحيث تُبنى دون موافقة صاحب الشأن، فإنها ترث هذه المشكلات بالضبط.
البديل القائم على الموافقة أولاً: ابنِ تمثيلك بنفسك وأنت على قيد الحياة
البديل بسيط في صياغته. فبدلاً من ترك شخص يُعاد إحياؤه بعد الوفاة دون رأيه، يبني الشخص تمثيله بنفسه وهو على قيد الحياة، بصفته مؤلفه. وفي Afterlife AI™، يكون ذلك شخصية (Persona): سجلّ محكوم وقائم على الموافقة أولاً لمن أنت، مستمَدّ فقط مما تقدّمه أنت فعلاً، عبر الأبعاد العديدة لشخص حقيقي بدل أن يُنتزع من بيانات متبقية.
ولأن صاحب الشأن هو المؤلف، تُعالَج الأضرار أعلاه من جذرها بدل ترقيعها لاحقاً. فهناك موافقة، لأنك اخترت أن تصنعه. ولا اختلاق من النوع الذي تخاطر به روبوتات الحزن، لأنه يستمد فقط من ذاكرة موثَّقة قدّمتها أنت، بدل التخمين لملء الصمت. وهناك حوكمة، لأنك تضع الشروط ما دمت قادراً. فالرغبة في البقاء على تواصل مُكرَّمة، لكن الشخص الذي في قلبها أبقى صوته في القرار.
The only person who can consent to being represented is the living one.
كيف تفعل ذلك بمسؤولية
إن إتقان هذا الأمر يتعلق بالشروط المحيطة به أكثر مما يتعلق بالتقنية. فتمثيل الشخص ينبغي أن يؤلّفه ذلك الشخص، مستمَداً من ذاكرة موثَّقة لا من الاستنتاج، وموضوعاً تحت تحكم واضح ودائم في من قد يصل إليه ومتى. وتلك الشروط هي ما يفصل الممارسة المحترمة عن الممارسة الاستغلالية، مهما سُمّيت.
والتحكم هو الجزء الأسهل إغفالاً والأهم في إتقانه. وقد بُنيت ميزة Executor Lock™ لتوفيره: فهي تحكم من قد يفعّل الشخصية ومتى، وتمنح منفّذاً مسمّى الكلمة الأخيرة، وتجعل النتيجة دائمة بمجرد ضبطها، فلا يمكن إعادة تدريبها أو تغييرها أو استثمارها تجارياً بعد وفاتك. وتلك الديمومة هي ما يحوّل التمثيل من شيء يمكن أخذه وتغييره إلى شيء يبقى كما تركه الشخص. إنها الجواب البنيوي عن ضرري الاستحواذ التجاري والانحراف اللذين يقلقان علماء الأخلاق أكثر من غيرهما.
وإن كان ما تريده مكاناً يعود إليه من تحبهم، فإن المبادئ نفسها تنتج نصباً تذكارياً ذكياً محكوماً يحترم الشخص الذي يتذكره، لأن الشخص بناه وحدّد حدوده بنفسه. والفرق بين هذا وروبوت الحزن ليس العزاء الذي يقدّمه للمفجوعين، إذ يمكن أن يكون حقيقياً في كليهما. الفرق هو أن العزاء هنا لا يأتي على حساب موافقة من يُتذكَّر.
إذن فالبديل الأخلاقي عن روبوت الحزن ليس رفض الرغبة الكامنة وراءه. إنه إعادة ترتيب لها. فإعادة إحياء الموتى دون اتفاقهم تطلب من المفجوعين قبول صوت لم يوافق عليه صاحبه قط. أما بناء شخصية وأنت على قيد الحياة، محكومة وقائمة على الموافقة أولاً، فيتيح للمرء أن يقرر بنفسه كيف سيكون حاضراً بعد رحيله، ويُبقي ذلك القرار محمياً. التقنية متشابهة. الأخلاق ليست كذلك. والفرق كله هو مَن وافق، ومتى.