Griefbots का नैतिक विकल्प

एक griefbot एक AI प्रणाली है जो किसी मृत व्यक्ति की नकल करती है, जिसे आमतौर पर उनकी मृत्यु के बाद उनके छोड़े गए संदेशों, रिकॉर्डिंग्स, और पोस्ट से बनाया जाता है, ताकि शोकग्रस्त लोग उनके साथ एक तरह की बातचीत जारी रख सकें। एक griefbot का नैतिक विकल्प इसके पीछे की इच्छा को त्यागना नहीं है, जो गहराई से मानवीय है, बल्कि सहमति के क्रम को उलट देना है: किसी को मृत्यु के बाद उनकी रज़ामंदी के बिना फिर से रचने के बजाय, आप जीते-जी अपना एक नियंत्रित प्रतिरूप बनाते हैं, जिसे आपने स्वतंत्र रूप से चुना है। वही एक अंतर, कि सहमति किसने और कब दी, उस प्रथा को, जिसके ख़िलाफ़ कई नीतिशास्त्री चेतावनी देते हैं, उस प्रथा से अलग करता है जिसके पीछे एक व्यक्ति खड़ा हो सकता है।

यह पृष्ठ बताता है कि एक griefbot असल में क्या है, गंभीर नैतिक समस्या कहाँ है, शोधकर्ताओं और नीतिशास्त्रियों ने इसके बारे में क्या कहा है, और व्यवहार में एक सहमति-आधारित विकल्प कैसा दिखता है। उद्देश्य भयभीत करने के बजाय निष्पक्ष रहना है। किसी खोए हुए व्यक्ति से बात करते रहने की इच्छा कोई दोष नहीं है जिसके लिए डाँटा जाए। सवाल केवल यह है कि यह कैसे किया जाता है, और क्या जिस व्यक्ति को फिर से रचा जा रहा है उसकी कभी कोई राय ली गई थी।

मूल नैतिक समस्या: किसी ऐसे व्यक्ति को फिर से रचना जिसने कभी सहमति नहीं दी

अधिकांश griefbots की परिभाषक विशेषता, और नैतिक कठिनाई की जड़, यह है कि वे मृतकों से बनाए जाते हैं, मृतकों द्वारा नहीं। एक शोकग्रस्त परिवार या एक कंपनी किसी व्यक्ति के पुराने टेक्स्ट, आवाज़ नोट, और सोशल पोस्ट इकट्ठा करती है और एक मॉडल को उनकी तरह बोलने के लिए प्रशिक्षित करती है। मृतक कच्चा माल होता है। वे कभी लेखक नहीं होते, और सबसे अहम बात, उनसे कभी पूछा ही नहीं गया।

यह इसलिए मायने रखता है क्योंकि एक विश्वसनीय नकल किसी व्यक्ति के नाम पर दावे करती है। यह ऐसे वाक्य बनाती है जो उन्होंने कभी नहीं कहे, ऐसी राय जो शायद उनकी कभी थी ही नहीं, ऐसे आश्वासन जो उन्होंने कभी नहीं दिए। मृतक न उसे सुधार सकते हैं, न आपत्ति कर सकते हैं, और न ही उसे वापस ले सकते हैं। एक ऐसा प्रतिरूप जिसके लिए विषय ने सहमति नहीं दी और जिसे वह नियंत्रित नहीं कर सकता, मूल रूप से, किसी ऐसे व्यक्ति की ओर से बोलना है जो अब अपने लिए नहीं बोल सकता, और इसे उसी व्यक्ति की अपनी आवाज़ के रूप में पेश करना है। यह जो भी सांत्वना देता हो, इसकी शुरुआत उस जगह से होती है जहाँ खड़े होने के लिए विषय ने कभी रज़ामंदी नहीं दी।

A griefbot is built of the dead. A Persona is built by the living.

सहमति की रेखा

इस तकनीक के बारे में लगभग हर सार्थक नैतिक सवाल एक ही रेखा पर सिमट आता है: क्या जिस व्यक्ति का प्रतिरूप बना, वह एक सहमत लेखक था, या एक असहमत विषय? एक ओर है आम griefbot, जो मृत्यु के बाद उस डेटा से जोड़ा जाता है जिसे व्यक्ति ने दूसरे उद्देश्यों के लिए छोड़ा था, जिसे वही नियंत्रित करता है जिसके पास वह डेटा है, और जो किसी के प्रति जवाबदेह नहीं। दूसरी ओर है एक ऐसा प्रतिरूप जिसे व्यक्ति ने खुद, जीते-जी बनाया, यह तय करते हुए कि उसमें क्या होगा और वह कभी क्या दावा नहीं करेगा।

यही अंतर है एक griefbot या एक deadbot, जो बाद में की गई पुनर्रचना के लिए शब्द हैं, और एक सहमति-आधारित Persona के बीच, जिसे पहले से रचा जाता है। शब्द एक जैसे लगते हैं और तकनीक भी मिलती-जुलती है, पर नैतिक रूप से ये लगभग विपरीत हैं। एक आवाज़ छीन लेता है; दूसरे को आवाज़ दी जाती है। विषय की अपनी सहमति का होना या न होना कोई बारीकी नहीं है। यही पूरा सवाल है।

यहाँ सहमति का मतलब एक बार लगाए गए चेकबॉक्स से कहीं अधिक होना चाहिए। इसका मतलब है कि व्यक्ति ने चुना कि उसमें क्या जाएगा, यह तय कर सकता है कि वह कैसे व्यवहार करे, और यह नियम बना सकता है कि उस तक कौन और कब पहुँच सकता है। ऐसी सहमति, जिसका उपयोग विषय इसलिए नहीं कर सकता क्योंकि वह पहले ही जा चुका है, असल में उसकी सहमति है ही नहीं। इसीलिए समय का महत्व उतना ही है जितना रज़ामंदी का: अपने प्रतिरूप के लिए सच में सहमति देने वाला एकमात्र व्यक्ति वही है जो जीवित है।

शोध और नीतिशास्त्री क्या कहते हैं

जैसे-जैसे उपकरण बेहतर हुए हैं, इस तकनीक पर गंभीर टिप्पणियाँ और भी सतर्क होती गई हैं। Scientific American जैसे माध्यमों में आई कवरेज ने यह तौला है कि griefbots वाकई शोकग्रस्त लोगों की मदद करते हैं या उन्हें एक जगह अटकाए रखने का जोखिम पैदा करते हैं, और यह कहा है कि इसके प्रमाण अभी निश्चित से बहुत दूर हैं। इस लेखन के अधिकांश हिस्से में सावधान निष्कर्ष यह नहीं है कि तकनीक बेकार है, बल्कि यह कि इसके लाभ सशर्त हैं और इसके जोखिम वास्तविक हैं।

अकादमिक और नैतिक चर्चा ने, जिसमें The Conversation जैसे मंचों पर सामने आया काम शामिल है, ख़ास तौर पर सहमति के सवाल पर और ज़्यादा ज़ोर दिया है। इस क्षेत्र के शोधकर्ताओं ने तर्क दिया है कि किसी व्यक्ति को उसकी पूर्व रज़ामंदी के बिना फिर से रचना उसकी गरिमा का उल्लंघन कर सकता है, कि परिवारों और कंपनियों के हित उससे भिन्न हो सकते हैं जो मृत व्यक्ति चाहता, और कि ऐसे सुरक्षा-उपाय होने चाहिए जो एक नकली व्यक्ति का इस्तेमाल किए जाने, उससे कमाई किए जाने, या उससे ऐसी बातें कहलाए जाने को रोकें जो असली व्यक्ति कभी न कहता। बार-बार उभरने वाला विषय है शासन: प्रतिरूप को कौन नियंत्रित करता है, किसके अधिकार पर, और किन सीमाओं के साथ।

एक साथ पढ़ें तो, यह सारा काम यह नहीं कहता कि जुड़े रहने की इच्छा ग़लत है। यह कहता है कि उस इच्छा को इस तरह पूरा किया जाना चाहिए जो प्रतिरूपित व्यक्ति का सम्मान करे, और कि सहमति और नियंत्रण वे शर्तें हैं जिनके तहत यह संभव है। यह एक ऐसा मानक है जिसे पूरा करने के लिए सहमति-आधारित तरीका बनाया गया है, और जिसे बाद में बना griefbot संरचनात्मक रूप से पूरा नहीं कर सकता।

बिना सहमति वाले deadbots के प्रलेखित नुकसान

सिद्धांत के सवाल से परे, कई ठोस नुकसान प्रलेखित या गंभीरता से तर्कित किए गए हैं। इन्हें साफ़-साफ़ नाम देना ज़रूरी है, क्योंकि ये वही कारण हैं जिनसे सावधानी उचित ठहरती है, ये कोई अमूर्त बातें नहीं हैं।

• बिना सहमति के पुनर्रचना: सबसे बुनियादी नुकसान यह है कि एक ऐसे व्यक्ति का प्रतिरूप बनाना जिसने इसके लिए कभी रज़ामंदी नहीं दी, उसके मुँह में ऐसे शब्द और विचार डालना जिनका वह खंडन नहीं कर सकता।

• शोक में हस्तक्षेप: एक नकल जो हमेशा उपलब्ध रहती है, कुछ लोगों के लिए शोक की प्रक्रिया को आसान बनाने के बजाय उसे टाल सकती है, शोकग्रस्त को एक ऐसी उपस्थिति से बाँधे रखते हुए जो सच में न बदल सकती है, न बढ़ सकती है।

• व्यावसायिक कब्ज़ा: जहाँ कोई griefbot किसी कंपनी द्वारा चलाया जाता है, वहाँ मृत व्यक्ति एक उत्पाद बन सकता है, जिसकी समानता किसी ऐसे पक्ष द्वारा रखी, बेची, या दोबारा इस्तेमाल की जाती है जिसे उसने कभी अधिकृत नहीं किया।

• बहकाव और गढ़ंत: किसी की तरह सुनाई देने के लिए प्रशिक्षित एक मॉडल खालीपन को गढ़कर भर देगा, ऐसे कथन बनाते हुए जो व्यक्ति ने कभी नहीं कहे और जिन्हें परिवार ग़लती से असली मान सकता है।

इनमें से कोई भी नुकसान हर मामले में अनिवार्य नहीं है, और ठीक यही बात है। ये एक संरचना से निकलते हैं, यानी प्रतिरूप को मृत्यु के बाद, बिना सहमति के, बाहरी नियंत्रण में बनाना, जो इनमें से कम-से-कम कुछ की लगभग गारंटी देती है। संरचना बदल दीजिए और इनमें से अधिकांश जोखिम ख़त्म हो जाते हैं। शोकग्रस्त लोगों के लिए बने वे उपकरण जो AI के ज़रिए किसी खोए हुए प्रियजन से बात या किसी ऐसे व्यक्ति के AI रूप से बात, जिसकी मृत्यु हो गई कराते हैं, ठीक इसी दरार पर टिके हैं, और जहाँ वे विषय की सहमति के बिना बनाए जाते हैं, वे ठीक ये समस्याएँ विरासत में पाते हैं।

सहमति-आधारित विकल्प: जीते-जी अपना खुद का बनाएँ

विकल्प कहने में सीधा है। किसी को मृत्यु के बाद उसकी राय के बिना फिर से रचने देने के बजाय, एक व्यक्ति जीते-जी अपना प्रतिरूप खुद बनाता है, उसके लेखक के रूप में। Afterlife AI™ पर, वही एक Persona है: इस बात का एक नियंत्रित, सहमति-आधारित अभिलेख कि आप कौन हैं, जो केवल उसी से लिया जाता है जो आप वाकई प्रदान करते हैं, एक असली व्यक्ति के अनेक आयामों में, न कि बचे-खुचे डेटा से बटोरा गया।

क्योंकि विषय ही लेखक है, ऊपर बताए गए नुकसान बाद में जोड़-तोड़ करने के बजाय जड़ से सँभाले जाते हैं। सहमति है, क्योंकि इसे बनाना आपने चुना। उस तरह का कोई गढ़ंत नहीं है जिसका जोखिम griefbots में होता है, क्योंकि यह केवल उस सत्यापित स्मृति पर आधारित होता है जो आपने दी, न कि खामोशी भरने के लिए अनुमान लगाने पर। और शासन है, क्योंकि शर्तें आप तब तय करते हैं जब आप कर सकते हैं। जुड़े रहने की इच्छा का सम्मान होता है, पर उसके केंद्र में मौजूद व्यक्ति ने तय करने में अपनी आवाज़ बनाए रखी।

The only person who can consent to being represented is the living one.

इसे ज़िम्मेदारी से कैसे करें

इसे अच्छी तरह करना तकनीक से कम और उसके इर्द-गिर्द की परिस्थितियों से ज़्यादा जुड़ा है। किसी व्यक्ति का प्रतिरूप उसी व्यक्ति द्वारा रचा जाना चाहिए, अनुमान के बजाय सत्यापित स्मृति से लिया जाना चाहिए, और इस पर स्पष्ट, स्थायी नियंत्रण रखा जाना चाहिए कि उस तक कौन और कब पहुँच सकता है। ये वही शर्तें हैं जो एक सम्मानजनक प्रथा को एक दोहन करने वाली प्रथा से अलग करती हैं, चाहे उसे जो भी नाम दिया जाए।

नियंत्रण वह हिस्सा है जिसे अनदेखा करना सबसे आसान है और सही करना सबसे ज़रूरी। Executor Lock™ इसी को प्रदान करने के लिए बनाया गया है: यह नियंत्रित करता है कि किसी Persona को कौन और कब सक्रिय कर सकता है, एक नामित निष्पादक को अंतिम निर्णय देता है, और एक बार तय हो जाने पर परिणाम को स्थायी बना देता है, ताकि आपकी मृत्यु के बाद इसे दोबारा प्रशिक्षित, बदला, या व्यावसायिक रूप से इस्तेमाल न किया जा सके। वही स्थायित्व एक प्रतिरूप को ऐसी चीज़ से, जिसे लिया और बदला जा सकता हो, ऐसी चीज़ में बदल देता है जो वैसी ही रहती है जैसी व्यक्ति छोड़ गया था। यही उन व्यावसायिक-कब्ज़े और बहकाव वाले नुकसानों का संरचनात्मक उत्तर है जो नीतिशास्त्रियों को सबसे ज़्यादा चिंतित करते हैं।

अगर आप अपने प्रियजनों के लौटने के लिए एक जगह चाहते हैं, तो वही सिद्धांत एक नियंत्रित AI स्मारक तैयार करते हैं जो उस व्यक्ति का सम्मान करता है जिसे वह याद रखता है, क्योंकि उस व्यक्ति ने इसे खुद बनाया और इसकी सीमाएँ खुद तय कीं। इसमें और एक griefbot में अंतर वह सांत्वना नहीं है जो यह शोकग्रस्त को देता है, जो दोनों में ही वास्तविक हो सकती है। अंतर यह है कि यहाँ, वह सांत्वना उस व्यक्ति की सहमति की क़ीमत पर नहीं आती जिसे याद किया जा रहा है।

तो एक griefbot का नैतिक विकल्प इसके पीछे की इच्छा से इनकार करना नहीं है। यह उसका पुनर्क्रमण है। मृतकों को उनकी रज़ामंदी के बिना फिर से रचना शोकग्रस्त से एक ऐसी आवाज़ स्वीकार करने को कहता है जिसे विषय ने कभी मंज़ूर नहीं किया। जीते-जी एक Persona बनाना, नियंत्रित और सहमति-आधारित, एक व्यक्ति को खुद यह तय करने देता है कि अपने जाने के बाद वह कैसे मौजूद रहेगा, और उस निर्णय को सुरक्षित रखता है। तकनीक एक जैसी है। नैतिकता नहीं। पूरा अंतर इसी में है कि सहमति किसने दी, और कब।