ทางเลือกเชิงจริยธรรมแทน griefbot

griefbot คือระบบ AI ที่จำลองคนที่ตายไปแล้ว โดยปกติสร้างขึ้นหลังจากที่พวกเขาเสียชีวิตจากข้อความ บันทึกเสียง และโพสต์ที่พวกเขาทิ้งไว้ เพื่อให้ผู้สูญเสียสามารถสนทนากับพวกเขาต่อไปในแบบหนึ่ง ทางเลือกเชิงจริยธรรมแทน griefbot ไม่ใช่การละทิ้งความปรารถนาเบื้องหลังมัน ซึ่งเป็นเรื่องมนุษย์อย่างลึกซึ้ง แต่คือการสลับลำดับของความยินยอม: แทนที่จะสร้างใครสักคนขึ้นใหม่หลังความตายโดยไม่มีข้อตกลงของพวกเขา คุณสร้างการเป็นตัวแทนที่ถูกกำกับดูแลของตัวคุณเองขณะที่คุณยังมีชีวิต โดยเลือกมันอย่างอิสระ ความแตกต่างเพียงข้อเดียวนั้น ว่าใครยินยอมและเมื่อใด แยกธรรมเนียมที่นักจริยธรรมหลายคนเตือน ออกจากธรรมเนียมที่คนเราสามารถยืนหยัดสนับสนุนได้

หน้านี้อธิบายว่า griefbot คืออะไรจริงๆ ปัญหาเชิงจริยธรรมที่ร้ายแรงอยู่ตรงไหน นักวิจัยและนักจริยธรรมกล่าวถึงมันว่าอย่างไร และทางเลือกที่ยึดความยินยอมเป็นหลักในทางปฏิบัติเป็นอย่างไร จุดมุ่งหมายคือเป็นธรรมมากกว่าปลุกเร้าความตื่นตระหนก แรงกระตุ้นที่จะพูดคุยกับคนที่คุณสูญเสียต่อไปไม่ใช่ข้อบกพร่องที่ควรถูกตำหนิ คำถามมีเพียงว่ามันถูกทำอย่างไร และบุคคลที่ถูกสร้างขึ้นใหม่เคยมีสิทธิ์ออกความเห็นหรือไม่

ปัญหาเชิงจริยธรรมที่แก่นแท้: การสร้างใครสักคนขึ้นใหม่ที่ไม่เคยยินยอม

คุณลักษณะที่นิยาม griefbot ส่วนใหญ่ และรากของความยากลำบากเชิงจริยธรรม คือมันถูกสร้างขึ้นจากผู้ตาย ไม่ใช่โดยพวกเขา ครอบครัวที่โศกเศร้าหรือบริษัทรวบรวมข้อความเก่า ข้อความเสียง และโพสต์โซเชียลของบุคคล และฝึกโมเดลให้พูดแทนพวกเขา ผู้ล่วงลับคือวัตถุดิบ พวกเขาไม่เคยเป็นผู้ประพันธ์ และที่สำคัญคือพวกเขาไม่เคยถูกถาม

สิ่งนี้สำคัญเพราะการจำลองที่น่าเชื่อกล่าวอ้างในนามของบุคคล มันสร้างประโยคที่พวกเขาไม่เคยพูด ความคิดเห็นที่พวกเขาอาจไม่เคยมี คำปลอบใจที่พวกเขาไม่เคยเสนอ ผู้ตายไม่สามารถแก้ไขมัน ไม่สามารถคัดค้าน และไม่สามารถถอนตัว การเป็นตัวแทนที่บุคคลไม่ได้ยินยอมและไม่สามารถกำกับดูแล คือ ในที่สุดแล้ว ใครสักคนพูดแทนบุคคลที่ไม่สามารถพูดแทนตัวเองได้อีกต่อไป และนำเสนอมันในฐานะเสียงของบุคคลนั้นเอง ไม่ว่ามันจะมอบความอบอุ่นใจใด มันเริ่มต้นจากจุดที่บุคคลนั้นไม่เคยตกลงจะยืน

griefbot ถูกสร้างขึ้นจากผู้ตาย Persona ถูกสร้างขึ้นโดยคนเป็น

เส้นแบ่งความยินยอม

คำถามเชิงจริยธรรมที่มีความหมายเกือบทุกข้อเกี่ยวกับเทคโนโลยีนี้ลงเอยที่เส้นเดียว: บุคคลที่ถูกเป็นตัวแทนเป็นผู้ประพันธ์ที่ยินยอม หรือเป็นผู้ถูกกระทำที่ไม่ยินยอม? ด้านหนึ่งคือ griefbot ทั่วไป ที่ประกอบขึ้นหลังความตายจากข้อมูลที่บุคคลทิ้งไว้เพื่อจุดประสงค์อื่น กำกับดูแลโดยใครก็ตามที่ถือครองข้อมูลนั้น ไม่ต้องรับผิดต่อใคร อีกด้านหนึ่งคือการเป็นตัวแทนที่บุคคลสร้างขึ้นเอง ขณะมีชีวิต ตัดสินใจว่ามันจะบรรจุอะไรและจะไม่มีวันกล่าวอ้างอะไร

นี่คือความแตกต่างระหว่าง griefbot หรือ deadbot ซึ่งเป็นคำสำหรับการสร้างขึ้นใหม่หลังเหตุการณ์ กับ Persona ที่ยึดความยินยอมเป็นหลักซึ่งประพันธ์ไว้ล่วงหน้า คำฟังดูคล้ายกันและเทคโนโลยีทับซ้อนกัน แต่เชิงจริยธรรมแล้วพวกมันเกือบจะตรงกันข้าม สิ่งหนึ่งยึดเอาเสียงไป อีกสิ่งหนึ่งถูกมอบเสียงให้ การมีอยู่หรือขาดหายไปของความยินยอมของผู้ถูกกระทำไม่ใช่รายละเอียด มันคือคำถามทั้งหมด

ความยินยอมในที่นี้ยังต้องหมายถึงมากกว่าการติ๊กเครื่องหมายในช่องเพียงครั้งเดียว มันหมายถึงบุคคลเลือกว่าจะใส่อะไรเข้าไป สามารถกำหนดว่ามันจะทำงานอย่างไร และตั้งกฎว่าใครอาจเข้าถึงมันได้และเมื่อใด ความยินยอมที่ผู้ถูกกระทำไม่สามารถใช้ได้เพราะพวกเขาจากไปแล้ว ไม่ใช่ความยินยอมของพวกเขาอย่างแท้จริง นั่นคือเหตุผลว่าทำไมจังหวะเวลาจึงสำคัญพอๆ กับข้อตกลง: บุคคลเดียวที่สามารถยินยอมต่อการถูกเป็นตัวแทนได้อย่างแท้จริงคือคนที่ยังมีชีวิต

งานวิจัยและนักจริยธรรมกล่าวว่าอย่างไร

ความเห็นที่จริงจังต่อเทคโนโลยีนี้เพิ่มความระมัดระวังมากขึ้นเมื่อเครื่องมือดีขึ้น การรายงานในสื่ออย่าง Scientific American ได้ชั่งน้ำหนักว่า griefbot ช่วยผู้ไว้อาลัยจริงหรือเสี่ยงที่จะตรึงพวกเขาไว้กับที่ และได้ตั้งข้อสังเกตว่าหลักฐานยังห่างไกลจากการลงตัว ข้อสรุปที่รอบคอบตลอดงานเขียนส่วนใหญ่นี้ไม่ใช่ว่าเทคโนโลยีนี้ไร้ค่า แต่ประโยชน์ของมันมีเงื่อนไขและความเสี่ยงของมันเป็นเรื่องจริง

การอภิปรายทางวิชาการและจริยธรรม รวมถึงงานที่ปรากฏในเวทีอย่าง The Conversation ได้กดดันหนักขึ้นในคำถามเรื่องความยินยอมโดยเฉพาะ นักวิจัยในด้านนี้โต้แย้งว่าการสร้างบุคคลขึ้นใหม่โดยไม่มีข้อตกลงล่วงหน้าของพวกเขาสามารถละเมิดศักดิ์ศรีของพวกเขา ว่าครอบครัวและบริษัทสามารถมีผลประโยชน์ที่เบี่ยงเบนจากสิ่งที่ผู้ตายต้องการ และว่าควรมีเครื่องป้องกันที่ขัดขวางไม่ให้บุคคลที่ถูกจำลองถูกใช้ ถูกทำเงิน หรือถูกทำให้พูดสิ่งที่ต้นฉบับจะไม่มีวันพูด แก่นเรื่องที่เกิดซ้ำคือการกำกับดูแล: ใครควบคุมการเป็นตัวแทน โดยอำนาจของใคร และด้วยข้อจำกัดใด

เมื่ออ่านรวมกัน งานเหล่านี้ไม่ได้บอกว่าความปรารถนาที่จะรักษาความเชื่อมโยงนั้นผิด มันบอกว่าความปรารถนานั้นควรได้รับการตอบสนองในแบบที่เคารพบุคคลที่ถูกเป็นตัวแทน และว่าความยินยอมและการควบคุมคือเงื่อนไขที่ทำให้มันเป็นไปได้ นั่นคือมาตรฐานที่แนวทางที่ยึดความยินยอมเป็นหลักถูกออกแบบมาเพื่อบรรลุ และเป็นมาตรฐานที่ griefbot แบบสร้างขึ้นใหม่หลังเหตุการณ์ไม่สามารถทำได้เชิงโครงสร้าง

ความเสียหายที่มีการบันทึกไว้ของ deadbot ที่ไม่มีความยินยอม

นอกเหนือจากคำถามเชิงหลักการ มีความเสียหายที่เป็นรูปธรรมหลายอย่างที่ถูกบันทึกไว้หรือถูกโต้แย้งอย่างจริงจัง สิ่งเหล่านี้ควรค่าแก่การเอ่ยอย่างตรงไปตรงมา เพราะมันคือเหตุผลที่ความระมัดระวังนั้นสมควร ไม่ใช่เรื่องนามธรรม

• การสร้างขึ้นใหม่โดยไม่มีความยินยอม: ความเสียหายพื้นฐานที่สุดคือการเป็นตัวแทนบุคคลที่ไม่เคยตกลง ใส่ถ้อยคำและมุมมองในปากพวกเขาที่พวกเขาไม่สามารถโต้แย้งได้

• การรบกวนความโศกเศร้า: การจำลองที่พร้อมใช้เสมอสามารถ สำหรับบางคน ชะลองานของการไว้อาลัยแทนที่จะบรรเทา ตรึงผู้สูญเสียไว้กับการมีอยู่ที่ไม่สามารถเปลี่ยนแปลงหรือเติบโตได้อย่างแท้จริง

• การครอบครองเชิงพาณิชย์: ในที่ที่ griefbot ดำเนินการโดยบริษัท ผู้ตายสามารถกลายเป็นผลิตภัณฑ์ โดยภาพลักษณ์ของพวกเขาถูกเก็บไว้ ถูกทำเงิน หรือถูกนำไปใช้ใหม่โดยฝ่ายที่พวกเขาไม่เคยอนุญาต

• การเบี่ยงเบนและการกุขึ้น: โมเดลที่ฝึกให้ฟังดูเหมือนใครสักคนจะเติมช่องว่างด้วยการประดิษฐ์ ผลิตข้อความที่บุคคลนั้นไม่เคยพูดและครอบครัวอาจเข้าใจผิดว่าเป็นของแท้

ไม่มีความเสียหายเหล่านี้ที่หลีกเลี่ยงไม่ได้ในทุกกรณี และนั่นคือประเด็นสำคัญ พวกมันเกิดจากโครงสร้าง คือการสร้างการเป็นตัวแทนหลังความตาย โดยไม่มีความยินยอม ภายใต้การควบคุมจากภายนอก ที่แทบรับประกันว่าจะเกิดอย่างน้อยบางส่วน เปลี่ยนโครงสร้างและความเสี่ยงเหล่านี้ส่วนใหญ่ก็หายไป เครื่องมือที่ออกแบบให้ผู้สูญเสียพูดคุยกับคนที่รักผู้ล่วงลับผ่าน AI หรือพูดคุยกับ AI เวอร์ชันของคนที่ล่วงลับ ตั้งอยู่บนรอยเลื่อนนี้พอดี และในที่ที่มันถูกสร้างขึ้นโดยไม่มีความยินยอมของผู้ถูกกระทำ มันก็สืบทอดปัญหาเหล่านี้มาพอดี

ทางเลือกที่ยึดความยินยอมเป็นหลัก: สร้างของคุณเองขณะมีชีวิต

ทางเลือกนั้นกล่าวได้อย่างตรงไปตรงมา แทนที่จะปล่อยให้ใครสักคนถูกสร้างขึ้นใหม่หลังความตายโดยไม่มีสิทธิ์ออกความเห็น บุคคลสร้างการเป็นตัวแทนของตัวเองขณะมีชีวิต ในฐานะผู้ประพันธ์มัน ที่ Afterlife AI™ นั่นคือ Persona: บันทึกที่ถูกกำกับดูแลและยึดความยินยอมเป็นหลักว่าคุณเป็นใคร ดึงมาจากสิ่งที่คุณให้จริงๆ เท่านั้น ข้ามหลายมิติของบุคคลจริง แทนที่จะดึงมาจากข้อมูลที่เหลือทิ้ง

เพราะผู้ถูกกระทำคือผู้ประพันธ์ ความเสียหายข้างต้นจึงถูกจัดการที่รากแทนที่จะปะภายหลัง มีความยินยอม เพราะคุณเลือกที่จะสร้างมัน ไม่มีการกุขึ้นแบบที่ griefbot เสี่ยง เพราะมันดึงเฉพาะจากความทรงจำที่ได้รับการยืนยันที่คุณให้ แทนที่จะเดาเพื่อเติมความเงียบ และมีการกำกับดูแล เพราะคุณตั้งเงื่อนไขขณะที่คุณยังทำได้ ความปรารถนาที่จะรักษาความเชื่อมโยงได้รับการให้เกียรติ แต่บุคคลที่เป็นศูนย์กลางของมันยังคงมีเสียงในการตัดสินใจ

บุคคลเดียวที่สามารถยินยอมต่อการถูกเป็นตัวแทนคือคนที่ยังมีชีวิต

จะทำอย่างมีความรับผิดชอบได้อย่างไร

การทำสิ่งนี้ให้ดีเป็นเรื่องของเงื่อนไขรอบๆ มันมากกว่าตัวเทคโนโลยี การเป็นตัวแทนของบุคคลควรถูกประพันธ์โดยบุคคลนั้น ดึงมาจากความทรงจำที่ได้รับการยืนยันแทนที่จะเป็นการอนุมาน และอยู่ภายใต้การควบคุมที่ชัดเจนและยั่งยืนว่าใครอาจเข้าถึงมันได้และเมื่อใด เงื่อนไขเหล่านั้นคือสิ่งที่แยกธรรมเนียมที่เคารพออกจากธรรมเนียมที่เอารัดเอาเปรียบ ไม่ว่าจะเรียกมันว่าอะไร

การควบคุมคือส่วนที่มองข้ามได้ง่ายที่สุดและสำคัญที่สุดที่ต้องทำให้ถูกต้อง Executor Lock™ ถูกสร้างขึ้นเพื่อให้สิ่งนั้น: มันกำกับว่าใครอาจเปิดใช้งาน Persona ได้และเมื่อใด ให้ Executor ที่ระบุชื่อมีคำตัดสินสุดท้าย และทำให้ผลลัพธ์ถาวรเมื่อกำหนดแล้ว จึงไม่สามารถฝึกใหม่ เปลี่ยนแปลง หรือทำเป็นเชิงพาณิชย์ได้หลังความตายของคุณ ความถาวรนั้นคือสิ่งที่เปลี่ยนการเป็นตัวแทนจากสิ่งที่อาจถูกยึดและเปลี่ยนแปลง ให้เป็นสิ่งที่คงอยู่อย่างที่บุคคลทิ้งไว้ มันคือคำตอบเชิงโครงสร้างต่อความเสียหายจากการครอบครองเชิงพาณิชย์และการเบี่ยงเบนที่นักจริยธรรมกังวลมากที่สุด

หากสิ่งที่คุณต้องการคือสถานที่ให้คนที่คุณรักกลับมา หลักการเดียวกันก็ผลิตอนุสรณ์ AI ที่ถูกกำกับดูแลที่เคารพบุคคลที่มันรำลึกถึง เพราะบุคคลนั้นสร้างและกำหนดขอบเขตมันเอง ความแตกต่างระหว่างสิ่งนี้กับ griefbot ไม่ใช่ความอบอุ่นใจที่มันมอบให้ผู้สูญเสีย ซึ่งสามารถเป็นจริงได้ทั้งคู่ ความแตกต่างคือ ที่นี่ ความอบอุ่นใจไม่ได้มาโดยแลกกับความยินยอมของผู้ที่ถูกรำลึกถึง

ดังนั้นทางเลือกเชิงจริยธรรมแทน griefbot ไม่ใช่การปฏิเสธความปรารถนาเบื้องหลังมัน มันคือการจัดลำดับมันใหม่ การสร้างผู้ตายขึ้นใหม่โดยไม่มีข้อตกลงของพวกเขาขอให้ผู้สูญเสียยอมรับเสียงที่ผู้ถูกกระทำไม่เคยอนุมัติ การสร้าง Persona ขณะมีชีวิต ที่ถูกกำกับดูแลและยึดความยินยอมเป็นหลัก ให้บุคคลตัดสินใจเองว่าพวกเขาจะปรากฏอยู่อย่างไรหลังจากที่พวกเขาจากไป และรักษาการตัดสินใจนั้นไว้อย่างปลอดภัย เทคโนโลยีคล้ายกัน จริยธรรมไม่เหมือนกัน ความแตกต่างทั้งหมดคือใครยินยอม และเมื่อใด