החלופה האתית ל-griefbots

griefbot הוא מערכת בינה מלאכותית המדמה אדם מת, בדרך כלל נבנית לאחר מותו מההודעות, ההקלטות והפוסטים שהשאיר אחריו, כך שהשכולים יוכלו לנהל מעין שיחה איתו. החלופה האתית ל-griefbot אינה לזנוח את המשאלה שמאחוריו, שהיא אנושית עמוקות, אלא להפוך את סדר ההסכמה: במקום לשחזר מישהו לאחר מותו ללא הסכמתו, אתם בונים ייצוג ממשל של עצמכם בעודכם בחיים, לאחר שבחרתם בכך בחופשיות. אותו הבדל יחיד, מי הסכים ומתי, מפריד בין מנהג שאתיקאים רבים מזהירים מפניו לבין כזה שאדם יכול לעמוד מאחוריו.

עמוד זה מציג מהו griefbot באמת, היכן נמצאת הבעיה האתית הרצינית, מה חוקרים ואתיקאים אמרו עליו, וכיצד נראית חלופה שמעמידה את ההסכמה במרכז בפועל. המטרה היא להיות הוגנים ולא מאיימים. הדחף להמשיך לדבר עם מישהו שאיבדתם אינו פגם שיש לגעור בו. השאלה היא רק כיצד זה נעשה, והאם לאדם המשוחזר היה אי פעם קול.

הבעיה האתית המרכזית: שחזור מישהו שמעולם לא הסכים

המאפיין המגדיר של רוב ה-griefbots, ושורש הקושי האתי, הוא שהם נבנים מן המתים, לא על ידם. משפחה שכולה או חברה אוספת את הטקסטים הישנים, ההערות הקוליות והפוסטים החברתיים של אדם ומאמנת מודל לדבר כמותו. הנפטר הוא חומר הגלם. הוא לעולם אינו המחבר, וחשוב מכך הוא מעולם לא נשאל.

זה חשוב משום שסימולציה משכנעת טוענת טענות בשם אדם. היא מפיקה משפטים שהוא מעולם לא אמר, דעות שאולי מעולם לא החזיק, מילות הרגעה שמעולם לא הציע. המתים אינם יכולים לתקן זאת, אינם יכולים להתנגד, ואינם יכולים לחזור בהם. ייצוג שהנושא לא הסכים לו ואינו יכול לממשל בו הוא, ביסודו, מישהו המדבר בשם אדם שאינו יכול עוד לדבר בשם עצמו, ומציג זאת כקולו של אותו אדם. יהיה הנחמה שהוא מציע אשר יהיה, הוא מתחיל ממקום שהנושא מעולם לא הסכים לעמוד בו.

griefbot נבנה מן המתים. Persona נבנה על ידי החיים.

קו ההסכמה

כמעט כל שאלה אתית משמעותית על טכנולוגיה זו מתמצה בקו אחד: האם האדם המיוצג היה מחבר מסכים, או נושא לא מסכים? בצד אחד נמצא ה-griefbot הטיפוסי, המורכב לאחר המוות מנתונים שהאדם השאיר למטרות אחרות, ממשל על ידי מי שמחזיק בנתונים אלה, ואינו נותן דין וחשבון לאיש. בצד השני נמצא ייצוג שאדם בנה בעצמו, בעודו בחיים, החליט מה הוא מכיל ומה לעולם לא יטען.

זו ההבחנה בין griefbot או deadbot, מונחים לשחזור שלאחר מעשה, לבין Persona שמעמיד את ההסכמה במרכז ומחובר מראש. המילים נשמעות דומות והטכנולוגיה חופפת, אך מבחינה אתית הן כמעט הפכים. אחד לוקח קול; השני מקבל קול. נוכחות או היעדר הסכמתו של הנושא אינה פרט. היא כל השאלה.

הסכמה כאן חייבת גם להיות יותר מסימון תיבה פעם אחת. משמעה שהאדם בחר מה נכנס, יכול לעצב כיצד הוא מתנהג, וקבע את הכללים למי יכול להגיע אליו ומתי. הסכמה שהנושא אינו יכול לממש משום שכבר הלך אינה באמת הסכמתו. לכן העיתוי חשוב כמו ההסכמה: האדם היחיד שיכול באמת להסכים להיות מיוצג הוא החי.

מה המחקר והאתיקאים אומרים

פרשנות רצינית על טכנולוגיה זו הפכה זהירה יותר ככל שהכלים השתפרו. סיקור בכלים כמו Scientific American שקל האם griefbots באמת מסייעים לאבלים או מסכנים אותם בהחזקתם במקום, וציין שהראיות רחוקות מלהיות מוכרעות. המסקנה הזהירה ברוב הכתיבה הזו אינה שהטכנולוגיה חסרת ערך, אלא שיתרונותיה מותנים וסיכוניה אמיתיים.

דיון אקדמי ואתי, ובכללו עבודה שצפה בכלים כמו The Conversation, לחץ קשות יותר על שאלת ההסכמה באופן ספציפי. חוקרים בתחום זה טענו ששחזור אדם ללא הסכמתו המוקדמת יכול לפגוע בכבודו, שלמשפחות ולחברות יכולים להיות אינטרסים הסוטים ממה שהאדם המת היה רוצה, ושצריכים להיות מעקות מונעים משימוש באדם מדומה, ממסחורו, או מהכרחתו לומר דברים שהמקור מעולם לא היה אומר. הנושא החוזר הוא ממשל: מי שולט בייצוג, על סמכות מי, ובאילו גבולות.

בקריאה יחד, גוף עבודה זה אינו אומר שהמשאלה להישאר מחוברים שגויה. הוא אומר שיש לשרת משאלה זו בדרך המכבדת את האדם המיוצג, ושהסכמה ושליטה הן התנאים שתחתם היא יכולה. זהו תקן שגישה שמעמידה את ההסכמה במרכז מעוצבת לעמוד בו, ושגריפבוט שלאחר מעשה אינו יכול מבנית.

הנזקים המתועדים של deadbotים לא מוסכמים

מעבר לשאלת העיקרון, כמה נזקים קונקרטיים תועדו או נטענו ברצינות. כדאי לנקוב בהם בפירוש, משום שהם הסיבות שבגללן הזהירות מוצדקת, לא הפשטות.

• שחזור ללא הסכמה: הנזק הבסיסי ביותר הוא ייצוג אדם שמעולם לא הסכים לכך, שימת מילים והשקפות בפיו שאינו יכול לערער עליהן.

• הפרעה לאבל: סימולציה הזמינה תמיד יכולה, עבור חלק מהאנשים, לעכב את עבודת האבל במקום להקל עליה, ולקשור את השכולים לנוכחות שאינה יכולה באמת להשתנות או לצמוח.

• לכידה מסחרית: כאשר griefbot מופעל על ידי חברה, האדם המת יכול להפוך למוצר, כשדמותו נשמרת, ממוסחרת, או ממוחזרת על ידי גורם שהוא מעולם לא הרשה.

• סחף ובדייה: מודל שאומן להישמע כמו מישהו ימלא פערים על ידי המצאה, ויפיק אמירות שהאדם מעולם לא אמר ושהמשפחה עשויה בטעות לקבל כאותנטיות.

אף אחד מהנזקים הללו אינו בלתי נמנע בכל מקרה, וזו בדיוק הנקודה. הם נובעים ממבנה, בניית הייצוג לאחר המוות, ללא הסכמה, תחת שליטה חיצונית, שכמעט מבטיח לפחות חלק מהם. שנו את המבנה ורוב הסיכונים האלה נופלים. כלים המעוצבים כך שהשכולים ידברו עם יקיר שנפטר בעזרת בינה מלאכותית או ידברו עם גרסת בינה מלאכותית של מישהו שנפטר יושבים בדיוק על קו השבר הזה, ובמקום שבו הם נבנים ללא הסכמת הנושא, הם יורשים בדיוק את הבעיות הללו.

החלופה שמעמידה את ההסכמה במרכז: בנו את שלכם בעודכם בחיים

החלופה פשוטה לניסוח. במקום לתת למישהו להיות משוחזר לאחר המוות ללא קולו, אדם בונה ייצוג משלו בעודו בחיים, כמחברו. ב-Afterlife AI™, זהו Persona: תיעוד ממשל שמעמיד את ההסכמה במרכז של מי שאתם, הנשען אך ורק על מה שאתם מספקים בפועל, על פני הממדים הרבים של אדם אמיתי ולא מגורד מנתונים שנותרו.

משום שהנושא הוא המחבר, הנזקים לעיל מטופלים בשורש במקום לתקנם לאחר מעשה. יש הסכמה, משום שבחרתם ליצור אותו. אין בדייה מהסוג ש-griefbots מסכנים, משום שהוא נשען אך ורק על זיכרון מאומת שסיפקתם, ולא מנחש כדי למלא שתיקה. ויש ממשל, משום שקבעתם את התנאים בעודכם יכולים. המשאלה להישאר מחוברים מכובדת, אך האדם במרכזה שמר את קולו בהחלטה.

האדם היחיד שיכול להסכים להיות מיוצג הוא החי.

כיצד לעשות זאת באחריות

לעשות זאת היטב עוסק פחות בטכנולוגיה ויותר בתנאים סביבה. ייצוג של אדם צריך להיות מחובר על ידי אותו אדם, נשען על זיכרון מאומת ולא על היקש, ומונח תחת שליטה ברורה ומתמשכת על מי יכול להגיע אליו ומתי. תנאים אלה הם המפרידים בין מנהג מכובד למנהג נצלני, איך שלא יקרא.

השליטה היא החלק שהכי קל להתעלם ממנו והכי חשוב לעשות נכון. ה-Executor Lock™ בנוי לספק אותה: הוא ממשל מי יכול להפעיל Persona ומתי, נותן ל-executor ממונה את המילה האחרונה, והופך את התוצאה לקבועה ברגע שנקבעה, כך שלא ניתן לאמן אותה מחדש, לשנות אותה, או למסחר אותה לאחר מותכם. קביעות זו היא מה שהופך ייצוג ממשהו שניתן לקחת ולשנות למשהו שנשאר כפי שהאדם השאיר. זו התשובה המבנית לנזקי הלכידה המסחרית והסחף המדאיגים את האתיקאים ביותר.

אם מה שאתם רוצים הוא מקום שאליו אהוביכם יחזרו, אותם עקרונות מפיקים מזכרת בינה מלאכותית ממשל המכבדת את האדם שהיא זוכרת, משום שהאדם בנה ותחם אותה בעצמו. ההבדל בין זה לבין griefbot אינו הנחמה שהוא מציע לשכולים, שיכולה להיות אמיתית בשניהם. ההבדל הוא שכאן, הנחמה אינה באה על חשבון הסכמת האדם הנזכר.

אז החלופה האתית ל-griefbot אינה סירוב למשאלה שמאחוריו. היא סידור מחדש שלה. שחזור המתים ללא הסכמתם מבקש מהשכולים לקבל קול שהנושא מעולם לא אישר. בניית Persona בעודכם בחיים, ממשל ומעמיד את ההסכמה במרכז, נותנת לאדם להחליט בעצמו כיצד יהיה נוכח לאחר לכתו, ושומרת על החלטה זו מוגנת. הטכנולוגיה דומה. האתיקה לא. כל ההבדל הוא מי הסכים, ומתי.