הפחד הקדום ביותר מפני המוות אינו שישכחו אותנו. הוא שיזכרו אותנו לא נכון.

כמעט בכל הלוויה שישבתי בה יש רגע קטן שבו האדם שבארון והאדם שבהספד פשוט אינם תואמים. זה שמתארים קצת טוב יותר מזה שהכרתי, קצת סבלן יותר, מושחז בקצוות, דווקא במקומות שבהם האדם האמיתי היה מעניין. איש אינו משקר. החדר עושה את מה שהאבל עושה תמיד. הוא בוחר איזו גרסה לשמור, בוחר בעדינות, והאדם היחיד שאולי היה מתנגד לעריכה הוא היחיד שאסור לו לדבר.

בדרך כלל איננו קוראים לזה בשמו. אנחנו קוראים לזה טקס יפה. אבל מתחת לפרחים מתקבלת החלטה על מי היה אדם, ולמתים אין בה קול. זו אינה בעיה חדשה שהטכנולוגיה המציאה. זה הדבר הקדום ביותר שקורה לנו אחרי שאנחנו מתים. אנחנו נמסרים, בשלמותנו, לזיכרון של אנשים אחרים, והזיכרון שלהם חלקי, אוהב, ושגוי במאה דרכים קטנות שלעולם לא נוכל לתקן.

אני בונה תוכנה בחלק של התעשייה שמאפשר לאנשים להקליט את עצמם בעודם בחיים, כדי שמשהו מקולם ומסיפוריהם ישרוד אחריהם. זו עבודה שמעוררת פחד מסוים מאוד, ושמעתי את הפחד הזה מספיק פעמים כדי להכיר את צורתו בעל פה. אנשים אומרים לי שזה מצמרר. אומרים לי שזה מזויף, בובה שלובשת את פניו של אדם מת. אומרים לי שזה ניצול, אבל שהפך למנוי. את ההתנגדויות האלה כדאי לקחת ברצינות, ואעשה זאת. אבל הגעתי לחשוב שהן אינן הפחד האמיתי. הן הפחד שאפשר לומר בקול רם בארוחת ערב. הפחד העמוק יותר, זה שבאמת מונע מאנשים לישון, שקט יותר וקשה יותר להודות בו.

הפחד העמוק יותר הוא שיזכרו אותנו לא נכון. שישטחו אותנו. שיחליקו את הסתירות שלנו עד שלא יישאר דבר מלבד קריקטורה שמסכימה עם כולם. שמשפט אחד שאמרנו ביום רע אחד יעמוד במקום כל מי שהיינו, לנצח, רק כי הוא המשפט שנשמר. כולנו חוששים מזה, וחששנו מזה הרבה לפני שמישהו אימן מודל על אדם מת. המכונה לא יצרה את הפחד. היא רק נתנה לו פנים שאפשר להצביע עליהן.

ההתנגדויות, במלוא עוצמתן

הרשו לי להציג את הטיעון נגד התעשייה שלי כראוי, כי האנשים שמעלים אותו אינם הזויים וגם אינם טועים בדאגתם.

נתחיל ב-Sherry Turkle, שבילתה עשרות שנים בצפייה במה שקורה כשאנשים יוצרים קשר עם דברים שאינם יכולים לאהוב אותם בחזרה. בספרה Alone Together היא כתבה שהיא "מוטרדת מהרעיון של חיפוש אינטימיות עם מכונה שאין לה רגשות, לא יכולים להיות לה רגשות, והיא באמת רק אוסף חכם של הופעות של 'כאילו', שמתנהגת כאילו אכפת לה, כאילו היא מבינה אותנו." קראו את זה לאט. זה המשפט הקשה ביותר שאני מכיר נגד העבודה שלי. מערכת שמדברת בקצב הדיבור של אב שמת ואומרת את הדברים שהיה אולי אומר מבצעת, ברמה מסוימת, אכפתיות שאין לה. היא מתנהגת כאילו. ואדם מתאבל, שרוצה כל כך שזה יהיה אמיתי, הוא בדיוק האדם שהכי קשה לו להחזיק בראש את ה"כאילו".

החשש של Turkle אינו שהטכנולוגיה גסה. הוא שהיא עובדת מספיק טוב כדי שזה יהיה חשוב, ושנקבל את ההופעה כי אנחנו בודדים וההופעה זמינה ב-2 בלילה, כשאין שום דבר אחר.

ואז יש את Elaine Kasket, הפסיכולוגית שכתבה את All the Ghosts in the Machine, ספר על מה שקורה לנו כשחיינו מאוחסנים בשרתים שאינם בבעלותנו. הנושא שלה הוא שאריות דיגיטליות: התמונות, ההודעות, החשבונות, כל השריד שאדם משאיר אחריו, והעובדה הלא נוחה שהשריד הזה הוא כיום נכס שאחרים יכולים להחזיק, להעביר, לייצר ממנו כסף ולעצב מחדש. משהאדם מת, העצמי שלו הוא נתונים, לנתונים יש אפוטרופוסים, ולאפוטרופוסים יש תמריצים משלהם. השאלה שהיא חוזרת אליה אינה אם גרסה דיגיטלית שלכם יכולה להתקיים. היא מי מפעיל אותה, לטובת מי, והאם מישהו שאל אתכם קודם.

ואז יש את העבודה הזהירה ביותר שקראתי בנושא, מאמר מ-2024 בכתב העת Philosophy and Technology מאת Tomasz Hollanek ו-Katarzyna Nowaczyk-Basińska, שני חוקרים בקיימברידג' שחוקרים בדיוק את הפינה בעתיד שבה אני עובד. כבר הכותרת שלהם נוקבת בדברים שאנשים חוששים מהם: griefbots, deadbots, אווטארים שלאחר המוות. האזהרות שלהם ספציפיות, ואני חושב שהן נכונות. Hollanek הזהיר ששירותים כאלה "מסתכנים בגרימת מצוקה עצומה לאנשים אם הם נתונים ל'רדיפות דיגיטליות' לא רצויות מצד שחזורי בינה מלאכותית מדויקים להפליא של אלה שאיבדו." הוא הוסיף: "אנשים עלולים לפתח קשרים רגשיים חזקים עם סימולציות כאלה, מה שיהפוך אותם פגיעים במיוחד למניפולציה." שותפתו למאמר כינתה את התחום כולו "שדה מוקשים אתי", ובחרה בביטוי הזה בקפידה. שדה מוקשים אינו מקום שמסרבים לחצות. הוא מקום שחוצים לאט מאוד, תוך כדי הסתכלות איפה מניחים את הרגליים.

מה שהמאמר מקיימברידג' עושה, ומה שהגרסה של ארוחת הערב לפחד לא עושה לעולם, הוא להפריד בין האנשים המעורבים. יש את האדם שמשחזרים. יש את האדם שמבצע את השחזור. ויש מי שמסיים בשיחה עם התוצאה, שאולי הוא ילד, ושאולי רחוק מלהיות מוכן. שלושה אנשים שונים, שלוש קבוצות זכויות שונות, וכמעט אף אחד מהמוצרים בתחום לא חשב ברצינות על כך שהם יכולים להתפצל. הצורך של בת לשמוע שוב את אמה אינו כמו רצונה של האם להישמע, ורצונה של חברה לשמור על מעורבותן של שתיהן אינו כמו אף אחד מהם.

אפשר להוסיף את המקרה שכולם מגיעים אליו. בקיץ 2025 עיתונאי ראיין אווטאר בינה מלאכותית של Joaquin Oliver, נער שנהרג בגיל שבע עשרה בירי בפארקלנד, שנבנה בידי הוריו האבלים ושוחרר בסמוך ליום ההולדת שלא זכה לחגוג. התגובה הייתה מיידית ובעיקרה סלידה. מקברי, אמרו אנשים. מטריד. אביו ענה למבקרים באבל כל כך ישיר שקשה היה להתווכח איתו: בינה מלאכותית לא הרגה את בנו. זה מקרה קשה באמת, ואני מעלה אותו לא כדי לפתור אותו אלא כדי לסמן אותו, כי הוא מחזיק את כל חוטי החיבור הזה בקשר אחד. אדם אמיתי, שאיננו. אנשים שאהבו אותו, שפועלים מאהבה. גרסה שלו שאומרת דברים, בפומבי, שמעולם לא הספיק להחליט שיגיד.

החזיקו את כל זה במלוא עוצמתו. בעיית ההופעה אמיתית. בעיית המשמורת אמיתית. בעיית הרדיפה, בעיית המניפולציה, בעיית שלושת האנשים, כולן אמיתיות. אני לא מתכוון לשכנע אתכם שהן אינן.

מה משותף להתנגדויות

אבל הציבו אותן זו לצד זו ושימו לב למה שהן באמת חולקות. ה"כאילו" של Turkle. האפוטרופוסים של Kasket. שלושת בעלי העניין המופרדים של צוות קיימברידג'. הוריו של Joaquin Oliver שמחליטים, בשמו, מה הוא היה רוצה שיאמרו על נשק. כל אחת מהן היא, בבסיסה, דאגה לגבי כתיבה. לגבי מי מחזיק את העט. לגבי הפער בין האדם שחי לבין הגרסה שמדברת עכשיו בשמו, ובעיקר לגבי מי מחליט מה ימלא את הפער הזה.

המסגור מחדש הזה חשוב יותר משנראה, כי הוא מזיז את הסכנה. הסכנה לא הייתה באמת הטכנולוגיה. הקלטה אינה מסוכנת. מודל אינו מסוכן. מה שמסוכן הוא גרסה של אדם שמישהו אחר כתב, מסיבותיו שלו, שהאדם מעולם לא ראה ואינו יכול לתקן. הצמרמורת שאנשים מרגישים היא אות, והאות אינו "זה מזויף". האות הוא "מישהו מדבר בשמכם בלי שהרוויח את הזכות לכך".

ברגע שרואים זאת כך, קורה דבר מוזר. הבעיה מפסיקה להיות חדשה.

את הזיכרון תמיד כתבו החיים

הנה החלק שלא נעים לנו לומר. תמיד זכרו אותנו לא נכון, תמיד הנחנו לחיים לעשות את הזיכרון, ובנינו מוסדות שלמים כדי שהעריכה תרגיש טבעית.

ההספד הוא כתיבה. מישהו קם ובוחר, מתוך חיים שלמים וסותרים, את שלושת הסיפורים שייצגו אתכם, והבחירה היא טיעון על מי הייתם, ואתם לא שם כדי לומר שהייתם בוחרים סיפורים אחרים. מודעת האבל היא כתיבה, לפי תבנית, בסגנון שאיש מעולם לא דיבר בו, שהופכת אדם קשה, מצחיק וספציפי לפסקה של מעלות. סיפורי משפחה הם כתיבה, והם מתקשחים עם כל סיפור מחדש, עד שהגרסה שמועברת לנכדים היא דמות ולא אדם: הסבא שהיה תמיד קפדן, הדודה שלא נישאה מעולם בגלל משפט אחד שאמרה פעם והצטערה עליו. לאדם שמתחת היה ויכוח פנימי שלם. הסיפור שמר את המסקנה וזרק את הוויכוח.

זו אינה כשל של אהבה. זו מכניקת הזיכרון. החיים שומרים את מה שהם יכולים לשאת, ומה שהם יכולים לשאת קטן, והם נושאים אותו בצורה שעוזרת להם להמשיך לחיות. אֵם הופכת ליום הכי טוב שלה. אב הופך ליום הכי גרוע שלו, אם היום הגרוע שלו הוא זה שסימן אתכם. אנשים שלמים נדחסים לתכונה האחת שהייתה שימושית ביותר לאלה שזוכרים. עשינו זאת עם מכתבים ויומנים, ועם מצבות שצמצמו שישים שנה לשורה. שטחנו את המתים מאז שיש לנו מתים, וקראנו לזה כבוד.

לכן כשמישהו אומר לי שגרסת בינה מלאכותית של אדם מפחידה כי אולי לא תלכוד מי הוא היה באמת, אני רוצה להצביע בעדינות על כך שגם ההספד לא לכד מי הוא היה באמת. שום דבר לא לוכד. הבחירה מעולם לא הייתה בין זיכרון אמיתי לזיכרון מעוות. הבחירה הייתה תמיד בין עיוות אחד לאחר, כולם נכתבים בידי מי שנשארו מאחור, אף אחד מהם לא נבדק מול האדם היחיד שהכיר.

מה שחדש באמת אינו העיוות. הוא היה לנו. מה שחדש הוא שהאדם יכול לקבל קול.

הקול

זו נקודת המפנה, וכדאי להיות מדויקים לגביה.

לאורך כל ההיסטוריה לא היה לכם חלק בזיכרון שלכם. מתתם, והעט עבר לידיים אחרות, ומה שהן כתבו הפך להיות אתם. הטכנולוגיה שאני עובד עליה עושה בדיוק דבר אחד חדש באמת. היא מאפשרת לאדם, בעודו בחיים, להחזיר חלק מהכתיבה לידיו. לא את כולה. אי אפשר לשלוט במה שאנשים מרגישים או במה שהם בוחרים להדגיש או באילו מהסיפורים שלכם ישרדו את הדור השני. אבל אפשר, בפעם הראשונה, להשאיר משהו שעיצבתם בכוונה, במילים שלכם, עם הסתירות שלכם במקומן, במקום להשאיר רק חומר גלם שאחרים יעצבו אחרי שכבר לא תוכלו להתנגד.

משום כך הגעתי להאמין שהסכמה אינה תכונה של העבודה הזו. היא ההבדל המוסרי כולו. יש שתי דרכים שבהן גרסה של אדם מת יכולה להיווצר. האחת מורכבת אחרי המוות, מבחוץ, בידי קרובים או חברות או עיתונאי עם אג'נדה, מכל שבר שהם מצליחים לאסוף, לשירות מה שהחיים צריכים שהמתים יהיו. האחרת מעוצבת בידי האדם עצמו, בעודו חי, בוחר מה לכלול, מחליט איך הוא רוצה שיפגשו אותו. שני הדברים האלה יכולים להיראות כמעט זהים מבחוץ. הם יכולים להשתמש באותה טכנולוגיה. והם הפוכים מוסרית, כי רק אחד מהם נושא את חתימת המחבר.

הגרסה בעלת המעמד המוסרי היא זו שהאדם יצר. לא המדויקת ביותר. לא המנחמת ביותר. זו שהוסכם עליה. שחזור שנבנה אחרי המוות, ככל שיהיה דומה לחיים, הוא דיוקן שצויר בידי מישהו אחר, והוא יכול להיות דיוקן אוהב או ציני, אבל אינו תיאור של האדם את עצמו ואין לאפשר לו לעבור כזה. גרסה שהאדם בנה בעודו חי היא עדות. זה הדבר הקרוב ביותר שיהיה לכל אחד מאיתנו לענות בחזרה.

כאן המקרה של Joaquin Oliver מפסיק להיות קשר והופך למבהיר. אי הנוחות שכל כך הרבה אנשים חשו לא הייתה באמת לגבי הטכנולוגיה, ולא באמת לגבי הוריו, שעשו את הדבר המובן ביותר בעולם. אי הנוחות הייתה שנער בן שבע עשרה קיבל דעות, בפומבי, בגיל עשרים וחמש שלא הגיע אליו, והוא לא היה שם כדי להסכים. הוריו החזיקו את העט מאהבה. אבל העט עדיין לא היה שלו. זה הקו. לא מצמרר או לא מצמרר. נכתב בידי העצמי, או נכתב בידי מישהו אחר.

אני רוצה להיות זהיר כאן, כי הסכמה אינה הופכת את שדה המוקשים לבטוח. חוקרי קיימברידג' צודקים שגם גרסה שהוסכם עליה במלואה יכולה להסב מצוקה למי שמדבר איתה, יכולה לטפח תלות, יכולה להיבנות כך שתשאיר אדם מעורב מעבר לנקודה שטובה לו. אדם יכול להסכים שיזכרו אותו ובכל זאת להפוך, אחרי המוות, למשהו שלא היה מזהה, אם החברה שמחזיקה את ההקלטה מחליטה לשנות אותה. הסכמה שניתנה בחיים משמעותה משהו רק אם מכבדים אותה אחר כך, במדויק, בלי עריכות שקטות, בלי עסק ששם משפר את המתים בשקט כדי להתאים אותם למדד. ההבטחה מתקיימת רק אם הגרסה קפואה ברגע שהאדם התכוון אליו, ואיש, לא החברה, ואפילו לא המשפחה האבלה, אינו ממשיך לערוך מי היה אדם. אחרת הסכמה היא רק חתימה על מסמך שאיש אינו מתכוון לשמור.

אז הרף גבוה מהסכמה בלבד. זו הסכמה, ועוד נאמנות להסכמה הזו לנצח, ועוד הענווה לבנות רק את מה שהאדם בחר להשאיר ולסרב להמציא את השאר. אם מעולם לא הקליט מה הוא חושב על אלוהים, הגרסה אינה רשאית לנחש. השתיקה היא חלק מהעדות. אדם רשאי להשאיר דברים בלתי אמורים, וגרסה שממלאת את השתיקות האלה כדי להיראות שלמה יותר כבר הפרה את ההבטחה היחידה שחשובה.

האינטרס שלי באמירה הזו

אני צריך להיות גלוי לגבי עמדתי, כי אינני צופה ניטרלי בוויכוח הזה. החברה שלי, Afterlife.ai®‎, קיימת כדי לעזור לאנשים להקליט את עצמם בעודם בחיים, וכל מה שטענתי זה עתה הוא גם, באופן נוח, תיאור של מה שאני מנסה לבנות. כדאי שתשקלו את דבריי בהתאם. כשמייסד אומר לכם שהגרסה האתית של מוצר היא במקרה הגרסה שהוא מוכר, התגובה הנכונה היא גבה מורמת, ואני מעדיף שתרימו אותה מאשר לא.

מה שאני יכול לומר הוא שלא הגעתי להסכמה כעמדה שיווקית. הגעתי אליה מתוך התבוננות באלטרנטיבה, והאלטרנטיבה מפחידה באמת: עתיד שבו כל אחד יכול להיבנות מחדש בידי כל אחד, אחרי המוות, מפסולת חייו המקוונים, ולהיאלץ לומר דברים, לתמוך בדברים, לנחם אנשים, למכור דברים, בלי חתימה ובלי קול ובלי דרך שהמתים יתנגדו, כי התנגדות היא הדבר היחיד שהמתים לעולם אינם יכולים לעשות. מול העתיד הזה, חומת האש היחידה שאני יכול לחשוב עליה היא עיקרון פשוט וישן: הגרסה היחידה שלכם שמותר לה לדבר בשמכם היא זו שהסכמתם לה. כל השאר הוא אנשים אחרים שכותבים את ההספד שלכם וקוראים לו אתם.

ממה אנחנו באמת חוששים

אני כל הזמן חוזר לאותן הלוויות, ולחוסר ההתאמה הקטן בין האדם שבארון לאדם שבנאום.

אנחנו סובלים את חוסר ההתאמה כי תמיד נאלצנו. המתים לא יכלו לתקן אותנו, אז השלמנו עם כך שאנחנו טועים בהם קצת, ואמרנו לעצמנו שהגרסה האוהבת היא האמיתית, ובדרך כלל התכוונו לטוב. אבל אם שואלים אנשים מה הם היו רוצים, בשעות הכנות, כמעט אף אחד לא אומר שהוא רוצה שיזכרו אותו כקדוש. הם רוצים שיזכרו אותם כמו שהם. קשים היכן שהיו קשים. מצחיקים באופן הספציפי שבו היו מצחיקים. טועים בדברים שטעו בהם, ומותר להם להמשיך לטעות, כי הטעות הייתה שלהם והייתה חלק מהשלם. מה שאנשים חוששים ממנו אינו שישכחו אותם. זה שיזכרו אותם, אבל כמישהו חלק יותר וקטן יותר וקל יותר ממה שהיו באמת.

הטכנולוגיה שאני עובד עליה לא תתקן את המוות והיא לא יכולה להחזיר איש לשלמותו. אין לי עניין להעמיד פנים אחרת. אבל היא משנה דבר אחד, ואינו דבר קטן. לאורך כל ההיסטוריה האנושית, התשובה ל"מי מחליט איך יזכרו אותי" הייתה: לא אתה. זה תמיד היה האנשים שנשארו מאחור, עם העריכה האוהבת, החלקית והבלתי נמנעת שלהם, כשהסכמתכם לא התבקשה ולא הייתה אפשרית. בפעם הראשונה אדם יכול להשאיר תיאור בכתב ידו. לא המילה האחרונה. אין מילה אחרונה. אבל מילה. קול בחדר שנהג לשתוק ברגע שאתם שתקתם.

הפחד שיזכרו אותנו לא נכון הוא הפחד השקט הקדום ביותר שאנחנו נושאים לגבי מותנו, קדום מכל מכונה, קדום מהמילה הכתובה, ישן כמו האדם הראשון שעמד מעל קבר ובחר איזה סיפור לספר. המכונות לא המציאו את הפחד הזה והן לא יצילו אותנו ממנו. מה שהשתנה הוא רק זה: למשך חלון היסטורי מוזר אחד, לפני שהנורמות מתקשחות והחוק משיג ואנחנו מחליטים מה נאפשר ומה לא, העט נמצא לרגע בהישג ידו של האדם שעליו הוא באמת נכתב.

הדבר הכן לעשות איתו אינו לתפוס אותו בשם המתים. אלא למסור אותו, כל עוד יש זמן, לחיים, ולהניח להם להחליט בעצמם איך הם רוצים להישמר.