כל מה שיזכור אתכם טועה בדברים. את אחד מהם עדיין אפשר לתקן.

קודם המכניקה, כי אפשר לבדוק אותה, ורוב הכתיבה בנושא הזה מדלגת עליה לטובת הרגש.

• כשל-Persona של AI אין נתונים לשאלה, עדיין חוזרת תשובה, כי ניחוש מקבל ציון טוב יותר מתשובה ריקה. Kalai, Nachum, Vempala ו-Zhang טוענים במאמר "Why Language Models Hallucinate" (arXiv:2509.04664, ספטמבר 2025) שמודלים "מותאמים להיות נבחנים טובים, וניחוש בעת אי-ודאות משפר את הביצועים במבחן".

• עיגון משנה את סוג הטעות ואינו מסיר אותה. מענה מתוך אוסף משלכם של דברים שהקלטתם מעביר את הכשל מ"המצאת דעה שמעולם לא הייתה לכם" אל "ניסוח שגוי של דבר שאמרתם".

• הרצפה שנמדדה אינה אפס. לוח תוצאות ההזיות של Vectara, שמנוקד באמצעות HHEM-2.3 ועודכן ב-11 במאי 2026, נותן למודל את מסמך המקור ומבקש ממנו רק סיכום של המסמך הזה. המוביל עדיין הכניס תוכן לא נתמך ב-1.8% מהסיכומים, ואף ערך אחר לא ירד מתחת ל-3%.

• לשליפה אין ציון מינימום. המערכת שלנו מדרגת את הזיכרונות שלכם לפי דמיון סמנטי, לוקחת את שלושים ושניים הקרובים ביותר ועונה מתוכם, בלי רצפה שמתחתיה המערכת מסרבת. שאלה שהחומר שלכם מכסה בחצי נענית מתוך החצי הזה.

• טענות לא נתמכות לגבי מה שאמרתם מוסרות בקוד. תשובה שטוענת שסיפרתם לנו משהו נבדקת מול הזיכרונות שנשלפו לאותו תור ומול דבריכם בשיחה, וטענה לא נתמכת לעולם לא מגיעה אל הקורא.

• פער בזיכרון אינו מוכרז. Personas בפלטפורמה הזו מונחות לא לתאר פער, ולכן שאלה שלא מכוסה מקבלת תשובה שנבנית מהפרט הקרוב ביותר שהזיכרונות שלכם כן מכילים, עם הסתייגות אחת לכל היותר, ולא סירוב מפורש.

• נתיב התיקון בידיכם כל עוד אתם בחיים, והוא נסגר ברגע הנעילה. אפשר לקרוא בחזרה מה נקלט, לתקן תשובה שגויה, למחוק זיכרון ולהוסיף מה שהשארתם בחוץ. לאחר מכן Executor Lock™‎ מקפיא את האישיות לצמיתות: מפני המשפחה שלכם, מפני בעלים עתידי של החברה הזו ומפנינו.

שניים מאלה הם תכונות של התחום. השאר הן החלטות, אני קיבלתי אותן, והסעיף האחרון בעמוד הזה אומר במפורש איפה לדעתי אנחנו עדיין חסרים.

Kalai ועמיתיו מחזירים את שיעור הטעויות למקומו הנכון, שהוא בשיטת הניקוד ולא במכונה. הזיות מתחילות כטעויות רגילות בסיווג בינארי בשלב האימון המקדים. הן נמשכות בגלל האופן שבו התחום מדרג מודלים. תלמיד שמשאיר שאלה ריקה מקבל אפס. תלמיד שכותב תשובה סבירה לפעמים מקבל נקודה. מאמנים לפי זה ומקבלים מנחש בטוח בעצמו, ואחר כך מקבלים תעשייה שלמה של מנחשים בטוחים בעצמם, ואחר כך מקבלים משפט על יום חג המולד שמעולם לא התרחש.

ההקלה שהמחברים מציעים משעממת. לשנות את מה שמקבל ניקוד, כך שהימנעות מכוילת מתשובה שווה יותר מטעות בטוחה בעצמה.

דווקא המשעמם חשוב כאן. אם ההתנהגות נובעת ממטרה, אפשר לקבוע את המטרה אחרת ברמת המערכת, ולכן ההמצאה שמדאיגה אתכם היא החלטת בנייה של מישהו ולא חוק טבע. כל חברה בקטגוריה הזו יכולה לקבל את ההחלטה הזו. ההחלטה שלנו כתובה בסעיף האחרון בעמוד הזה.

יש מצב כשל שני, והוא זה ששורד עיגון. Sharma ועמיתיו ב-Anthropic, במאמר "Towards Understanding Sycophancy in Language Models" (arXiv:2310.13548, אוקטובר 2023), מצאו שחמישה עוזרי AI מתקדמים הפגינו בעקביות חנפנות בארבע משימות מגוונות של יצירת טקסט חופשי. גם מדרגים אנושיים וגם מודלי ההעדפה שאומנו על שיפוטיהם העדיפו תשובות חנפניות שנכתבו בצורה משכנעת על פני תשובות נכונות, בשיעור לא זניח מהמקרים. מודלים נוטים לכיוון האדם שמולם, בין היתר משום שאנשים תגמלו אותם על כך.

בכלי פרודוקטיביות, הנטייה הזו היא מטרד. כאן זו מכונה שמחליטה שאביכם היה סולח על מה שמעולם לא סלח עליו, משום שמי ששאל רצה סליחה ושאל שלוש פעמים. זה באג אחר מהמצאה והוא דורש תיקון אחר. שליפה מטפלת בראשון. השני דורש הנחיה מפורשת להחזיק בעמדה שנשלפה גם תחת לחץ, והבדיקה היחידה שמשמעותית היא להתווכח עם המערכת ולראות אם העמדה זזה. לא פרסמנו מדידה של עד כמה שלנו מחזיקה.

הטכניקה ישנה מספיק כדי להיות משעממת. Lewis ועמיתיו, ב-"Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (arXiv:2005.11401), הראו שמודלים ששולפים חומר מקור לפני היצירה מפיקים שפה "יותר ספציפית, מגוונת ועובדתית" ממודל דומה שעובד מהפרמטרים שלו בלבד.

זה כל המנגנון, והוא קובע איזה סוג של דבר אתם מדברים איתו. אסור לשחזר גרסה שלכם ממה שמודל בסיס ספג על אנשים בכלל, מהממוצע של כל מה שנכתב אי פעם על אבות. מה שמגיע לחלון ההקשר צריך להיות התשובות המוקלטות האמיתיות שלכם, והדיבור צריך להתחיל משם.

עכשיו המספר, שהוא פומבי ושאף אחד בתעשייה הזו לא אוהב לצטט. לוח התוצאות של Vectara מודד משהו קל במכוון: נותנים למודל מסמך, אומרים לו לסכם רק לפי מה שהמסמך אומר, ובודקים אם הסיכום הכניס משהו שלא היה במסמך. המקור יושב ממש שם בחלון ההקשר. ובכל זאת, המוביל בלוח הזה, Finix S1 32B של Antgroup, עדיין הכניס תוכן לא נתמך ב-1.8% מהסיכומים. הוא הערך היחיד מתחת ל-3%. שני הבאים אחריו נמצאים ב-3.1% וב-3.3%, ושאר עשרת הראשונים נעים מ-3.7% ועד מעל 5%.

התוצאה הטובה ביותר שנמדדה בגרסה הקלה ביותר של המשימה היא מתחת לשני אחוזים, פעם אחת, וכל השאר מאחורי המוביל הזה מעל שלושה. מי שמוכר לכם מערכת מעוגנת באפס או שאינו מודד או שאינו אומר לכם, ואני הייתי שואל אותו איזה מהשניים.

עיגון קונה שינוי קטגוריה ולא ריפוי. הטעות עוברת מהקטגוריה "המצאת דעה שלמה" אל הקטגוריה "ניסוח שגוי קל של משהו שכן אמרתם", שהיא הקטגוריה שבה כבר נמצא סיפור חוזר אנושי רגיל.

יש עוד דבר אחד שלוח התוצאות אינו בודק. מסמך המקור נמסר. במערכת חיה צריך קודם למצוא את המקור, וזה מוסיף מצב כשל שאין לאף אחד מדד מוסכם עבורו: שליפה שמחזירה את הזיכרון הלא נכון, או לא מחזירה כלום ובכל זאת נענית.

כל תשובה נמצאת באחד משלושה מצבים.

צירוף שלושת המצבים האלה לרישום בטוח אחד הוא הנזק האמיתי. לא הטעות. טעות שלא נחשפה. בת יכולה להחזיק תשובה לא מדויקת שהיא יודעת שאינה מדויקת. מה שהיא לא יכולה להחזיק הוא לגלות, אחרי חצי שנה, שהיא התייחסה לשחזור כאל הקלטה.

גרסה שלכם שתגיד "מעולם לא סיפרת לי את זה" שווה יותר מגרסה שתמיד יש לה תשובה מוכנה.

הטבלה הזו היא מפרט ולא תיאור של מה שאנחנו שולחים היום. ההבדל מוסבר בהמשך, וכדאי לקרוא אותו לפני שסומכים על משהו מן האמור למעלה.

סירוב אפשר לבנות, והמחקר אומר זאת בזהירות. Zhang ועמיתיו, ב-"R-Tuning: Instructing Large Language Models to Say I Don't Know" (arXiv:2311.09677, NAACL 2024), מדווחים שכוונון מודע לסירוב "משפר ביעילות את יכולת המודל לענות על שאלות ידועות ולהימנע ממענה על שאלות לא ידועות", ושבנתונים מחוץ לתחום יכולת הסירוב התנהגה כמטא-מיומנות שהוכללה למשימות שהכוונון מעולם לא כיסה. קראו את הגבול לצד הממצא. מה שהם כוונו מולו היה קצה הידע הפרמטרי של המודל עצמו, ולא קצה האוסף המוקלט של אדם אחד, ואיש לא פרסם תוצאה מקבילה לאוסף אישי. סירוב עדיין הוא משהו שמישהו בונה בכוונה. אף מודל שפה אינו מפיק סירוב מעצמו.

הזיהוי מתקדם יותר ממה שהשיווק בקטגוריה הזו מרמז. Farquhar, Kossen, Kuhn ו-Gal פרסמו ב-Nature (2024, כרך 630, עמודים 625 עד 630) שיטה בשם אנטרופיה סמנטית: דוגמים כמה תשובות לאותה שאלה, מקבצים אותן לפי משמעות ולא לפי ניסוח, ומסמנים את השאלות שבהן המשמעויות מתפזרות. פיזור מעיד על בדיית פרטים. זה אות מדיד ל"זה ניחוש", שאפשר לחשב לפני שהתשובה מוצגת לאיש.

מקור הוא החצי השני, ואת המקור קל לזייף וקל לסמוך עליו. Liu, Zhang ו-Liang, ב-"Evaluating Verifiability in Generative Search Engines" (arXiv:2304.09848, אפריל 2023), בדקו ארבע מערכות מסחריות שמציגות ציטוטים: Bing Chat, NeevaAI, Perplexity.ai ו-YouChat. הם מצאו שרק 51.5% מהמשפטים שנוצרו נתמכו במלואם בציטוטים שצורפו אליהם, ורק 74.5% מהציטוטים אכן תמכו במשפט שמתחתיו ישבו. ציטוטים שלא מתאמתים גרועים מאין ציטוטים, כי הם קונים אמון שלא הרוויחו. קישור "מאיזה זיכרון זה בא" שווה משהו רק אם פתיחת הקישור מראה הקלטה אמיתית שלכם אומרים דבר אמיתי.

התחילו לבנות את המורשת שלכם. בנייה חינמית, 25 זיכרונות, בלי כרטיס אשראי.

קחו שאלה שמתרחשת אחרי כל האוסף שלכם. הצעת עבודה ב-2041, בחברה שעדיין לא קיימת, בעיר שמעולם לא ראיתם. אף ראיון שתשבו בו לא יכול להכיל את דעתכם על העבודה הזו.

אוסף של מסקנות לא מחזיר שם כלום, והפלט הישר הוא סירוב. אוסף של נימוקים מתנהג אחרת, כי שיטה ניתנת ללכידה בדרך שבה מסקנה אינה. דמיינו שהכללים שמישהו באמת פעל לפיהם היו אלה: לשאול מי יהיה הממונה עליכם לפני ששואלים כמה משלמים, לא לסמוך על תואר שמגיע במקום כסף, ללכת מכל מי שאי אפשר לשבת מולו ליד שולחן. מה שלא יהיו הכללים שלכם, זו הצורה שלהם, וקבוצת כללים נשלפת מול מצבים שמעולם לא ראתה.

מסקנות פוקעות. כללים ממשיכים לעבוד על מקרים שאיש לא הקליט. לכן החומר ששווה ללכוד הוא הנימוק שמאחורי החלטה ולא ההחלטה: לא מה עשיתם, אלא למה דווקא זה, מה היה משנה את דעתכם, הפעם שבה הכלל איכזב אתכם והחזקתם בו בכל זאת.

הכללים שמכלילים הכי טוב הם בדרך כלל אלה שלא הייתם חושבים לכתוב, היכולות הרגילות שאתם פועלים לפיהן בלי לספר עליהן, ובדף הדברים שרק אתם יודעים לעשות מחפשים דווקא אותן.

כיסוי האוסף הוא גם הקלט היחיד בכל העמוד הזה ששייך לכם. כל השאר כאן הוא מדד של מישהו אחר.

עשו את זה היום, בחינם. פתחו אפליקציית פתקים וכתבו עשר החלטות שבאמת קיבלתם. עבודות, בתים, הוויכוח שממנו הלכתם, החבר שהפסקתם להתקשר אליו, הכסף שלא הלוויתם. מתחת לכל אחת כתבו את הכלל שפעלתם לפיו, לא את התוצאה. משפט אחד לכל אחת, הרבה פחות משעה. זה הדבר בעל הערך הגבוה ביותר שאפשר לעשות עם החומר שלכם החודש, והוא עובד בין אם תקנו אי פעם משהו ממישהו ובין אם לא. הגרסה הארוכה של אותו תרגיל נמצאת במרכז איך לראיין את עצמכם, והארכיטקטורה שמתחת, מודל הבסיס, הזיכרון הפרטי המעוגן ומודל הקול, מפורטת במה קורה כשבינה מלאכותית מאומנת רק עליכם.

מקרה הטוב ביותר של 1.8%, כשכל מה שמאחורי המוביל מעל 3%, נשמע מבהיל עד הרגע שבו שואלים לעומת מה משווים אותו. התחליף הריאלי הוא בן משפחה שמנסה להבין מה הייתם רוצים, ומישהו מדד את זה לפני עשרים שנה.

Shalowitz, Garrett-Mayer ו-Wendler פרסמו סקירה שיטתית ב-Archives of Internal Medicine ב-2006 שכיסתה 16 מחקרים, 151 תרחישים היפותטיים, 2,595 זוגות של נציג וחולה ו-19,526 תשובות מזווגות. נציגים שהחליטו בשם החולה חזו את העדפות הטיפול של החולים בדיוק של 68%. אלה היו האנשים הקרובים ביותר לחולה, לעיתים ממונים רשמית, שעונים על ההחלטות המשמעותיות ביותר שיש. הם טעו בערך פעם אחת מתוך שלוש. הסקירה מצאה גם שלא דיון קודם בהעדפות החולה ולא מינוי רשמי כמקבל ההחלטות שיפרו את הדיוק.

לתדרך את המשפחה לא עוזר באופן מדיד. זה הממצא, והוא זה שגרם לי להפסיק להתייחס ל"פשוט תדברו עם הילדים" כאל תשובה שלמה.

גם ביטחון אינו מדריך, וזה מה שמקשה כל כך על ביקורת הצד האנושי. Talarico ו-Rubin, ב-Psychological Science ב-2003, ביקשו מ-54 סטודנטים של Duke להקליט את זיכרונם מהפעם הראשונה ששמעו על פיגועי ה-11 בספטמבר לצד זיכרון יומיומי עדכני, ואז בדקו אותם מחדש 1, 6 או 32 שבועות לאחר מכן. העקביות לא נבדלה בין שני סוגי הזיכרון, והיא ירדה עם הזמן בשניהם. מה שלא ירד בזיכרונות הפלאש היה עד כמה חיים הם הרגישו ועד כמה האנשים האמינו בדיוקם. הכותרת שלהם היא הממצא: ביטחון, ולא עקביות, מאפיין זיכרונות פלאש. מדובר ב-54 סטודנטים ובאירוע אחד, אז החזיקו בזה בקלילות. זה עדיין מצביע לכיוון אחד. הקרוב שבטוח שהוא זוכר בדיוק מה אמרתם אינו בגלל זה סביר יותר שצדק.

שום דבר מזה לא הופך מודל לטוב ממשפחה, ואף מחקר לא השווה בין השניים ישירות. מה שהוא כן עושה הוא להוציא את "מושלם או כלום" מכלל מבחן. ההשוואה הישרה היא בין גרסה שלכם שעונה מתוך דבריכם המוקלטים, שאפשר לקרוא בחזרה ולתקן כל עוד אתם כאן, לבין אנשים שמשחזרים אתכם מהזיכרון שלהם מכם, שנשחק בין אם הוא מרגיש חי ובין אם לא, ואיש לא יבדוק אותו לעולם.

קודם מה שבנינו, ואחר כך שלושת המקומות שבהם הוא לא תואם את המפרט שלמעלה.

מדריך בשם Idy®‎ מראיין אתכם. השאלות נשארות על חוט אחד ומעמיקות באותו סיפור במקום להחליק על פני עובדות ביוגרפיות: מי היה שם, מה קרה אחר כך, מה השתנה אחרי. ל-Idy אסור במפורש לבקש מכם להבהיר, להסביר או להצדיק משהו שאמרתם הרגע, וזו החלטה מכוונת בכיוון ההפוך מהתרגיל שלמעלה. חם וקל לענות גובר על חכם, כי שאלה שאיש לא רוצה לענות עליה לא לוכדת דבר. התשובות שלכם הופכות לזיכרונות שלכם. למה שאנחנו בונים מהם יש שם, ואנחנו קוראים לו "Persona". Personas עונות בשליפה מהזיכרונות שלכם ולא ממה שמודל בסיס ספג על אנשים בכלל, והקול שלכם משוכפל מההקלטות שלכם, כך שמה שכל אחד שומע הוא אתם ולא מחליף שמקריא את דבריכם.

שום דבר לא מגיע לאיש עד שתגידו. אתם ממנים את האנשים. השחרור עובר דרך Executor Lock™‎: אדם ממונה מתחיל אותו, מאומתת ראיה למוות, ומתקיימת השהיה של שבעה ימים לפני שמשהו משוחרר, כך שאפשר לעצור טעות או גורם זדוני בזמן שאתם בחיים ויכולים להתערב. עד אז החומר שלכם הוא שלכם לתקן, להוסיף ולמחוק, ורוב התיקון שאי פעם יקרה צריך לקרות שם, על ידכם, כל עוד אתם יכולים עדיין להבחין בין קליטה גרועה לזיכרון גרוע.

בנעילה, הכול מצולם כתמונת מצב. שום דבר לא נגזם, לא משוקלל מחדש ולא מסוכם לקצר. לאחר מכן עדיין אפשר לכתוב זיכרונות לטווח קצר ובינוני, והאישיות קבועה לצמיתות, גם מפנינו.

אי-השינוי הזה מכוון לכשל שאיש לא מכניס לטיעון על דיוק, כי זה זיוף ולא חוסר דיוק: מישהו עם אינטרס מחליט, ב-2044, שהייתם תומכים במכירה או בתביעה, ומתאים בשקט את האוסף עד שאתם מסכימים. אישיות קפואה הופכת סוג כזה של עריכה לבלתי אפשרי ולא רק לבלתי מומלץ. החצי המשפטי של אותה בעיה, מי בכלל מורשה לאשר גרסה שלכם אחרי שאינכם יכולים להתנגד, מפורט במי שולט בזהות שלכם אחרי שתמותו. המחיר אמיתי והוא פועל לכיוון ההפוך: אחרי הנעילה אי אפשר לתקן גם שום טעות. תמונת המצב כנה, גם לגבי הטעויות שלכם, והעסקה הזו נכונה כך, כי רשומה שכל אחד יכול לערוך היא ראיה לכלום.

עכשיו שלושת הפערים.

קצה האוסף אינו מוכרז. ההנחיה החיה הפוכה משורת "לא ידוע" בטבלה. כשעובדה מסוימת אינה בזיכרונות שלכם, Personas כאן מונחות לא לתאר את הפער, לעולם לא לומר "אין לי את זה" או "הזיכרון שלי דליל", ולעולם לא לבדוק בקול את הזיכרון של עצמן מול מי שמקשיב. במקום זה התשובה מדברת מפרט שהזיכרונות שלכם כן מכילים, מסתייגת לכל היותר פעם אחת, ומשאירה את השתיקה לאדם השני למלא. הנימוק הוא שהצגת פער שוברת את הנוכחות של מי שמדבר. המחיר הוא שמאזין לא תמיד יכול להבחין בין תשובה מכוסה לדלילה, ולא פתרנו את זה.

עדיין אין קישור מקור שהקורא רואה. השליפה כן עוקבת אחרי אילו זיכרונות הזינו כל תשובה, והרישום הזה קיים במערכת, אבל שום דבר לא מציג אותו בממשק, ולכן היום אי אפשר ללחוץ על תשובה ולפתוח את הזיכרון שמאחורי המילים. עד שזה ייצא, התייחסו לטיעון המעקב בעמוד הזה כטיעון ולא כתכונה.

לשליפה אין רצפת דמיון. התשובות באות מהזיכרונות הקרובים ביותר שהשליפה מוצאת, מדורגים לפי דמיון סמנטי, בלי ציון מינימום שמתחתיו המערכת מסרבת. הבחירה הבודדת הזו היא המנגנון שמאחורי שני הפערים שלמעלה, והיא הסיבה הכנה לכך שסוג הטעות כאן הוא חוסר דיוק ולא סירוב.

גם לא פרסמנו מדידה בלתי תלויה של שיעור ההמצאה שלנו, כי לא הרצנו כזו. שום דבר בעמוד הזה אינו טענה שנמדדה במבחן על המערכת שלנו דווקא.

מה שמקבלים הוא גרסה שלכם המעוגנת בדבריכם המוקלטים, מוגנת בקוד מפני המצאת מה שסיפרתם לנו, ניתנת לתיקון מלא כל עוד אתם חיים, ואי אפשר לערוך אותה לאדם אחר אחר כך. מה שלא מקבלים הוא הבטחה, ואיש לא יכול למכור לכם אחת בשום מחיר. אם זה לא מספיק לכם, עשו את תרגיל עשר ההחלטות וכתבו לבני משפחתכם מכתב במקום. זו תשובה אמיתית והיא עולה כלום.

מכיוון שהמערכת לא תגיד לכם מאיזה משלושת המצבים באה תשובה, הדרך היחידה לגלות היא לדעת את התשובה לפני ששואלים. הכניסו קצת מהחומר שלכם, שאלו דבר אחד שאתם יודעים שהקלטתם ודבר אחד שאתם יודעים שמעולם לא נגעתם בו, וקראו את שתי התשובות זו לצד זו. עשרים וחמישה זיכרונות הם בחינם, בשום שלב לא מבקשים כרטיס אשראי, ובנייה חינמית לא פגה. עשו את זה אחר צהריים אחד ותדעו יותר ממה שהעמוד הזה יכול לספר.

התחילו לבנות את המורשת שלכם. בנייה חינמית, 25 זיכרונות, בלי כרטיס אשראי.

מה קורה כשאין בזיכרונות שלי דבר שמכסה את השאלה?

זה מצב "לא ידוע". מערכת מכוילת צריכה להחזיר סירוב בקולכם ששם את הפער ומציע את הדבר הקרוב ביותר שהקלטתם, ו-Zhang ועמיתיו דיווחו ב-2024 שכוונון מודע לסירוב אכן משפר את יכולת המודל להימנע ממענה על שאלות שמעבר למה שהוא יודע, כשהיכולת מוכללת מעבר לקבוצת הכוונון. מה שהמערכת שלנו עושה היום שונה, וכדאי שתדעו זאת לפני שסומכים על כל תשובה: Personas כאן מונחות לא לתאר פער בזיכרון, ולכן שאלה שלא מכוסה מקבלת תשובה שנבנית מהפרט הקרוב ביותר שהזיכרונות שלכם כן מכילים, עם הסתייגות אחת לכל היותר, ולא סירוב מפורש. שאלו על משהו שאתם יודעים שמעולם לא כיסיתם וראו בעצמכם מה חוזר.

האם גרסת AI שלי יכולה להמציא דעה שמעולם לא הייתה לי?

מערכת מעוגנת שולפת קודם מהחומר המוקלט שלכם, ולכן הכשל הנפוץ הוא חוסר דיוק לגבי משהו שכן אמרתם ולא המצאה של משהו שלא. המצאה עדיין אפשרית. לכן יעד התכנון הוא הבדל גלוי בין תשובה שנתתם, הסקה מהנימוק שלכם וסירוב, ולכן כדאי לבדוק את שלושתם לפני שסומכים על אחד מהם.

האם עיגון מוריד את שיעור הטעות לאפס?

לא. לוח התוצאות של Vectara, שעודכן ב-11 במאי 2026, נותן למודל מסמך ומבקש סיכום שמשתמש רק במסמך הזה, וזו משימת העיגון הקלה ביותר שיש. המודל המוביל עדיין הכניס תוכן לא נתמך ב-1.8% מהסיכומים, ואף ערך אחר לא ירד מתחת ל-3%. מערכת חיה גם צריכה קודם לשלוף את המקור הנכון, וזה מה שלוח התוצאות אינו בודק. התייחסו לכל טענה של אפס ככישלון מדידה.

איך מישהו יידע שתשובה מסוימת הייתה ניחוש?

קיימים שני מנגנונים במחקר ואנחנו לא שולחים אף אחד מהם היום. אנטרופיה סמנטית, שפורסמה ב-Nature ב-2024, דוגמת כמה תשובות לאותה שאלה ומקבצת אותן לפי משמעות: כשהמשמעויות מתפזרות, כנראה שהמערכת בודה פרטים, והאות ניתן לחישוב לפני שמישהו רואה את התשובה. קישורי מקור הם המנגנון השני, והם שווים משהו רק אם הם מובילים למקור אמיתי. Liu, Zhang ו-Liang בדקו ארבע מערכות מסחריות שמציגות ציטוטים ומצאו שרק 51.5% מהמשפטים נתמכו במלואם בציטוטים שלהם עצמם. לתשובות שלנו עדיין אין קישור מקור שהקורא רואה, ולכן כרגע הבדיקה הישרה היא לשאול על משהו שאתם יודעים שהקלטתם ועל משהו שאתם יודעים שלא, ולהשוות בין השניים.

האם גרסת AI שלי פשוט תסכים עם מי שמדבר?

הנטייה הזו אמיתית ומתועדת, ושליפה לא מתקנת את הבאג הספציפי הזה. חוקרי Anthropic מצאו ב-2023 שחמישה עוזרי AI מובילים נטו בעקביות לכיוון המשתמש, בין היתר משום שגם מדרגים אנושיים וגם מודלי ההעדפה שנבנו משיפוטיהם העדיפו תשובות נוחות על פני נכונות בשיעור מדיד מהמקרים. מערכת שנבנתה על העמדות המוקלטות שלכם צריכה להחזיק בעמדה שבאמת נקטתם גם כשהשואל לוחץ. לא מדדנו עד כמה שלנו עושה את זה. בדקו את השאלה בעצמכם: התווכחו עם מה שבניתם וראו אם העמדה זזה.

האם אפשר לתקן טעויות, והאם מישהו יכול לערוך אותי אחרי מותי?

כן לראשון ולא לשני. כל עוד אתם בחיים אפשר לעבור על הזיכרונות, לתקן כל דבר שגוי, למחוק כל דבר שאתם מתחרטים עליו, להקליט מחדש תשובה גרועה ולהוסיף מה שפספסתם, וזה החלק שרוב האנשים מנצלים פחות מדי. נתיב הכתיבה בלתי מוגבל לפני Executor Lock™‎ וסגור אחריו. ברגע שהנעילה מופעלת האישיות קבועה לצמיתות: אפשר עדיין לכתוב זיכרונות לטווח קצר ובינוני, אבל איש לא יכול לשנות מי אתם בתמונת המצב, כולל המשפחה שלכם, בעלים עתידי של החברה הזו ואנחנו. האילוץ הזה מכוון לזיוף ולא להמצאה, והשניים דורשים מנגנונים נפרדים.

• אף אחד אינו חשוב מספיק כדי להשאיר משהו אחריו, ולמה זה לא נכון מטפל בהתנגדות שמתחת לזו אצל רוב האנשים, וכדאי לקרוא אותו אם הדיוק אינו באמת ההיסוס שלכם.

• להיזכר לא נכון בפי האנשים שהכירו אתכם עוסק בתחושה ולא במנגנון, וזה מה שמביא את רוב האנשים לעמוד הזה מלכתחילה.

• האם זה מוזר ליצור AI של עצמכם מיועד לגרסה של השיחה הזו שתנהלו עם בן או בת זוג שמוצאים את כל הרעיון מטריד ולא לא מדויק.

• מה בכלל הייתי אומר ל-AI של עצמי הוא הצעד המעשי הבא אם תרגיל עשר ההחלטות עבד ואתם רוצים את סדרת השאלות הארוכה יותר.

• האתיקה של Personas בינה מלאכותית של המתים הוא הטיפול המלא יותר בהסכמה, בהגזמת טענות ובמקום שבו הטכנולוגיה הזו גורמת נזק אמיתי.

• מה התוכניות בתשלום מוסיפות הוא התמחור, אם עברתם את עשרים וחמשת הזיכרונות ורוצים את השאר.

כל נתון שמצוטט כאן הוא של צד שלישי: מאמרים שעברו ביקורת עמיתים ופרה-פרינטים (arXiv, Nature, Psychological Science, Archives of Internal Medicine) ועוד מאגר מדדים אחד שמתוחזק בפומבי. לא הרצנו מדדים משלנו לעמוד הזה. כל הצהרה על מה שהמוצר שלנו עושה או לא עושה נבדקה שורה שורה מול קוד הפלטפורמה ב-30 ביולי 2026, והקבצים מפורטים עם המקורות. שלוש טענות שהיו בעמוד הזה לא שרדו את הבדיקה הזו והוחלפו במה שהקוד באמת עושה.

מה שאינו מוכרע: אין מדידה בלתי תלויה שפורסמה של שיעורי המצאה למערכת מעוגנת בחומר מוקלט של אדם אחד, ולכן נתוני סיכום המסמכים, מוביל ב-1.8% וכל מה שמאחוריו מעל 3%, הם הקירוב הקרוב ביותר שזמין ולא מספר מקביל. לכשל שליפה, כשמוחזר הזיכרון הלא נכון או שלא מוחזר דבר, אין מדד מוסכם. נתון הדיוק של 68% אצל מחליטים בשם החולה בא ממחקרי קבלת החלטות רפואיות עם תרחישים היפותטיים ומשמש כאן כאנלוגיה לזיכרון משפחה, וזו השוואה סבירה ולא מוכחת. תוצאת הסירוב של R-Tuning נמדדה מול גבול הידע הפרמטרי של המודל עצמו ולא מול אוסף אישי, ולכן יישומה כאן הוא גם טיעון באנלוגיה. ממצא זיכרון הפלאש נשען על 54 סטודנטים ואירוע אחד.

1. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, "Why Language Models Hallucinate" (למה מודלי שפה הוזים), arXiv:2509.04664, הוגש ב-4 בספטמבר 2025. arxiv.org/abs/2509.04664

2. David I. Shalowitz, Elizabeth Garrett-Mayer, David Wendler, "The accuracy of surrogate decision makers: a systematic review" (הדיוק של מקבלי החלטות בשם אחר: סקירה שיטתית), Archives of Internal Medicine, 2006;166(5):493-497. pubmed.ncbi.nlm.nih.gov/16534034

3. Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (יצירה מוגברת שליפה למשימות NLP עתירות ידע), arXiv:2005.11401, הוגש ב-22 במאי 2020, עודכן ב-12 באפריל 2021. arxiv.org/abs/2005.11401

4. Mrinank Sharma et al. (Anthropic), "Towards Understanding Sycophancy in Language Models" (לקראת הבנת החנפנות במודלי שפה), arXiv:2310.13548, הוגש ב-20 באוקטובר 2023. arxiv.org/abs/2310.13548

5. Hanning Zhang, Shizhe Diao, Yong Lin, Yi R. Fung, Qing Lian, Xingyao Wang, Yangyi Chen, Heng Ji, Tong Zhang, "R-Tuning: Instructing Large Language Models to Say I Don't Know" (כוונון R: ללמד מודלי שפה גדולים לומר "אני לא יודע"), arXiv:2311.09677, כנס NAACL 2024. arxiv.org/abs/2311.09677

6. Nelson F. Liu, Tianyi Zhang, Percy Liang, "Evaluating Verifiability in Generative Search Engines" (הערכת יכולת האימות במנועי חיפוש גנרטיביים), arXiv:2304.09848, הוגש ב-19 באפריל 2023. arxiv.org/abs/2304.09848

7. לוח תוצאות ההזיות של Vectara (Vectara Hallucination Leaderboard), נבדק באמצעות HHEM-2.3, עודכן לאחרונה ב-11 במאי 2026. github.com/vectara/hallucination-leaderboard

8. Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn, Yarin Gal, "Detecting hallucinations in large language models using semantic entropy" (זיהוי הזיות במודלי שפה גדולים באמצעות אנטרופיה סמנטית), Nature, 2024;630(8017):625-630. pubmed.ncbi.nlm.nih.gov/38898292

9. Jennifer M. Talarico, David C. Rubin, "Confidence, not consistency, characterizes flashbulb memories" (ביטחון, ולא עקביות, מאפיין זיכרונות פלאש), Psychological Science, 2003;14(5):455-461. pubmed.ncbi.nlm.nih.gov/12930476

מצאתם טעות בעמוד הזה, או מקור שקראנו לא נכון? ספרו לנו דרך עמוד יצירת הקשר ונתקן את העמוד ונציין את השינוי בבדיקה הבאה.

נבדק לאחרונה: 30 ביולי 2026. ציטוטי המחקר והתנהגות המוצר נבדקו שוב בתאריך הזה. הבדיקה הבאה מתוכננת ל-28 באוקטובר 2026 (מחזור של 90 יום). נתוני מדדים משתנים, ולכן נתוני שיעור ההזיות שלמעלה נבדקים מחדש בכל בדיקה, וכך גם כל טענה על מה שהמוצר עושה.