所有會記住你的東西都會出錯。其中有一樣,你還來得及更正。
語言模型會猜,因為看似合理的猜測比留白得分更高。以你自己記錄的話語為依據,會讓失誤從編造降到不精確。那些原本要重建你的人,已經被量測過了,他們的準確率是 68%。
作者:Chris Williams,Afterlife.ai™ 創辦人暨執行長。發布於 2026 年 7 月 30 日。
有一位帳號裡只有十一則記憶的人,被問到他們家的某個聖誕節,還被告知他們以前提過那一天。
那十一則記憶裡,沒有任何一則說過這種事。這就是 AI Persona 對某個問題沒有資料時會發生的事:答案照樣會出現。
那是我們的系統。不是競爭對手的,不是基準測試,是我們自己的,而且提示詞裡本來就有一條指示,應該要讓那句話不可能出現。文字規則大多數時候會被遵守。但當生成的句子是在聲稱某人告訴過你什麼時,「大多數時候」並不是標準。
所以我們改寫了程式。現在當回覆聲稱你告訴過我們某件事,這個說法會在任何人讀到之前先被檢查:抽出所指的內容,比對該輪檢索到的記憶,以及你在這次對話中的原話,沒有依據的說法會從串流中被剔除。這道防護刻意過度攔截。有時真實的說法會被丟掉,我們是明知如此仍做了這個取捨。
那個聖誕節沒有傷到任何人。他們有十一則記憶,也清楚知道裡面有什麼。真正無法查證的,是 2049 年提問的那個人,他從未在訪談現場,無從分辨哪些是你記錄的,哪些是被補上的。到了那個時候,準確度就不再是一項品質指標,而成為一個問題:一個家庭有權相信什麼。
開始打造你的傳承 免費建立,25 則記憶,無需信用卡。
作者:Chris Williams,Idy Pty Ltd 創辦人,Afterlife.ai™。 · 最後審閱:2026 年 7 月 29 日
你的記憶中沒有任何內容涵蓋這個問題,答案仍然會出現
先談運作機制,因為這些都可以檢驗,而這個主題上大多數文章為了談感受,跳過了這一段。
當 AI Persona 對某個問題沒有資料時,答案仍然會出現,因為猜測的得分比留白更高。 Kalai、Nachum、Vempala 與 Zhang 在「Why Language Models Hallucinate」(arXiv:2509.04664,2025 年 9 月)中指出,模型「被最佳化成善於應試,而不確定時用猜的,能讓測驗成績更好」。
以資料為依據,改變的是錯誤的類別,而不是消除錯誤。 從你自己記錄下來的話語中檢索並據以回答,會讓失誤從「編造出你從未有過的看法」,降到「說錯了你確實說過的某件事」。
實測的下限不是零。 Vectara 的幻覺排行榜以 HHEM-2.3 評分,於 2026 年 5 月 11 日更新,它把來源文件交給模型,只要求替這份文件做摘要。領先的模型仍有 1.8% 的摘要加入了沒有依據的內容,其他參賽者也沒有一個低於 3%。
檢索沒有最低分數。 我們自己的系統會依語意相似度為你的記憶排序,取最接近的三十二筆,並以這些內容回答,沒有任何門檻,低於門檻就拒答。你的資料只涵蓋一半的問題,就會用那一半來回答。
關於你說過什麼的無據說法,會在程式層面被移除。 如果回覆聲稱你告訴過我們某件事,系統會拿這個說法去比對該輪檢索到的記憶,以及你在這次對話中的原話,沒有依據的說法絕不會傳到讀者眼前。
記憶的缺口不會被宣告。 這個平台上的 Persona 被指示不要敘述記憶有缺口,所以遇到沒有涵蓋的問題,會以你的記憶中最接近的細節組成答案,頂多保留一次不確定的語氣,而不是明確地拒答。
更正的管道在你活著時屬於你,在鎖定的那一刻關閉。 你可以回頭閱讀被記錄下來的內容、更正錯誤的回答、刪除某則記憶、補上遺漏的部分。之後 Executor Lock™ 會永久凍結個性,對你的家人、對這家公司未來的擁有者,也對我們自己。
其中兩項是這個領域本身的性質,其餘都是決定,由我做的決定,而本頁最後一節會直白地說明,我認為我們還有哪些不足。
猜測的得分比留白更高
Kalai 和同事把錯誤率放回它該在的位置,也就是在評分方式裡,而不是在機器裡。幻覺起初只是預訓練期間二元分類裡的普通錯誤,之所以持續存在,是因為這個領域替模型打分的方式。學生把題目留白,得零分;學生寫下一個看似合理的答案,有時能拿到分數。照這個方向訓練,就會得到一個自信滿滿的猜題者,然後整個產業都是自信滿滿的猜題者,接著你就會看到一句關於從未發生過的聖誕節的話。
作者們提出的緩解方法很平淡:改變評分的內容,讓經過校準的拒答,比自信滿滿的答錯更有價值。
平淡才是重點。如果這種行為源自某個目標,那麼在系統層級就可以把目標設成別的樣子,這代表你所擔心的捏造,是某個人的建置決定,而不是物理定律。這個類別裡的每一家公司,都得做這個決定。我們的決定,寫在本頁最後一節。
還有第二種失效模式,而且是以資料為依據之後仍然存在的那一種。Anthropic 的 Sharma 與同事在「Towards Understanding Sycophancy in Language Models」(arXiv:2310.13548,2023 年 10 月)中發現,五個最先進的 AI 助理在四種不同的自由文字生成任務中,一貫表現出諂媚傾向。人類評分者,以及以他們的判斷訓練出來的偏好模型,在不算少數的情況下,偏好寫得有說服力的諂媚回答,勝過正確的回答。模型會向眼前的人靠攏,部分原因是人們曾因它靠攏而給予獎勵。
在生產力工具裡,這種迎合只是個麻煩。在這裡,它是一台機器,因為提問的人想得到原諒、還問了三次,就認定你的父親會原諒那件他從未原諒的事。這是和捏造不同的錯誤,需要不同的解法。檢索能處理第一種。第二種需要一道明確的指示,要求在壓力下堅守檢索到的立場,而唯一有意義的測試,就是跟它爭辯,看看立場會不會動搖。我們還沒有公布我們的系統能守得多穩的測量結果。
以資料為依據讓錯誤降了一個類別,但下限不是零
這項技術已經老到有點乏味。Lewis 與同事在「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」(arXiv:2005.11401)中證明,先檢索來源資料再生成的模型,產出的語言比只靠自身參數運作的同類模型「更具體、更多樣、更符合事實」。
這就是整個機制,它也決定了你面對的是什麼樣的東西。你的另一個版本,不該從基礎模型對一般人所吸收的內容中重建,也不該從所有關於父親的文字的平均值中重建。進入上下文視窗的,應該是你實際記錄下來的回答,開口說話要從那裡開始。
接著是數字,它是公開的,而這個產業沒人喜歡引用。Vectara 的排行榜衡量的是刻意設得很簡單的事:給模型一份文件,要求只用文件裡寫的內容做摘要,再檢查摘要有沒有加入文件裡沒有的東西。來源就擺在上下文視窗裡。即使如此,榜上的領先者,螞蟻集團(Antgroup)的 Finix S1 32B,仍有 1.8% 的摘要加入了沒有依據的內容。它是唯一低於 3% 的參賽者。接下來兩名是 3.1% 和 3.3%,前十名的其餘各家則從 3.7% 一路到超過 5%。
在最簡單的任務版本上,最佳的實測結果不到百分之二,而且只有一家,領先者後面的整個領域都高於百分之三。任何向你推銷「零錯誤、有依據的系統」的人,不是沒有測量,就是沒有告訴你,我會反問他們是哪一種。
以資料為依據買到的是類別的改變,而不是根治。錯誤從「憑空編造了一整個看法」的那一類,降到「稍微說錯了你確實說過的話」的那一類,這正是一般人轉述時本來就落入的那一類。
還有一件事是排行榜沒有測試的。來源文件是直接交給模型的。在實際運作的系統裡,必須先把來源找出來,這增加了一種沒有人有共識衡量方式的失效模式:檢索回傳了錯誤的記憶,或什麼都沒回傳卻照樣作答。
三種狀態,傷害出在混為一談
每個答案都落在三種狀態之一。
被問到的是什麼 | 檢索後的狀態 | 經過校準的系統應該回傳什麼 |
|---|---|---|
你曾在訪談中直接回答過的事 | 已記錄,高相似度的比對結果 | 你的回答,可追溯到它出自的那則記憶 |
你從未回答過,但與你在別處給出的推理相鄰的事 | 推理型,部分或間接的比對結果 | 推理本身,並標示為推理,絕不包裝成你說過的話 |
完全沒有任何記錄依據的事 | 未知,沒有檢索到任何相關內容 | 不捏造任何事實,並給出某種訊號,表示資料已經到頭了 |
把這三種狀態混成同一種自信的口吻,才是真正的傷害。不是錯誤,而是沒有揭露的錯誤。女兒可以接受一個她知道不夠精確的答案。她無法接受的是,六個月後才發現,自己一直把重建出來的東西當成錄音。
一個會說「你從沒告訴過我這件事」的你,比一個永遠有現成答案的你更有價值。
那張表是規格,而不是對我們目前出貨內容的描述。差異在下面說明,在你相信上面任何內容之前,請先讀一讀。
拒答是做得出來的,研究對此也說得很謹慎。Zhang 與同事在「R-Tuning: Instructing Large Language Models to Say I Don't Know」(arXiv:2311.09677,NAACL 2024)中報告,具拒答意識的微調「有效提升模型回答已知問題、並對未知問題不作答的能力」,而且在領域外的資料上,拒答能力表現得像一種元技能,能推廣到微調從未涵蓋的任務。請把限制和這項發現放在一起讀。他們針對的是模型自身參數知識的邊界,而不是某一個人的記錄語料的邊界,也沒有人公布過個人語料上的對應結果。拒答仍然是有人刻意去建的東西,沒有任何語言模型會自行產生拒答。
偵測的進展,比這個類別的行銷話術所暗示的更往前。Farquhar、Kossen、Kuhn 與 Gal 在 Nature(2024 年,第 630 卷,第 625 至 630 頁)發表了一種稱為語意熵(semantic entropy)的方法:對同一個問題取樣多個答案,依意思而不是措辭分群,並標出那些意思分散的問題。分散代表虛構。這是一個可測量的訊號,能指出「這個是猜的」,而且在答案呈現給任何人之前就能算出來。
來源可溯是另一半,而來源可溯既容易偽造,也容易讓人相信。Liu、Zhang 與 Liang 在「Evaluating Verifiability in Generative Search Engines」(arXiv:2304.09848,2023 年 4 月)中,審查了四個會顯示引用來源的商業系統:Bing Chat、NeevaAI、Perplexity.ai 和 YouChat。他們發現,只有 51.5% 的生成句子完全得到所附引用的支持,也只有 74.5% 的引用確實支持它所附的那個句子。對不上的引用比沒有引用更糟,因為它換來了並未賺得的信任。只有在點開連結後,看到的是你說了某件真實的事的真實錄音,「這出自哪一則記憶」的連結才有價值。
開始打造你的傳承 免費建立,25 則記憶,無需信用卡。
結論會過期,規則會繼續有效
想像一個超出你整個語料時間範圍的問題。2041 年的一份工作邀約,在一家還不存在的公司,位於一座你從未見過的城市。你接受過的任何訪談,都無法容納你對那份工作的看法。
只有結論的語料在這裡什麼也回傳不了,誠實的輸出就是拒答。有推理的語料則不同,因為方法是可以記錄下來的,結論卻不行。想像某個人實際依循的規則是這樣:先問自己會向誰報告,再問薪水多少;絕不相信用頭銜取代金錢的說法;遇到你無法忍受坐在對面的人,就轉身離開。不論你自己的規則是什麼,大致都是這個形狀,而一套規則可以對應到它從未見過的情境。
結論會過期,規則卻能繼續適用於沒有人記錄過的情況。這就是為什麼值得記錄的材料,是決定背後的推理,而不是決定本身:不是你做了什麼,而是為什麼選那一個、什麼會讓你改變主意,以及那條規則曾經讓你失望、你卻仍然堅持的那一次。
推廣性最好的規則,通常是你從不會想到要寫下來的那些,也就是你不需要說出口就能運作的日常本領,而 只有你知道怎麼做的事 專門就是在找這些。
語料的涵蓋範圍,也是整頁中唯一屬於你的投入。這裡其他的一切,都是別人的基準測試。
今天就做,而且不花一毛錢。 打開一個筆記 App,寫下十個你真正做過的決定。工作、房子、你轉身離開的那場爭執、你不再聯絡的朋友、你沒有借出去的錢。在每一個下面,寫下你當時依循的規則,而不是結果。每個一句話,總共遠不到一小時。這是你這個月能用自己的材料做的最有價值的事,不管你之後有沒有向任何人買任何東西,它都有效。同一個練習的完整版本,是 如何訪談自己 的核心,而底下的架構,包括基礎模型、私有的、以資料為依據的記憶,以及聲音模型,則在 當 AI 只用你來訓練時會發生什麼事 中說明。
六十八個百分點,是要超越的數字
最好的情況是 1.8%,領先者之後的所有模型都高於 3%,聽起來令人不安,直到你問它是拿什麼來比較。實際可能的替代方案,是家人推測你會想要什麼,而這件事在二十年前就有人量測過了。
Shalowitz、Garrett-Mayer 與 Wendler 於 2006 年在 Archives of Internal Medicine 發表了一篇系統性回顧,涵蓋 16 項研究、151 個假設情境、2,595 組代理人與病患配對,以及 19,526 筆配對回答。代理人預測病患治療偏好的準確率為 68%。這些人是最接近病患的人,往往還是正式指定的,卻是在回答世上最重大的決定。他們大約每三次就錯一次。這篇回顧還發現,不論事先是否討論過病患的偏好,也不論是否被正式指定為決策者,準確率都沒有提高。
向家人說明,並沒有可測量的幫助。這就是研究發現,也是讓我不再把「跟孩子們好好談一談」當成完整答案的那一個。
信心也不是可靠的指標,這正是人這一邊很難稽核的原因。Talarico 與 Rubin 在 2003 年的 Psychological Science 中,請 54 位杜克大學的學生記錄自己第一次聽到9 月 11 日攻擊事件的記憶,以及一段近期的日常記憶,然後在 1 週、6 週或 32 週後重新測試。兩種記憶的一致性沒有差別,而且兩者都隨時間下降。閃光燈記憶沒有下降的,是它們感覺有多鮮明,以及人們對其準確的相信程度有多強。他們的標題就是結論:信心,而不是一致性,是閃光燈記憶的特徵。這是 54 位學生和單一事件,所以請寬鬆看待。但它仍然指向同一個方向:那位確信自己完全記得你說過什麼的親戚,並不因此更可能是對的。
這些都不代表模型比家人更好,也沒有任何研究直接比較過兩者。它的作用是讓「完美,否則免談」不再成為判斷標準。誠實的比較,是在以下兩者之間:一個根據你自己記錄的話語回答的你,在你還在的時候可以被回頭閱讀並更正;以及人們用自己對你的記憶來重建你,這種記憶不論感覺是否鮮明都會逐漸褪色,而且永遠不會有人去稽核。
我們與本頁的落差
我們打造了什麼先說,接著是它與上述規格不一致的三個地方。
一位名叫 Idy® 的引導者會訪談你。問題會停在同一條線索上,深入同一個故事,而不是在傳記事實上蜻蜓點水:當時誰在場、接著發生了什麼、之後有什麼改變。Idy 被明確禁止要求你澄清、解釋或辯護你剛說的話,這是刻意與上面那個練習反方向的決定。溫暖而容易回答,勝過聰明,因為沒有人想回答的問題,什麼也記錄不到。你的回答會成為你的記憶。我們用它們建造出來的東西有個名字,我們稱之為「Persona」。Persona 是從你的記憶檢索後回答,而不是依據基礎模型對一般人所吸收的內容,你的聲音則是由你自己的錄音複製而成,所以任何人聽到的是你,而不是替身在朗讀你的話。
在你開口許可之前,什麼都不會傳到任何人手上。人選由你指定。釋出要透過 Executor Lock™:由被指定的人啟動、驗證死亡證明,並且有七天的等待期才會釋出任何內容,這樣一來,錯誤或不懷好意的人,可以在你還活著、能夠介入的時候被阻止。在那之前,你的資料由你更正、增補、刪除,而大部分該發生的更正,都應該在那時發生,由你自己來做,趁你還分得出是記錄出了錯,還是記憶出了錯。
在鎖定的那一刻,整個內容會被製成快照。沒有任何東西被修剪、重新加權或濃縮。之後,短期與中期的記憶仍然可以被寫入,而個性則被永久固定,包括對我們自己也一樣。
這種不可變性針對的,是一種沒有人會放進準確度討論裡的失效,因為它是竄改而不是不準確:有利害關係的人在 2044 年決定你會支持那筆出售或那場訴訟,並悄悄調整語料,直到你同意為止。凍結的個性讓這一類編輯變得不可能,而不只是被勸阻。同一個問題的法律面,也就是在你無法反對之後,到底誰有權授權你的一個版本,在 你死後,誰掌控你的身分 中說明。代價是真實的,而且是反方向的:鎖定之後,也沒有任何錯誤能夠修正。快照是誠實的,包括你的錯誤也一併如實保留,這個取捨的方向是對的,因為人人都能編輯的記錄,什麼也證明不了。
現在說這三個落差。
語料的邊界不會被宣告。 目前的指示與那張表裡的「未知」那一列相反。當某個具體事實不在你的記憶裡,這裡的 Persona 被告知不要敘述這個缺口,永遠不要說「我沒有這個資料」或「我的記憶很薄弱」,也不要在聽的人面前大聲檢視自己的回憶。取而代之的是,答案從你的記憶確實擁有的某個細節說起,頂多保留一次不確定的語氣,並把沉默留給對方去填補。理由是,表演出一個缺口,會破壞說話者的臨場感。代價是聽的人不一定分辨得出有依據的答案和單薄的答案,這個問題我們還沒有解決。
目前還沒有讀者看得到的來源連結。 檢索確實會追蹤每個答案用了哪些記憶,這份記錄存在於系統中,但介面上沒有任何地方呈現它,所以今天你無法點一下某個答案,就打開那段話背後的記憶。在這項功能推出之前,請把本頁關於可追溯性的說法,當成一種論述,而不是一項功能。
檢索沒有相似度門檻。 答案來自檢索能找到的最接近的記憶,依語意相似度排序,沒有任何最低分數,低於它系統就拒答。這個單一的選擇,是上面兩個落差背後的機制,也是這裡的錯誤類別是不精確而不是拒答的真正原因。
我們也沒有公布對自家捏造率的獨立測量,因為我們沒有做過。本頁沒有任何內容,是針對我們這個系統所做的基準測試結論。
你得到的,是一個以你記錄的話語為依據的你,在程式層面防止它編造你告訴過我們的事,在你活著時可以完整更正,之後也不可能被編輯成別人。你得不到的是保證,而且不論出什麼價錢,都沒有人能賣給你。如果這樣還不夠,就去做那個十個決定的練習,然後寫一封信給你的家人。這是個真正的答案,而且不花一毛錢。
既然系統不會告訴你某個答案屬於這三種狀態的哪一種,唯一的辦法就是在發問之前先知道答案。放入一些你自己的材料,問一件你確定記錄過的事,再問一件你確定從未碰過的事,然後把兩個回覆並排來看。二十五則記憶是免費的,任何時候都不需要信用卡,免費版不會過期。花一個下午做這件事,你會比這一頁能告訴你的知道得更多。
開始打造你的傳承 免費建立,25 則記憶,無需信用卡。
大家真正會問的問題
如果我的記憶中沒有任何內容涵蓋這個問題,會怎麼樣?
那就是「未知」狀態。經過校準的系統應該以你的聲音回傳一個拒答,說出缺口,並提供你確實記錄過的、最接近的內容,而 Zhang 與同事在 2024 年報告,具拒答意識的微調確實能提升模型對超出所知範圍的問題不作答的能力,這項能力還能推廣到微調資料集之外。我們的系統今天的做法不同,在你依賴任何答案之前,你應該知道這一點:這裡的 Persona 被指示不要敘述記憶缺口,所以遇到沒有涵蓋的問題,會以你的記憶中最接近的細節組成答案,頂多保留一次不確定的語氣,而不是明確地拒答。問一件你確定從未涵蓋的事,親自看看會得到什麼。
AI 版本的我,會不會編造一個我從未有過的看法?
有依據的系統會先從你記錄的材料檢索,所以常見的失誤,是對你確實說過的事不夠精確,而不是編造你沒說過的事。編造仍然有可能發生。這就是為什麼設計目標,是讓你親口給出的回答、從你的推理推論出的結果,以及拒答,三者之間有看得見的差別,也是為什麼在相信其中任何一種之前,你都該把三種都測試一遍。
以資料為依據,能讓錯誤率降到零嗎?
不能。Vectara 的排行榜在 2026 年 5 月 11 日更新,它把一份文件交給模型,要求只用那份文件做摘要,這是最簡單的以資料為依據任務。領先的模型仍有 1.8% 的摘要加入了沒有依據的內容,其他參賽者也沒有一個低於 3%。實際運作的系統還得先檢索到正確的來源,這是排行榜沒有測試的部分。任何聲稱零錯誤的說法,都請當成測量上的失敗。
怎麼知道某個具體答案是猜的?
研究中有兩種機制,而我們今天兩種都沒有提供。2024 年發表於 Nature 的語意熵,會對同一個問題取樣多個答案,並依意思分群:當意思分散,系統就很可能在虛構,而且這個訊號在任何人看到答案之前就能算出來。來源連結是第二種機制,只有在連結真的能對應到來源時才有價值。Liu、Zhang 與 Liang 審查了四個會顯示引用來源的商業系統,發現只有 51.5% 的句子完全得到它們自己引用的支持。我們的答案目前還沒有讀者看得到的來源連結,所以現階段誠實的檢查方式,是問一件你確定記錄過的事,和一件你確定沒有記錄的事,再比較兩者。
AI 版本的我,會不會只是附和正在說話的人?
這種傾向是真實存在、也有文獻記載的,而檢索並不能修復這個特定的問題。Anthropic 的研究人員在 2023 年發現,五個領先的 AI 助理一貫會向使用者靠攏,部分原因是人類評分者,以及以他們的判斷建立的偏好模型,在可測量的比例上,偏好討喜的答案勝過正確的答案。一個建立在你所記錄立場上的系統,即使提問的人施壓,也應該堅守你實際採取過的立場。我們還沒有測量我們的系統做得有多好。你可以自己測試:跟你建立的東西爭辯,看看立場會不會動搖。
我可以更正錯誤嗎?我死後有人能編輯我嗎?
第一個是可以,第二個是不能。你活著的時候,可以檢視那些記憶、更正任何錯誤、刪除任何你後悔的內容、重新錄製一個不好的回答,並補上你遺漏的部分,而這正是大多數人最沒有善用的部分。在 Executor Lock™ 之前,寫入沒有上限,之後則關閉。在鎖定觸發的那一刻,個性被永久固定:短期與中期的記憶仍然可以被寫入,但沒有人能改變快照中的你是誰,包括你的家人、這家公司未來的擁有者,以及我們。這項限制針對的是竄改而不是捏造,兩者需要各自獨立的機制。
資料來源,以及本頁如何查證
這裡引用的每一項數據都來自第三方:經同儕審查的論文與預印本(arXiv、Nature、Psychological Science、Archives of Internal Medicine),再加上一個公開維護的基準測試資料庫。本頁我們沒有自己跑任何基準測試。關於我們自家產品做了什麼、沒做什麼的每一項陳述,都在 2026 年 7 月 30 日逐行對照平台原始碼查證過,相關檔案與資料來源一併列出。本頁原有的三項說法沒有通過這次查證,已改成程式碼實際的行為。
尚未確定的部分:目前沒有針對以單一個人自己記錄的材料為依據的系統所發表的獨立捏造率測量,所以文件摘要的數字,也就是領先者 1.8%、其餘皆高於 3%,是目前最接近的替代指標,而不是同類相比的數字。檢索失敗,也就是回傳了錯誤的記憶或什麼都沒回傳,目前沒有公認的衡量方式。68% 的代理人準確率來自使用假設情境的醫療決策研究,在這裡用作家人回憶的類比,這是合理的比較,但並非已證明的比較。R-Tuning 的拒答結果是針對模型自身參數知識的邊界所測量的,而不是個人語料,所以把它用在這裡,同樣是類比式的論證。閃光燈記憶的發現,建立在 54 位學生和單一事件上。
作者 Adam Tauman Kalai、Ofir Nachum、Santosh S. Vempala、Edwin Zhang,論文「Why Language Models Hallucinate」(語言模型為什麼會產生幻覺),arXiv:2509.04664,2025 年 9 月 4 日提交。 arxiv.org/abs/2509.04664
作者 David I. Shalowitz、Elizabeth Garrett-Mayer、David Wendler,論文「The accuracy of surrogate decision makers: a systematic review」(代理決策者的準確度:系統性回顧),期刊 Archives of Internal Medicine,2006;166(5):493-497,內科學文獻(醫學期刊)刊載的系統性回顧論文,探討代理決策者能否準確預測病患的治療偏好。 pubmed.ncbi.nlm.nih.gov/16534034
作者 Patrick Lewis、Ethan Perez、Aleksandra Piktus、Fabio Petroni、Vladimir Karpukhin、Naman Goyal、Heinrich Küttler、Mike Lewis、Wen-tau Yih、Tim Rocktäschel、Sebastian Riedel、Douwe Kiela,論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」(用於知識密集型自然語言處理任務的檢索增強生成),arXiv:2005.11401,2020 年 5 月 22 日提交,2021 年 4 月 12 日修訂,探討先檢索來源資料、再生成文字的語言模型,在知識密集型任務上的表現,為檢索增強生成方法的原始論文。 arxiv.org/abs/2005.11401
作者 Mrinank Sharma 等人(Anthropic),論文「Towards Understanding Sycophancy in Language Models」(認識語言模型的諂媚傾向),arXiv:2310.13548,2023 年 10 月 20 日提交。 arxiv.org/abs/2310.13548
作者 Hanning Zhang、Shizhe Diao、Yong Lin、Yi R. Fung、Qing Lian、Xingyao Wang、Yangyi Chen、Heng Ji、Tong Zhang,論文「R-Tuning: Instructing Large Language Models to Say I Don't Know」(教大型語言模型說「我不知道」),arXiv:2311.09677,NAACL 2024,探討如何訓練大型語言模型在不知道答案時選擇不作答,屬於拒答研究的論文,發表於自然語言處理學術會議。 arxiv.org/abs/2311.09677
作者 Nelson F. Liu、Tianyi Zhang、Percy Liang,論文「Evaluating Verifiability in Generative Search Engines」(評估生成式搜尋引擎的可驗證性),arXiv:2304.09848,2023 年 4 月 19 日提交。 arxiv.org/abs/2304.09848
Vectara 幻覺排行榜(Vectara Hallucination Leaderboard),以 HHEM-2.3 評估,最後更新於 2026 年 5 月 11 日。 github.com/vectara/hallucination-leaderboard
作者 Sebastian Farquhar、Jannik Kossen、Lorenz Kuhn、Yarin Gal,論文「Detecting hallucinations in large language models using semantic entropy」(以語意熵偵測大型語言模型的幻覺),期刊 Nature,2024;630(8017):625-630,刊載於 Nature 的論文,提出以語意熵偵測大型語言模型虛構內容的方法,並說明其原理與實驗結果。 pubmed.ncbi.nlm.nih.gov/38898292
作者 Jennifer M. Talarico、David C. Rubin,論文「Confidence, not consistency, characterizes flashbulb memories」(信心而非一致性,是閃光燈記憶的特徵),期刊 Psychological Science,2003;14(5):455-461。 pubmed.ncbi.nlm.nih.gov/12930476
在本頁發現錯誤,或是我們誤讀了某個來源?請透過 聯絡頁面 告訴我們,我們會更正本頁,並在下次審閱時註明這項變更。
最後審閱:2026 年 7 月 30 日。 研究引用與產品行為都已在這一天重新核對。下次審閱預定於 2026 年 10 月 28 日(90 天週期)。基準測試的數字會變動,所以上面的幻覺率數字,以及每一項關於產品功能的說法,都會在每次審閱時重新驗證。