關於死亡，最古老的恐懼不是被遺忘，而是被記錯。
我參加過的幾乎每一場喪禮，都有一個小小的瞬間：棺木裡的人和悼詞裡的人，悄悄對不上了。被描述的那個人比我認識的他更和善一點，更有耐心一點，真實的他最有意思的稜角，被磨平了。沒有人在說謊。整個場子只是在做悲傷一向會做的事：挑選要留下哪一個版本，而且挑得很溫柔，唯一可能反對這番修改的人，偏偏是唯一不被允許開口的人。
我們通常不會直接說出這是什麼。我們說這是一場很美的告別式。但在花朵底下，有一個決定正在做出：關於這個人曾經是誰，而逝者沒有投票權。這不是科技發明出來的新問題，而是我們死後最古老的遭遇。我們被完整地交到別人的記憶手裡，而他們的記憶是片面的、充滿愛的，又在上百個細小的地方出了錯，那些錯我們永遠沒有機會更正。
我開發的軟體，屬於讓人在生前錄下自己的那個領域，好讓他們的聲音和故事有一部分能在他們離開之後留下來。這類工作會引來一種非常特定的恐懼，而我聽過太多次，已經能背出它的輪廓。有人告訴我，這很毛骨悚然。有人說這是假的，是一個戴著死者面孔的傀儡。有人說這是剝削，把悲傷變成訂閱制。這些質疑都值得認真對待，我也會認真回應。但我漸漸覺得，它們並不是真正的恐懼。它們是人們在晚宴上能夠大聲說出口的恐懼。更深的那一個，真正讓人夜裡睡不著的那一個，比較安靜，也更難承認。
更深的恐懼是被記錯。被簡化成扁平的樣子。你的矛盾被一一抹平，最後只剩下一幅附和所有人的漫畫。你在某個糟糕的日子說過的一句話，只因為剛好被留了下來，就永遠代表了整個你。我們都怕這個，而且早在有人拿死者來訓練模型之前，就已經在怕了。機器沒有製造這種恐懼，它只是給了這種恐懼一張可以指著的臉。
最強版本的質疑
讓我好好地替反對我自己這一行的論點說話，因為提出這些論點的人不是怪人，他們的擔憂也不是沒有道理。
先從 Sherry Turkle 說起，她花了幾十年觀察人們對無法回應愛的東西產生依附時會發生什麼事。她在 Alone Together 中寫道，她「對於向一台沒有感情、也不可能有感情的機器尋求親密感到不安，它說到底只是一堆聰明的『彷彿』表演，表現得彷彿在乎、彷彿懂得我們」。請慢慢讀這句話。這是我所知道的、對我自己的工作最嚴厲的一句話。一個用過世父親的語調說話、說出他可能會說的話的系統，在某個層面上，是在表演它並不具備的關心。它的行為只是「彷彿」。而一個悲傷的人如此渴望這一切是真的，恰恰是最難把「彷彿」放在心上的人。
Turkle 的憂慮不是技術太粗糙，而是它好到足以產生影響，而我們會接受這場表演，因為我們孤單，而在凌晨 2 點其他一切都不在的時候，這場表演就在手邊。
接著是 Elaine Kasket，這位心理學家寫了 All the Ghosts in the Machine，談的是當我們的人生被存放在不屬於我們的伺服器上，我們會變成什麼。她的主題是數位遺留物：照片、訊息、帳號，一個人留下的所有殘跡，以及一個令人不安的事實：這些殘跡如今是別人可以持有、搬動、變現、重新塑造的資產。人一旦死去，你的自我就成了資料，資料有保管者，而保管者有他們自己的動機。她不斷回到的問題，不是你的數位版本能不能存在，而是誰來運行它、為了誰的利益、以及有沒有人事先問過你。
然後是我讀過關於這個主題最嚴謹的研究，2024 年發表在 Philosophy and Technology 的一篇論文，作者是 Tomasz Hollanek 和 Katarzyna Nowaczyk-Basińska，兩位劍橋大學的研究者，研究的正是我所處的這一角未來。光是標題就點出了人們害怕的東西：悲傷機器人、死者機器人、身後虛擬化身。他們的警告很具體，我認為他們是對的。Hollanek 提醒，這類服務「如果讓人們遭受來自驚人精準的 AI 重現、對已逝親人不請自來的數位纏擾，有可能造成巨大的痛苦」。他還說得更遠：「人們可能與這類模擬產生強烈的情感連結，這會使他們特別容易受到操縱。」他的共同作者把整個領域稱為「倫理地雷區」，而她是謹慎地選了這個詞。地雷區不是你拒絕穿越的地方，而是你必須非常緩慢地穿越、同時留意腳踩在哪裡的地方。
劍橋這篇論文做到了晚宴版本的恐懼從未做到的事：把牽涉其中的人分開來看。有被重現的那個人，有進行重現的那個人，還有最後與成果對話的人，可能是個孩子，可能遠遠還沒準備好。三個不同的人，三組不同的權利，而這個領域的產品幾乎都沒有認真想過，這三者可能彼此分歧。女兒想再聽到母親聲音的需要，和母親希望被聽見的心願不是同一件事，而公司想讓兩人都持續使用的心願，又與兩者都不同。
我還可以再提每個人都會想到的那個案例。2025 年夏天，一位記者採訪了 Joaquin Oliver 的 AI 虛擬化身，他是在 Parkland 槍擊案中喪生的男孩，死時 17 歲，這個化身由悲痛的父母打造，並在他本該迎來的生日前後發布。反應立刻湧現，而且大多是反感。有人說毛骨悚然，有人說令人不安。他的父親回應批評者，那份悲傷如此直接，讓人很難反駁：殺死他兒子的不是人工智慧。這確實是個艱難的案例，我提出它不是為了解決，而是為了標記它，因為它把這篇文章的每一條線都綁成了一個結。一個真實的人，已經離開。愛他的人，出於愛而行動。一個版本的他，在公開場合說著他從未有機會決定要說的話。
請把這一切以最強的力道放在心裡。表演的問題是真的。保管的問題是真的。纏擾的問題、操縱的問題、三個人的問題，全都是真的。我不打算說服你放下其中任何一個。
這些質疑的共通點
但把它們並排放在一起，你會發現它們其實有共同之處。Turkle 的「彷彿」。Kasket 的保管者。劍橋團隊所說的三個彼此分離的利害關係人。Joaquin Oliver 的父母替他決定，他會希望對槍枝說些什麼。這每一個，說到底都是對作者身分的擔憂。擔憂的是誰握著筆。擔憂的是活過的那個人，和如今以他之名說話的那個版本之間的落差，而且關鍵在於，誰來決定用什麼填補這個落差。
這個重新定義比看起來重要得多，因為它移動了危險所在的位置。危險從來都不真的是技術。錄音不危險。模型不危險。危險的是由別人出於自己的理由寫出來的、本人從未見過也無法更正的某個版本。人們感受到的毛骨悚然是一個訊號，而這個訊號不是「這是假的」，而是「有人在替你說話，而他還沒有資格這麼做」。
一旦你這樣看，奇怪的事就發生了。這個問題不再是新的。
記憶一直是由生者書寫的
接下來這部分是我們不愛說的。我們一直都被記錯，一直都讓生者來負責記憶，而且我們建立了整套制度，讓這種修改顯得自然。
悼詞就是作者身分。有人站起來，從一段充滿矛盾的完整人生中，挑出三個故事來代表你，而這個挑選本身就是一個關於你是誰的論點，你卻不在場，無法說你會選不同的故事。訃聞就是作者身分，照著模板寫成，用一種沒有人真的這樣說過話的口吻，把一個難搞的、好笑的、獨一無二的人，變成一段美德的文字。家族故事就是作者身分，而且每講一次就更僵硬一點，直到傳給孫輩的那個版本成了一個角色，而不是一個人：那位「永遠嚴厲」的祖父，那位因為曾說過又後悔的一句話而「從未結婚」的姑姑。底下那個真實的人，內心有過一場完整的爭辯。故事留下了結論，丟掉了爭辯。
這不是愛的失敗，而是記憶的運作方式。生者留下他們扛得動的東西，而他們扛得動的很少，並且是以有助於他們繼續活下去的形狀來扛。母親變成她最好的那一天。父親變成他最糟的那一天，如果他最糟的那一天正是在你身上留下印記的那一天。一整個人被壓縮成對記憶者最有用的那一項特質。我們用書信和日記這樣做，用把六十年縮成一行字的墓碑這樣做。自從有了逝者，我們就一直在把他們簡化成扁平的樣子，並稱之為致敬。
所以當有人對我說，一個人的 AI 版本之所以可怕，是因為它可能無法捕捉他們真正的樣子，我想溫和地指出，悼詞也沒有捕捉到他們真正的樣子。沒有任何東西做得到。選擇從來不是在真實的記憶和扭曲的記憶之間。選擇一直都是在一種扭曲和另一種扭曲之間，全都出自留下來的人之手，沒有一個拿去對照過唯一了解他的那個人。
真正新的不是扭曲，那個我們早就有了。新的是，這個人可以有一票。
一票
這是整件事的樞紐，值得說得精確一些。
有史以來，你對自己如何被記住沒有任何發言權。你死了，筆就傳到別人手裡，他們寫下的一切就成了你。我所從事的技術，只做了一件真正全新的事。它讓一個人在生前，把一部分的作者身分放回自己手中。不是全部。你無法控制別人的感受，無法控制他們選擇強調什麼，也無法控制你的哪些故事能活過第二代。但你第一次可以留下一些你刻意塑造的東西，用你自己的話，保留你自己的矛盾，而不是只留下原始素材，等你再也無法反對時，任由別人去塑造。
這就是為什麼我漸漸相信，同意不是這項工作的一個功能，而是整個道德上的差別。一個逝者的版本，有兩種方式可以誕生。一種是在死後由外部拼湊而成，由親屬、公司或帶著盤算的記者，用他們能收集到的任何碎片，為了滿足生者希望逝者成為什麼樣子而做。另一種是由本人在生前親自塑造，自己選擇要放進什麼，自己決定希望別人如何與他相遇。從外表看，這兩者幾乎一模一樣。它們可以使用同樣的底層技術。但在道德上它們完全相反，因為只有其中一個有作者的簽名。
具有道德地位的版本，是本人親手做出的那一個。不是最準確的，也不是最令人安慰的，而是經過同意的那一個。死後打造的重現，無論多麼逼真，都是別人畫的一幅肖像，可能是充滿愛的肖像，也可能是帶著算計的肖像，但它不是本人對自己的陳述，也絕不該被允許冒充成本人的陳述。本人在生前打造的版本是證詞。這是我們每個人所能擁有的、最接近「回嘴」的東西。
到了這裡，Joaquin Oliver 的案例不再是一個結，而變得清晰。這麼多人感受到的不適，其實並不真的關於技術，也並不真的關於他的父母，他們做的是世上最能被理解的事。不適在於，一個 17 歲的男孩，在公開場合被賦予了意見，那是他從未活到的 25 歲，而他不在場，無法同意。他的父母出於愛握住了筆。但那支筆仍然不是他的。這就是界線。不是毛骨悚然或不毛骨悚然，而是由自己書寫，還是由別人書寫。
我想在這裡謹慎一點，因為同意並不會讓地雷區變得安全。劍橋的研究者說得對：即使是完全經過同意的版本，也可能讓與它對話的人感到痛苦，可能助長依賴，也可能被設計成讓人持續使用到對他們不再有益的地步。一個人可以同意被記住，卻仍在死後被變成連自己都認不得的東西，只要持有錄音的公司決定去改動它。生前給出的同意，只有在事後被確實遵守時才有意義：一模一樣，沒有悄悄的修改，沒有哪家公司為了某個數字而默默「改進」逝者。這個承諾只有在版本被凍結在本人所指的那一刻時才成立，而且沒有人，不是公司，連悲傷的家人也不行，能繼續修改一個人是誰。否則，同意不過是一份沒有人打算保存的文件上的簽名。
所以標準比單單同意更高。是同意，加上永遠忠於那份同意，再加上謙遜：只打造本人選擇留下的東西，並拒絕憑空捏造其餘的部分。如果他們從未錄下自己對上帝的想法，這個版本就不能去猜。沉默也是證詞的一部分。一個人有權留下某些話沒說，而一個為了顯得更完整而填補這些沉默的版本，已經打破了唯一重要的承諾。
我在這件事上的利害關係
我應該坦白說明我的立場，因為我並不是這場論辯中的中立觀察者。我的公司 Afterlife.ai® 的存在，就是為了幫助人們在生前錄下自己，而我剛剛所論述的一切，恰巧也是對我正在打造的東西的描述。你應該據此衡量我說的話。當一位創辦人告訴你，產品的道德版本剛好就是他賣的版本，正確的反應是揚起一邊眉毛，而我寧願你揚起它。
我可以告訴你的是，我並不是把同意當作行銷立場才走到這裡的。我是看著另一種可能才走到這裡，而那另一種可能確實令人害怕：在那樣的未來，任何人都可以被任何人在死後重建，材料來自他們網路生活的廢氣，然後被迫說出話、背書、安慰別人、推銷東西，沒有簽名，沒有一票，逝者也無從反對，因為反對正是逝者永遠做不到的一件事。面對那樣的未來，我所能想到的唯一防火牆，是一個簡單而老派的原則：唯一被允許以你的名義說話的你，必須是你同意過的那一個。其餘的一切，都是別人在寫你的悼詞，卻稱之為你。
我們真正害怕的是什麼
我一再回到那些喪禮，回到棺木裡的人和致詞裡的人之間那個小小的落差。
我們容忍那個落差，因為我們一向不得不容忍。逝者無法糾正我們，所以我們與「把他們記得有點不對」和解，並告訴自己充滿愛的版本就是真實的版本，而且多半我們是出於善意。但如果你在誠實的時刻問人們想要什麼，幾乎沒有人會說想被記成聖人。他們想被記成他們自己。難相處的地方就是難相處。好笑的方式就是他們特有的那種好笑。在他們錯的事情上就是錯，並且被允許繼續錯下去，因為那份錯是屬於他們的，是整體的一部分。人們害怕的不是被遺忘，而是被記住，卻被記成一個比真實的自己更圓滑、更渺小、更好相處的人。
我所從事的技術無法解決死亡，也無法讓任何人重新完整。我無意假裝並非如此。但它確實改變了一件事，而且不是小事。在人類整個歷史中，「誰來決定我如何被記住」的答案一直是：不是你。永遠是留下來的人，帶著他們充滿愛的、片面的、不可避免的修改，既沒有徵求、也不可能徵求你的同意。第一次，這個人可以親手留下一份自己的陳述。不是最後一句話，沒有最後一句話。但是一句話。一票，投在一個本來在你沉默的那一刻就跟著沉默的房間裡。
被記錯，是我們對自己死亡所懷抱的最古老、最安靜的恐懼，比任何機器都古老，比文字都古老，古老到像是第一個站在墳前、選擇要講哪個故事的人。機器沒有發明這種恐懼，也不會把我們從中救出來。改變的只有這一點：在一段奇特的歷史窗口期內，在規範僵化、法律追上、我們所有人決定什麼可以允許什麼不可以之前，那支筆短暫地，就在它真正所屬的那個人伸手可及之處。
誠實的做法，不是為逝者把它抓過來，而是趁還來得及，把它交給生者，讓他們自己決定想要怎樣被收存。