关于死亡，最古老的恐惧不是被遗忘，而是被错误地记住。

我参加过的几乎每一场葬礼，都会出现一个小小的瞬间：棺木中的那个人，与悼词里的那个人，悄悄地对不上了。被描述的那位比我认识的他稍微善良一点，稍微耐心一点，那些真正有趣的棱角被磨平了。没有人在撒谎。在场的人只是在做悲伤一贯会做的事：挑选要留下哪个版本，而且挑得很温柔，而唯一可能反对这番修改的人，恰恰是唯一不被允许开口的人。

我们通常不会把这件事叫作它本来的名字。我们称之为一场美好的告别仪式。可在那些鲜花之下，有人正在决定一个人究竟是谁，而逝者在其中没有一票。这不是技术制造出来的新问题。这是我们死后发生的最古老的事。我们被整个交到别人的记忆手中，而他们的记忆是不完整的，是充满爱的，也在一百个细小之处是错的，而我们永远没有机会去纠正。

我所做的软件，属于这个行业里让人在生前录下自己的那一部分，好让他们的声音和故事有一部分能在他们身后留存下来。这类工作会引来一种非常特定的恐惧，我听过太多次，已经把它的形状记得烂熟。有人对我说这很瘆人。有人说这是假的，是戴着逝者面孔的木偶。有人说这是在剥削，是把悲伤变成了订阅服务。这些反对意见值得认真对待，我也会认真对待。但我渐渐认为，它们并不是真正的恐惧，而是人们在晚宴上能够说出口的恐惧。更深的那一种，真正让人夜不能寐的那一种，更安静，也更难承认。

更深的恐惧是被错误地记住。被抹平。你身上的种种矛盾被一点点磨光，最后只剩下一个谁都认同的漫画形象。你在某个糟糕的日子里说过的一句话，只因为它恰好被保存了下来，就永远代表了你的全部。我们都害怕这个，而且早在有人用逝者的数据训练模型之前，我们就已经在害怕了。机器并没有制造这种恐惧，它只是给了这种恐惧一张可以指认的脸。

反对意见，原汁原味

让我认真地把反对我自己所在行业的理由说清楚，因为提出这些理由的人不是怪人，他们的担忧也并没有错。

先说 Sherry Turkle。几十年来，她一直在观察人们对无法回报爱的事物产生依恋时会发生什么。在《群体性孤独》（Alone Together）一书中，她写道，她“对这样的想法感到不安：向一台没有感情、也不可能有感情的机器寻求亲密，而它其实不过是一堆聪明的‘仿佛’式表演，表现得仿佛它在乎，仿佛它理解我们”。请慢慢读这句话。这是我所知道的、反对我自己工作的最有力的一句话。一个用逝去父亲的语调说话、说出他可能会说的话的系统，在某种程度上，是在表演它并不具备的关怀。它表现得“仿佛”如此。而一位渴望这一切都是真的的悲伤之人，恰恰最没有能力一直记着那个“仿佛”。

Turkle 担心的并不是这项技术粗糙，而是它好到足以产生影响，而我们会因为孤独而接受这场表演，因为凌晨2点，当别的一切都不在时，这场表演随手可得。

还有 Elaine Kasket，这位心理学家写了《All the Ghosts in the Machine》，书中讲的是当我们的生活存放在不属于我们的服务器上时，我们会变成什么样。她的主题是数字遗留物：照片、信息、账户，一个人留下的所有残余，以及一个令人不安的事实：这些残余如今是一种资产，别人可以持有、转移、变现、重塑。人一旦死去，你的自我就成了数据，数据有保管者，而保管者有他们自己的利益诉求。她不断回到的问题，并不是你的数字版本能不能存在，而是由谁来运行它，为了谁的利益，以及有没有人事先问过你。

然后是我读过的、关于这个问题最严谨的研究：2024年发表在《Philosophy and Technology》上的一篇论文，作者是 Tomasz Hollanek 和 Katarzyna Nowaczyk-Basińska，他们是剑桥大学的两位研究者，研究的正是我所处的这片未来领域。仅仅是论文标题，就点出了人们害怕的事物：悲伤机器人（griefbots）、亡者机器人（deadbots）、身后虚拟形象。他们的警告很具体，我认为他们是对的。Hollanek 提醒说，这些服务“有可能给人们带来巨大的痛苦，如果他们不得不面对由准确得惊人的AI所重现的逝去亲人带来的不请自来的数字幽灵纠缠”。他还进一步说：“人们可能会对这类模拟产生强烈的情感依恋，这会让他们特别容易受到操纵。”他的合著者把整个领域称为“伦理雷区”，她选这个词是经过斟酌的。雷区不是一个拒绝穿越的地方，而是一个要非常缓慢地穿越、同时留意脚下每一步的地方。

剑桥这篇论文做到了晚宴版本的恐惧从未做到的一点：它把牵涉其中的人区分开来。有被重现的那个人。有负责重现的那个人。还有最终与成果交谈的人，那可能是一个孩子，可能还远远没有准备好。三个不同的人，三套不同的权利，而这个领域里几乎没有哪款产品认真想过，这三者可能彼此分离。女儿想再听到母亲的声音，并不等同于母亲想被听到的愿望；公司想让两者都保持活跃的愿望，也不等同于她们任何一方的愿望。

我还可以补充大家都会想到的那个案例。2025年夏天，一位记者对 Joaquin Oliver 的AI虚拟形象做了一次采访。Joaquin 是帕克兰枪击案中遇害的十七岁男孩，这个形象由悲痛的父母制作，并在他永远等不到的那个生日前后发布。反应立刻就来了，而且大多是反感。有人说这是病态，有人说令人不安。他的父亲以一种直接得难以反驳的悲痛回应了批评者：杀死他儿子的不是人工智能。这确实是一个艰难的案例，我提起它不是为了解决它，而是为了把它标记出来，因为它把这篇文章的每一条线索都打在了同一个结里。一个真实的人，已经离去。爱他的人，出于爱而行动。一个版本的他，在公开场合说着一些话，而他从来没有机会决定自己是否会说。

把这一切都以最大的力度摆在面前。表演的问题是真实的。保管的问题是真实的。幽灵纠缠的问题、操纵的问题、三个人的问题，都是真实的。我不打算劝您放下其中任何一个。

这些反对意见的共同点

但请把它们并排放在一起，看看它们究竟共享了什么。Turkle 的“仿佛”。Kasket 的保管者。剑桥团队所说的三方相互分离的利益相关者。Joaquin Oliver 的父母代他决定，他会愿意就枪支说些什么。归根结底，每一条都是对“作者身份”的担忧。担忧的是谁握着笔。担忧的是活过的那个人，与如今以其名义发声的那个版本之间的差距，更关键的是，由谁来决定用什么填满这道差距。

这个重新界定比看上去重要得多，因为它挪动了危险所在的位置。危险从来都不真正在于技术本身。一段录音并不危险。一个模型并不危险。危险的是一个由别人出于他们自己的理由而撰写的版本，当事人从未见过，也无法纠正。人们感到的那种瘆人，是一个信号，而这个信号不是“这是假的”。这个信号是：“有人在替您说话，而他还没有资格这样做。”

一旦这样看，一件奇怪的事就发生了。这个问题不再是新问题了。

记忆一直是由生者书写的

接下来这一点，我们不愿意说出口。我们一直都被错误地记住，我们一直都让生者来负责记住，而且我们建立了一整套制度，让这种编辑显得理所当然。

悼词就是一种书写。有人站起来，从一个充满矛盾的完整人生里，挑出三个将代表您的故事，而这番挑选本身就是在论证您是谁，您却不在场，无法说您本会选别的故事。讣告是一种书写，套着模板，用没人真正说过的语气，把一个难相处、有趣、独一无二的人写成一段美德的罗列。家族故事是一种书写，它在每一次复述中变得更加固化，直到传给孙辈的那个版本成了一个角色，而不再是一个人：那位“永远严厉”的祖父，那位因为曾经说过又后悔的一句话而“从未结婚”的姑姑。底下的那个人，内心有一场完整的争论。故事保留了结论，丢掉了争论。

这不是爱的失败，这是记忆的运作方式。生者留下他们能背得动的东西，而他们能背得动的很少，他们还把它们背成有助于自己继续生活的形状。母亲变成了她最好的那一天。父亲变成了他最糟的那一天，如果他最糟的那一天恰好是在您身上留下印记的那一天。整个的人被压缩成对记住他们的人最有用的那一个特征。我们用书信和日记这样做过，也用把六十年缩成一行字的墓碑这样做过。自从有了逝者，我们就一直在把逝者抹平，还把这称为尊重他们。

所以，当有人对我说，一个人的AI版本很可怕，因为它可能无法捕捉他们真正是什么样的人，我想轻声指出：悼词同样没有捕捉到他们真正是什么样的人。没有什么能做到。选择从来不是在真实的记忆与被扭曲的记忆之间，而一直是在这一种扭曲与那一种扭曲之间，它们都出自留下来的人之手，没有一种被唯一了解此人的那个人核对过。

真正新的东西并不是扭曲。扭曲我们早就有了。新的是，这个人可以有一票了。

这一票

这是整件事的枢纽，值得说得准确一点。

在整个历史上，您对于自己被如何记住都没有发言权。您死了，笔传到了别人手里，他们写下的一切就成了您。我所从事的这项技术只做一件真正新的事。它让一个人在活着的时候，把一部分书写权重新放回自己手中。不是全部。您无法控制人们的感受，无法控制他们选择强调什么，也无法控制您的哪些故事能活过第二代。但是，您第一次可以留下一些您有意塑造的东西，用您自己的话，连同您自己的矛盾都保留着，而不是只留下原始素材，任由别人在您再也无法反对之后去塑造。

这就是我渐渐相信，同意不是这项工作的一项功能，而是全部的道德差别的原因。一个逝者的版本可以通过两种方式出现。一种是在死后由外部拼装出来，由亲属、公司或带着目的的记者，用他们能收集到的任何片段，为了满足生者对逝者的期待。另一种是由当事人自己在生前塑造，自己选择放入什么，自己决定希望别人怎样与自己相遇。从外面看，这两者几乎一模一样。它们可以使用同样的底层技术。但它们在道德上是相反的，因为只有其中一个带着作者的签名。

有道德立场的，是当事人自己制作的那一个。不是最准确的，也不是最令人安慰的，而是被同意的那一个。死后制作的重现，无论多么逼真，都是别人画的一幅肖像，它可能是一幅充满爱的肖像，也可能是一幅冷嘲的肖像，但它不是当事人对自己的叙述，也绝不应该被允许冒充是。当事人在生前建立的版本，则是证词。它是我们每个人所能拥有的、最接近“回话”的东西。

到了这里，Joaquin Oliver 的案例就不再是一个死结，而变得清晰起来。那么多人感到的不适，并不真的是针对技术，也不真的是针对他的父母，他们做的是世上最可以理解的事。不适在于，一个十七岁的男孩，在他从未活到的二十五岁，被人在公开场合赋予了观点，而他不在场，无法表示同意。他的父母出于爱握住了笔。但那支笔仍然不是他的。这就是那条界线。不是瘆人还是不瘆人，而是由自己书写，还是由别人书写。

我想在这里谨慎一点，因为同意并不能让雷区变得安全。剑桥的研究者说得对：即使是完全经过同意的版本，也可能让与它交谈的人痛苦，可能助长依赖，也可能被设计成让人在超过对其有益的程度之后仍然停留。一个人可以同意被记住，却在死后被变成他们认不出的东西，只要持有录音的公司决定修改它。生前给出的同意，只有在死后被如实遵守时才有意义：不做悄悄的修改，也不让某家企业为了一个指标而悄悄“改良”逝者。这个承诺只有在这个版本被冻结在当事人原本意愿的那一刻时才成立，而且没有任何人，无论是公司，还是悲痛的家人，可以继续编辑一个人究竟是谁。否则，同意不过是一份没人打算保留的文件上的签名。

所以，标准比单单的同意更高。它是同意，加上永远忠于这份同意，再加上谦卑：只构建当事人选择留下的东西，并拒绝编造其余的部分。如果他们从未录下自己对上帝的想法，这个版本就不能去猜。沉默也是证词的一部分。一个人有权留下一些没有说出口的事，而一个为了显得更完整就去填补这些沉默的版本，已经违背了唯一重要的承诺。

我在这件事上的利害关系

我应当坦率地说明我的立场，因为我并不是这场争论的中立观察者。我的公司 Afterlife.ai® 的存在，就是为了帮助人们在活着的时候录下自己，而我刚才所论述的一切，恰好也是在描述我正在努力构建的东西。您应当据此来掂量我说的话。当一位创始人告诉您，一个产品的合乎伦理的版本恰好就是他在卖的版本，正确的反应是扬起一边眉毛，我宁愿您扬起它，也不愿您不扬。

我能告诉您的是，我并不是把同意当作营销立场才得出这个结论的。我是通过观察另一种可能才走到这里的，而另一种可能确实令人害怕：在那样的未来里，任何人都可以被任何人在死后重构，素材来自他们在网上生活留下的尾气，被迫说话，被迫背书，去安慰别人，去卖东西，却没有签名，没有一票，逝者也无从反对，因为反对恰恰是逝者永远做不到的一件事。面对这样的未来，我能想到的唯一防火墙，是一条简单而古老的原则：唯一应该被允许以您的名义说话的那个版本，只能是您同意过的那一个。其余的一切，都是别人在写您的悼词，还把它说成是您。

我们真正害怕的是什么

我总是回到那些葬礼，回到棺中之人与讲稿中之人之间那一点点对不上。

我们容忍这种对不上，因为我们一直不得不容忍。逝者无法纠正我们，所以我们学会了接受把他们稍稍写错一点，我们告诉自己，充满爱的那个版本就是真实的那个版本，而且大多数时候，我们是出于好意。但如果您问人们，在坦诚的时刻他们想要什么，几乎没有人会说想被记成一个圣人。他们想被记成他们自己。在难相处的地方就难相处。以他们特有的方式风趣。在他们错的事情上依然是错的，并且被允许继续错下去，因为那份错是他们的，是整体的一部分。人们害怕的不是被遗忘，而是被记住，却被记成一个更平滑、更渺小、比他们真实的样子更省事的人。

我所做的这项技术无法修复死亡，也无法让任何人重新完整。我无意假装不是这样。但它确实改变了一件事，而且不是小事。在整个人类历史上，“谁来决定我如何被记住”的答案是：不是您。它永远是留下来的人，带着他们充满爱的、不完整的、不可避免的编辑，而您的同意既无从征求，也无法给出。第一次，这个人可以亲手留下一份自己的叙述。不是最后一句话，因为没有最后一句话。但是，是一句话。在一间您一沉默就会跟着沉默的房间里，有了一票。

被错误地记住，是我们对自己的死亡所怀有的最古老、最安静的恐惧，比任何机器都古老，比文字还要古老，古老如第一个站在坟前、挑选要讲哪个故事的人。机器没有发明这种恐惧，也不会把我们从中拯救出来。唯一改变的是：在一个奇特的历史窗口期内，在规范固化、法律跟上、我们所有人决定什么该允许什么不该允许之前，那支笔暂时在这件事真正所关乎的那个人伸手可及之处。

面对它，诚实的做法不是为逝者去抢夺它，而是趁还来得及，把它交给生者，让他们自己决定，希望如何被留存。