悲伤机器人的合乎伦理的替代方案
所谓悲伤机器人，是一种模拟逝者的 AI 系统，通常在其离世之后，利用其留下的消息、录音和帖子构建而成，以便丧亲者能够与之延续某种对话。悲伤机器人的合乎伦理的替代方案，并非要放弃其背后那份愿望（那份愿望深具人性），而是要颠倒同意的次序：与其在某人离世后未经其同意便重建他，不如让你在生前、出于自由选择，构建一个受治理的、对你自己的呈现。仅此一个差别，即谁同意、何时同意，便将许多伦理学家警告的做法，与一个人可以坦然认可的做法区分开来。
本页阐明悲伤机器人究竟是什么，严重的伦理问题症结何在，研究者和伦理学家对此有何论述，以及一种以同意为先的替代方案在实践中是什么样子。其用意在于公允，而非危言耸听。想要继续与逝去之人交谈的冲动，并不是一个需要被责备的缺陷。问题只在于如何去做，以及那个被重建的人是否曾有过发言权。
核心伦理问题：重建一个从未同意过的人
大多数悲伤机器人的根本特征，也是伦理困境的根源，在于它们是用逝者构建的，而非由逝者构建的。一个悲伤的家庭或一家公司收集起某人过去的短信、语音留言和社交帖子，训练出一个以他的口吻说话的模型。逝者成了原材料。他们从来不是作者，而至关重要的是，他们从未被征询过意见。
这之所以重要，是因为一个以假乱真的模拟会以一个人的名义作出表述。它生成那个人从未说过的句子、可能从未持有过的观点、从未给出过的宽慰。逝者无法纠正它，无法反对，也无法撤回。一个主体不曾同意、也无法治理的呈现，归根结底，就是有人替一个再也无法为自己发声的人发声，并将其呈现为那个人自己的声音。无论它带来何种慰藉，它的起点都是那个主体从未同意站立的地方。
A griefbot is built of the dead. A Persona is built by the living.
同意的界线
几乎每一个关于这项技术的有意义的伦理问题，都归结为一条界线：那个被呈现的人，是一位同意的作者，还是一个未经同意的主体？一边是典型的悲伤机器人，在离世之后用那个人为其他目的而留下的数据拼凑而成，由持有这些数据的人治理，不对任何人负责。另一边则是一个人在生前亲手构建的呈现，由他决定其中包含什么、它永远不会声称什么。
这正是两者之间的区别：一个是悲伤机器人或deadbot（指事后的重建），另一个是预先创作、以同意为先的人格（Persona）。这两个词听起来相似，技术上也有重叠，但在伦理上却近乎对立。一个夺取了一种声音；另一个则被赋予了一种声音。主体本人是否同意，并非细枝末节。它就是问题的全部。
这里的同意，也必须意味着不止是勾选一次的复选框。它意味着那个人选择了放进去的内容，能够塑造它的行为方式，并为谁可以触及它、何时触及它设定规则。一份主体因为已经离去而无法行使的同意，根本算不上他真正的同意。这正是为何时机与同意本身同样重要：唯一能够真正同意被呈现的人，是那个在世的人。
研究者和伦理学家怎么说
随着工具的改进，对这项技术的严肃评论变得更加审慎。诸如Scientific American等媒体的报道，曾权衡悲伤机器人究竟是真正帮助了哀悼者，还是有可能让他们停滞不前，并指出相关证据远未有定论。这类文章中大多审慎的结论，并不是说这项技术毫无价值，而是说它的益处是有条件的，它的风险是真实存在的。
学术与伦理层面的讨论，包括在The Conversation等平台上浮现的成果，更着力地具体追问同意的问题。该领域的研究者主张，未经一个人事先同意便重建他，可能侵犯其尊严；家庭和公司可能持有与逝者本人意愿相背离的利益；并且应当设有护栏，防止一个被模拟的人被利用、被牟利，或被迫说出本人绝不会说的话。反复出现的主题是治理：谁控制这个呈现，凭借谁的权限，又设有怎样的限度。
综合来看，这一系列工作并不是说想要保持联结的愿望是错的。它是说，这份愿望应当以尊重被呈现之人的方式来满足，而同意与控制正是它得以实现的前提条件。这是以同意为先的方式被设计来满足的标准，也是一个事后的悲伤机器人在结构上无法满足的标准。
未经同意的deadbot已被记录在案的危害
除了原则上的问题，还有若干具体的危害已被记录在案或被严肃论证。它们值得被明白地点出，因为它们正是审慎之所以有必要的缘由，而非抽象的空谈。
未经同意的重建：最基本的危害，就是呈现一个从未同意此事的人，把他无法反驳的言辞和观点强加于他之口。
对悲伤的干扰：一个随时可用的模拟，对某些人而言，可能会延缓哀悼的过程而非缓解它，让丧亲者被拴系在一个无法真正改变或成长的存在之上。
商业占有：当一个悲伤机器人由一家公司运营时，逝者可能沦为一件产品，其肖像被一个他从未授权的方保留、牟利或另作他用。
漂移与杜撰：一个被训练得听起来像某人的模型，会通过编造来填补空白，生成那个人从未说过、而家人可能误以为是真实的言论。
这些危害并非在每一种情形下都不可避免，而这恰恰是关键所在。它们源自一种结构，即在离世之后、未经同意、置于外部控制之下构建呈现，这种结构几乎注定会引发其中至少一部分危害。改变这种结构，这些风险大多便会消失。那些设计用来让丧亲者通过 AI 与逝去的挚爱交谈，或与某位逝者的 AI 版本交谈的工具，恰好坐落在这条断层线上，而凡是未经主体同意便构建的，便继承了恰恰这些问题。
以同意为先的替代方案：在生前亲手构建你自己的呈现
这个替代方案说起来很直接。与其让某人在离世后未经其首肯便被重建，不如让一个人在生前作为作者，亲手构建对自己的呈现。在 Afterlife AI™，这就是一个人格（Persona）：一份受治理、以同意为先的关于你是谁的记录，仅取自你实际提供的内容，跨越一个真实之人的诸多维度，而非从残留的数据中抓取。
由于主体即是作者，上述危害从根源上得到了解决，而非事后修补。同意是存在的，因为是你选择去创建它。不存在悲伤机器人所冒的那种杜撰，因为它只依据你提供的、经过核实的记忆，而不是靠猜测来填补沉默。治理也是存在的，因为你在还能做主时便设定了条款。想要保持联结的愿望得到了尊重，但处于其核心的那个人，在决定之中保留了自己的声音。
The only person who can consent to being represented is the living one.
如何负责任地去做
把这件事做好，关键不在于技术，而在于围绕它的种种条件。对一个人的呈现，应当由那个人亲自创作，取自经过核实的记忆而非推断，并置于关于谁可触及它、何时触及它的清晰而持久的控制之下。无论它被冠以何名，正是这些条件，把一种尊重的做法与一种攫取式的做法区分开来。
控制是最容易被忽视、却最需要做对的部分。Executor Lock™正是为提供这种控制而打造：它治理谁可以激活一个人格、何时激活，赋予一位指定执行人最终决定权，并使其结果一经设定便永久固定，因此在你离世之后，它无法被重新训练、更改或商业化。这种永久性，正是把一个呈现从一件可能被夺取和篡改的东西，转变为一件保持着那个人离去时模样的东西。它是对令伦理学家最为忧虑的商业占有与漂移这两种危害的结构性回应。
如果你想要的，是一个让你所爱之人可以回归的地方，那么同样的原则会产出一个受治理的 AI 纪念，它尊重它所纪念的那个人，因为是那个人亲手构建并划定了它的边界。这与悲伤机器人的区别，不在于它给丧亲者带来的慰藉，因为两者带来的慰藉都可能是真实的。区别在于，在这里，慰藉并不以被纪念之人的同意为代价。
因此，悲伤机器人的合乎伦理的替代方案，并非拒绝其背后的那份愿望。而是对它的一次重新排序。未经逝者首肯便重建他，是在要求丧亲者接受一种主体从未认可的声音。而在生前构建一个受治理、以同意为先的人格，则让一个人为自己决定，在离去之后将以何种方式存在，并使这个决定受到保护。技术是相似的。伦理却不然。全部差别就在于：谁同意，以及何时同意。