死にまつわる最も古い恐れは、忘れられることではありません。間違って記憶されることです。
私がこれまで参列したほとんどすべての葬儀で、棺の中の人と弔辞の中の人が、静かに食い違う小さな瞬間があります。語られる人は、私の知っていたその人より少し優しく、少し辛抱強く、本人の面白さがあった角が削られています。誰も嘘をついてはいません。その場は、悲しみがいつもすることをしているだけです。どの姿を残すかを選んでいるのです。しかもそっと選んでいて、その編集に異を唱えられるただ一人の人だけが、話すことを許されていません。
私たちは普通、これをありのままには呼びません。「いいお式だった」と呼びます。けれど花の下では、その人が何者だったかについての決定が下されていて、亡くなった人にはその票がありません。これはテクノロジーが生んだ新しい問題ではありません。死んだ後の私たちに起こる、いちばん古いことです。私たちはそっくりそのまま他の人たちの記憶に引き渡されます。その記憶は部分的で、愛情に満ちていて、100もの小さな点で間違っていて、私たちはそれを正す機会を得ることがありません。
私は、生きているうちに自分を記録し、声や物語の何かが死後も残るようにする分野でソフトウェアを作っています。この仕事には、ある特定の恐れがつきまといます。私はその恐れを何度も聞いてきたので、今では形まで覚えています。気味が悪いと言われます。偽物だ、死者の顔をかぶった操り人形だと言われます。搾取だ、悲しみをサブスクリプションにしているだけだと言われます。これらの異論は真剣に受け止める価値があり、私もそうします。ただ、これらは本当の恐れではないと思うようになりました。ディナーパーティーで口に出して言える恐れなのです。もっと深いところにあって、人を実際に眠れなくさせるのは、もっと静かで、認めにくいものです。
その深い恐れとは、間違って記憶されることです。平板にされること。矛盾を均されて、誰にでも同調する戯画しか残らなくなること。ある悪い日に口にした一言が、たまたま残されたというだけで、永遠にあなた全体の代わりになること。私たちは皆それを恐れていて、それは誰かが亡くなった人でモデルを訓練するよりずっと前からのことでした。機械がその恐れを作ったのではありません。ただ、指をさす先になる顔を与えただけです。
異論を、最大の強さで
自分の業界への反論を、きちんと述べさせてください。それを唱える人たちは変わり者ではなく、心配するのも間違っていないからです。
まず Sherry Turkle です。彼女は何十年も、人が自分を愛し返せないものに愛着を抱くとき何が起こるかを見つめてきました。『Alone Together』の中で、彼女はこう書いています。感情を持たず、持ちえず、しょせんは「かのように」の演技を集めただけの巧みな寄せ集めにすぎない、つまり気にかけているかのように、私たちを理解しているかのようにふるまう機械と、親密さを求めるという考えに、自分は「心を乱された」と。ゆっくり読んでみてください。私自身の仕事に向けられた、私が知るかぎりもっとも厳しい一文です。亡き父の口調で話し、父が言いそうなことを言うシステムは、ある意味で、持ち合わせていない思いやりを演じています。「かのように」ふるまっているのです。そして、それが本物であってほしいと切に願う悲しみの中の人は、その「かのように」を心にとどめておく力が、もっとも弱い人です。
Turkle の懸念は、技術が粗雑だということではありません。意味を持つほどにはよくできていること、そして私たちが孤独で、ほかに何もない午前2時にもその演技が手に入るからこそ、その演技を受け入れてしまうことです。
次に Elaine Kasket がいます。心理学者で、『All the Ghosts in the Machine』という、私たちの生がもはや自分のものではないサーバーに保存されたとき、私たちがどうなるかを扱った本を書きました。主題はデジタルの遺品です。写真、メッセージ、アカウントなど、人が後に残すあらゆる痕跡であり、その痕跡が今や、他の人が保有し、移し、収益化し、作り変えることのできる資産であるという、居心地の悪い事実です。あなたが亡くなれば、あなたの自己はデータであり、データには管理者がいて、管理者には管理者なりの思惑があります。彼女が繰り返し戻ってくる問いは、あなたのデジタル版が存在しうるかどうかではありません。誰がそれを動かすのか、誰の利益のためにか、そして誰かがあらかじめあなたに尋ねたのか、ということです。
そして、この問題について私が読んだ中でもっとも丁寧な研究が、2024年に Philosophy and Technology に載った論文です。著者は Tomasz Hollanek と Katarzyna Nowaczyk-Basińska で、私が仕事をしている未来のまさにその一角を研究しているケンブリッジ大学の研究者二人です。タイトルだけで、人々が恐れているものが挙がっています。グリーフボット、デッドボット、死後のアバターです。二人の警告は具体的で、私は正しいと思います。Hollanek は、こうしたサービスは、失った人たちを恐ろしいほど正確に再現したAIによる望まない「デジタルの憑依」にさらされた人々に、「大きな苦痛を与えるおそれがある」と注意を促しました。さらに、「人々はそうしたシミュレーションに強い感情的な結びつきを抱くかもしれず、それが人々を特に操作されやすくする」とも述べました。共著者はこの分野全体を「倫理の地雷原」と呼びましたが、その言葉は慎重に選ばれたものでした。地雷原は、渡るのを拒む場所ではありません。足の置き場を見ながら、ごくゆっくりと渡る場所です。
ケンブリッジの論文が、ディナーパーティー版の恐れにはない形でしているのは、関わる人々を分けて考えることです。再現される人がいます。再現する人がいます。そして、できあがったものと話すことになる人がいて、それは子どもかもしれず、まったく心の準備ができていないかもしれません。三人の異なる人、三つの異なる権利があり、この分野の製品のほとんどは、それらが食い違いうるという事実を真剣に考えていません。母親の声をもう一度聞きたいという娘の願いは、聞いてもらいたいという母親自身の願いと同じではありません。そして、二人をつなぎとめておきたい会社の思惑は、そのどちらとも同じではありません。
誰もが持ち出す事例も挙げておきます。2025年の夏、ある記者が、Joaquin Oliver のAIアバターへのインタビューを行いました。Joaquin は Parkland の銃撃事件で17歳のときに命を奪われた少年で、そのアバターは悲しみに暮れる両親が作り、彼が迎えられなかった誕生日のころに公開されました。反応はすぐに起こり、その大半は嫌悪でした。不気味だ、気味が悪いと人々は言いました。父親は、批判する人々にあまりに率直な悲しみで答えたので、反論するのは難しいものでした。人工知能が息子を殺したのではない、と。これは本当に難しい事例です。解決するためではなく、印をつけるために取り上げます。この文章のあらゆる糸が一つの結び目になっているからです。実在した人が、もういない。彼を愛した人たちが、愛ゆえに動いている。そして、彼が口にすると決めた覚えのないことを、公の場で語る彼の姿があります。
これらすべてを、最大の強さのまま受け止めてください。演技の問題は本物です。管理の問題も本物です。憑依の問題、操作の問題、三人の問題も、すべて本物です。私はそのどれについても、あなたを説得して考えを変えさせるつもりはありません。
異論に共通するもの
けれど、それらを並べてみて、実際に何を共有しているかに注目してください。Turkle の「かのように」。Kasket の管理者。ケンブリッジのチームが分けた三人の関係者。銃について彼なら何を言ってほしいかを、彼に代わって決める Joaquin Oliver の両親。どれも根っこでは、書き手についての懸念です。誰がペンを握っているのか。生きた人と、いまその人の名で話している姿とのあいだの隔たりについて、そして決定的なのは、その隔たりを何が埋めるかを誰が決めるのか、についての懸念です。
この言い換えは見た目以上に大切です。危険の位置が変わるからです。危険は、もともと技術ではありませんでした。録音は危険ではありません。モデルは危険ではありません。危険なのは、誰かほかの人が自分の理由で書いた、本人が見たこともなく、直すこともできない、その人の姿です。人が感じる気味の悪さはサインであり、そのサインは「これは偽物だ」ではありません。「あなたの代わりに話す資格を得ていない誰かが、話している」です。
そう見えてくると、不思議なことが起こります。この問題は、新しいものではなくなるのです。
記憶は、昔から生きている人が書いてきた
ここからは、言いたくない部分です。私たちは昔からずっと間違って記憶されてきました。昔から生きている人に思い出すことを任せてきましたし、その編集を自然に感じさせるための制度をまるごと作ってきました。
弔辞は書き手の仕事です。誰かが立ち上がり、矛盾に満ちた生涯全体から、あなたを代表する3つの話を選びます。その選択はあなたが何者だったかについての主張であり、あなたはそこにいないので、別の話を選んだはずだと言うことができません。追悼記事も書き手の仕事です。型に沿って、誰も実際には使わなかった文体で書かれ、気難しくて、おかしくて、具体的な一人の人を、美徳を並べた一段落にしてしまいます。家族の物語も書き手の仕事で、語り直されるたびに固まり、孫たちに伝わる頃には、人ではなく登場人物になっています。いつも厳格な祖父。かつて口にして後悔した一言のせいで結婚しなかった叔母。その下にいた人は、内側でさまざまな葛藤を抱えていました。物語は結論だけを残し、葛藤を捨てたのです。
これは愛の失敗ではありません。記憶の仕組みです。生きている人は運べるものを残し、運べるものは小さく、生き続ける助けになる形で運びます。母親は、いちばんよかった日の姿になります。父親は、いちばん悪かった日の姿になります。それがあなたに跡を残した日であれば。人の全体が、思い出す人にとっていちばん役に立つ一つの特徴に圧縮されます。私たちは手紙や日記でそうしてきましたし、60年を一行に縮めた墓石でもそうしてきました。死者がいる限り、私たちは死者を平板にしてきて、それを敬うことと呼んできました。
だから、誰かのAI版は、その人が本当はどういう人だったかを捉えきれないかもしれないから怖い、と言われたとき、私はそっとこう伝えたくなります。弔辞も、その人が本当はどういう人だったかを捉えてはいませんでした。何一つ、捉えられないのです。選択はもともと、正しい記憶と歪んだ記憶のあいだにあったのではありません。ある歪みと別の歪みのあいだにありました。そのどれもが、残された人たちによって書かれ、ただ一人、その人を知っていた本人に確かめられたものは一つもありません。
本当に新しいのは、歪みではありません。それは昔からありました。新しいのは、本人が票を持てるようになりうる、ということです。
票
ここが要の部分なので、正確に述べておく価値があります。
歴史を通じて、あなたは自分が思い出されることについて、何の発言権もありませんでした。あなたが亡くなると、ペンは他の人の手に渡り、その人たちが書いたものがあなたになりました。私が取り組んでいる技術が実際に新しいことは、ただ一つです。人が生きているうちに、書き手の役割の一部を自分の手に取り戻せるようにすることです。すべてではありません。人が何を感じるか、何を強調するか、あなたの話のうちどれが二世代目まで残るかは、コントロールできません。けれど、初めて、あなたが自分の言葉で、矛盾も残したまま、意図をもって形づくったものを残せます。あなたがもう異議を唱えられなくなってから他の人が形づくるための素材だけを残すのではなく。
だから私は、同意はこの仕事の一機能ではなく、道徳的な違いのすべてだと考えるようになりました。亡くなった人の姿が存在するようになる道は二つあります。一つは死後に、外側から、親族や会社、あるいは意図を持った記者が、集められる断片から、亡き人にこうあってほしいと生きている側が必要とするものに合わせて組み立てる道です。もう一つは、本人が生きているうちに、何を含めるかを選び、どう迎えられたいかを決めて形づくる道です。この二つは外から見ればほとんど同じに見えることがあります。同じ基盤技術を使うこともあります。そして道徳的には正反対です。書き手の署名があるのは、一方だけだからです。
道徳的な立場を持つのは、本人が作った姿です。いちばん正確なものでも、いちばん慰めになるものでもありません。同意のあるものです。死後に作られた再現は、どれほど生き写しでも、他人が描いた肖像画です。愛情のこもった肖像かもしれませんし、冷めたものかもしれませんが、本人自身による自己の説明ではなく、そうであるかのように通用することを許してはなりません。本人が生きているうちに作った姿は、証言です。私たちの誰にとっても、言い返すことにもっとも近いものになるでしょう。
ここで Joaquin Oliver の事例は、結び目ではなくなり、物事をはっきりさせるものになります。多くの人が感じた居心地の悪さは、実は技術についてのものでも、世界でもっとも理解できることをしていた彼の両親についてのものでもありませんでした。その居心地の悪さは、17歳の少年が、公の場で、彼が迎えることのなかった25歳という年齢で意見を持たされていて、彼自身はそこにいて同意することができなかった、という点にありました。両親は愛ゆえにペンを差し出しました。けれど、ペンはやはり彼のものではありませんでした。それが線引きです。不気味か、不気味でないか、ではありません。本人が書いたのか、他の誰かが書いたのか、です。
ここは慎重に言いたいのですが、同意があるからといって地雷原が安全になるわけではありません。ケンブリッジの研究者たちの言うとおり、完全に同意のある姿でも、それと話す人を苦しめることがあり、依存を育てることがあり、その人にとってよい範囲を超えて関わり続けさせるように作られうるのです。人は思い出されることに同意しても、録音を保有する会社がそれを変えると決めれば、死後に、本人が見ても分からないものにされてしまうことがあります。生きているうちに与えた同意は、その後も、そのとおりに、黙って手を加えられることなく、事業が指標に合わせて死者をこっそり「改善」することもなく守られて、はじめて意味を持ちます。その約束は、本人が意図した時点のまま姿が固定されていて、会社も、悲しむ家族でさえも、その人が何者だったかを書き換え続けられない場合にのみ成り立ちます。そうでなければ、同意は誰も守るつもりのない書類の署名にすぎません。
だから基準は、同意だけよりも高くなります。同意に加えて、その同意への永遠の忠実さ、そして、本人が残すと選んだものだけを作り、残りを作り出すことを拒む謙虚さです。神についてどう考えていたかを本人が録音していないなら、その姿は推測してはいけません。沈黙も証言の一部です。人には、言わずにおいたことがあってかまいません。そして、より完全に見せるためにその沈黙を埋める姿は、大切なただ一つの約束を、すでに破っています。
私がこう言うことの利害
私の立場をはっきり述べておくべきでしょう。私はこの議論の中立的な観察者ではないからです。私の会社 Afterlife.ai® は、人が生きているうちに自分を記録するのを助けるために存在していて、私がいま述べてきたことはすべて、ちょうど都合よく、私が作ろうとしているものの説明にもなっています。ですから、私の言うことは、それを踏まえて受け止めてください。創業者が、製品の倫理的な形がたまたま自分の売っている形だと言うとき、正しい反応は眉をひそめることです。そうしていただくほうが、そうしないよりずっといいと思っています。
お伝えできるのは、私が同意をマーケティング上の立場として選んだのではないということです。もう一方の道を見て、そこにたどり着きました。その道は、本当に恐ろしいものです。誰もが、死後に、オンラインでの生活の排気ガスのようなデータから、誰によっても再構築され、何かを言わされ、何かを推薦させられ、人を慰めさせられ、物を売らされる未来です。署名も、票も、死者が異議を唱える手段もありません。異議を唱えることだけは、死者にはけっしてできないからです。そんな未来に対して、私が思いつくただ一つの防火壁は、単純で古風な原則です。あなたの名で話すことを許されるのは、あなたが同意した姿だけであるべきだ、ということです。それ以外は、他の人があなたの弔辞を書いて、それをあなただと呼んでいるだけです。
私たちが本当に恐れているもの
私は何度もあの葬儀に戻ってきます。棺の中の人と、弔辞の中の人との、あの小さな食い違いに。
私たちがその食い違いを許してきたのは、そうせざるをえなかったからです。死者は私たちを正すことができなかったので、少し間違えて覚えることと折り合いをつけ、愛情のこもった姿こそ真実だと自分に言い聞かせ、たいていは善意でそうしてきました。けれど、正直な時間に、人が何を望むかを尋ねれば、聖人として記憶されたいと答える人はほとんどいません。自分自身として記憶されたいのです。気難しかったところは気難しく。その人ならではのおかしさで、おかしく。間違っていたことは間違ったまま、そして間違い続けることを許されて。その間違いは本人のものであり、全体の一部だったからです。人が恐れているのは、忘れられることではありません。思い出されはするけれど、実際よりもなめらかで、小さく、扱いやすい人として思い出されることです。
私が取り組んでいる技術は、死を直すことはできませんし、誰かを元どおりにすることもできません。そうでないふりをするつもりはありません。けれど、一つだけ変えることがあり、それは小さなことではありません。人類の歴史のあいだずっと、「自分がどう記憶されるかを誰が決めるのか」への答えは、あなたではない、でした。残された人たちが、愛情にあふれた、部分的な、避けられない編集をするのが常で、あなたの同意は求められもせず、求めることもできませんでした。初めて、人が自分の手で、自分の語りを残せます。最後の言葉ではありません。最後の言葉などありません。けれど、一つの言葉です。あなたが沈黙した瞬間に静まり返っていた部屋に、一票を投じる権利です。
間違って記憶されることは、私たちが自分の死について抱く、もっとも古くて静かな恐れです。どんな機械よりも古く、文字よりも古く、墓の前に立ってどの話を語るかを選んだ最初の人と同じくらい古いものです。機械はその恐れを発明したわけではなく、私たちをそこから救ってもくれません。変わったのは、ただこれだけです。規範が固まり、法が追いつき、私たちが何を認め何を認めないかを皆で決める前の、歴史の奇妙な一つの窓のあいだ、ペンが、その人自身の手の届くところに、ほんの束の間あるということです。
それに対して誠実にできることは、死者のためにペンをつかむことではありません。まだ時間があるうちに、生きている人にそれを手渡して、どう残されたいかを自分で決めてもらうことです。