グリーフボットに代わる、倫理的な選択肢
グリーフボット（griefbot）とは、亡くなった人を模倣するAIシステムであり、たいていは本人の死後に、その人が遺したメッセージや録音、投稿から構築され、遺された人々がその人とある種の会話を続けられるようにするものです。グリーフボットに代わる倫理的な選択肢とは、その背後にある願い、すなわち深く人間的な願いを捨て去ることではありません。同意の順序を逆にすることです。死後に本人の合意なく誰かを再現するのではなく、存命のうちに、自由に選び取ったうえで、自分自身の統治された表現を構築するのです。誰がいつ同意したのか、というこのただ一つの違いが、多くの倫理学者が警鐘を鳴らす営みと、人が胸を張って臨める営みとを分けるのです。
このページでは、グリーフボットが実際に何であるか、深刻な倫理的問題がどこにあるのか、研究者や倫理学者がそれについて何を述べてきたのか、そして同意を起点とした代替案が実際にどのようなものかを示します。狙いは、煽ることではなく、公正であることです。失った人と語り続けたいという衝動は、咎められるべき欠点ではありません。問われるのはただ、それがどのように行われるか、そして再現される本人がそもそも意見を述べる機会を持ったのか、という点だけです。
核心にある倫理的問題：同意していない人を再現すること
ほとんどのグリーフボットを特徴づけるもの、そして倫理的な難しさの根源は、それらが故人「によって」ではなく、故人「から」作られている点にあります。悲しみに暮れる家族や企業が、ある人の古いテキスト、ボイスメモ、ソーシャル投稿をかき集め、その人として語るようにモデルを訓練します。故人は素材です。決して作り手ではなく、何より、一度も尋ねられていません。
これが問題なのは、説得力のある模倣が、ある人の名のもとに主張を語るからです。本人が決して言わなかった文、抱いていなかったかもしれない意見、差し出したことのない安心の言葉を生み出します。故人はそれを正すことも、異議を唱えることも、撤回することもできません。本人が同意せず、統治もできない表現とは、突き詰めれば、もはや自ら語れない人に代わって誰かが語り、それをその人自身の声として提示することです。どれほどの慰めをもたらそうとも、それは本人が決して立つことに同意しなかった地点から始まっているのです。
A griefbot is built of the dead. A Persona is built by the living.
同意という境界線
この技術をめぐる意味のある倫理的問いは、ほとんどすべてが一つの境界線に行き着きます。表現される人は、同意した作り手だったのか、それとも同意していない対象だったのか。一方には、典型的なグリーフボットがあります。死後に、別の目的で本人が遺したデータから組み立てられ、そのデータを握る者によって統治され、誰にも責任を負いません。他方には、ある人が存命のうちに自ら構築した表現があります。何を含めるか、そして何を決して主張させないかを、自分で決めたものです。
これは、グリーフボット、すなわちデッドボットという、事後的な再現を指す言葉と、あらかじめ本人が著した同意を起点としたPersonaとの違いです。言葉は似ていて、技術も重なり合いますが、倫理的にはほぼ正反対です。一方は声を奪い、他方は声を与えられます。本人自身の同意があるかないかは、些細な点ではありません。それこそが問いのすべてです。
ここでいう同意とは、一度チェックボックスに印をつけること以上を意味しなければなりません。本人が何を入れるかを選び、それがどう振る舞うかを形づくれ、誰がいつ到達できるかのルールを定める、ということです。本人がすでに去っているために行使できない同意は、本当の意味でその人の同意とは言えません。だからこそ、合意と同じくらいタイミングが重要なのです。表現されることに真に同意できる唯一の人は、生きている本人だけだからです。
研究者や倫理学者が述べていること
この技術に関する真剣な論評は、ツールが向上するにつれて、より慎重なものになってきました。Scientific Americanのような媒体での報道は、グリーフボットが本当に喪に服す人を助けるのか、それともその場に留めてしまう恐れがあるのかを検討し、その証拠が決して確立されたものではないと指摘してきました。こうした論考の多くに共通する慎重な結論は、技術に価値がないということではなく、その恩恵には条件があり、リスクは現実のものだということです。
学術的・倫理的な議論は、The Conversationのような場で取り上げられた研究を含め、とりわけ同意の問題をより強く問うてきました。この分野の研究者は、本人の事前の合意なく人を再現することはその尊厳を侵しうること、家族や企業が故人の望んだであろうことと食い違う利害を抱きうること、そして模倣された人が利用されたり、収益化されたり、本来の本人なら決して言わないことを言わされたりするのを防ぐ歯止めがあるべきこと、を論じてきました。繰り返し現れる主題は統治です。誰が、誰の権限のもとで、どのような制限を伴って、その表現を管理するのか、ということです。
これらをまとめて読むと、この一連の研究は、つながり続けたいという願いが間違っているとは述べていません。その願いは、表現される人を尊重する形で叶えられるべきであり、同意と管理こそがそれを可能にする条件である、と述べているのです。それは、同意を起点としたアプローチが満たすように設計された基準であり、事後的なグリーフボットが構造上満たしえない基準なのです。
同意なきデッドボットがもたらす、記録された害
原則の問題を超えて、いくつかの具体的な害が記録され、あるいは真剣に論じられてきました。それらは率直に名指す価値があります。なぜなら、それらは慎重さが求められる理由であり、抽象論ではないからです。
同意なき再現：最も基本的な害は、本人が決して合意しなかった人を表現し、本人が反論できない言葉や見解をその口に押し込むことです。
喪のさまたげ：常に利用できる模倣は、人によっては喪の営みを和らげるどころか遅らせ、真に変わったり成長したりできない存在に、遺された人を縛りつけてしまうことがあります。
商業的な取り込み：グリーフボットが企業によって運営される場合、故人は製品になりかねません。その面影は、本人が決して認めていない第三者によって保持され、収益化され、あるいは転用されうるのです。
逸脱とねつ造：誰かのように聞こえるよう訓練されたモデルは、創作によって空白を埋め、本人が決して述べなかった発言を生み出し、家族がそれを本物と誤って受け取ってしまうことがあります。
これらの害のどれも、あらゆる場合に避けられないものではありません。そして、まさにそこが要点です。それらは、死後に、同意なく、外部の管理のもとで表現を構築するという構造から生じるものであり、その構造がこれらの少なくともいくつかをほぼ確実に招くのです。構造を変えれば、これらのリスクのほとんどは消え去ります。遺された人がAIを通じて亡くなった大切な人と語り合うためや、亡くなった人のAI版と語り合うためのツールは、まさにこの断層の上に立っており、本人の同意なく構築される場合、まさにこれらの問題をそのまま抱え込むのです。
同意を起点とした代替案：存命のうちに、自ら構築する
代替案は、述べるのは簡単です。死後に本人の意見なく誰かが再現されるのを許すのではなく、本人が存命のうちに、自らを著者として、自分自身の表現を構築するのです。Afterlife AI™では、それがPersonaです。あなたが何者であるかを記した、統治された同意を起点とした記録であり、残されたデータから集めたものではなく、あなたが実際に提供したものだけから、本物の人が持つ多くの次元にわたって描かれます。
本人が著者であるため、上に挙げた害は、後から手当てするのではなく、根本から対処されます。同意があります。あなたが作ると選んだからです。グリーフボットが冒すようなねつ造はありません。沈黙を埋めるために推測するのではなく、あなたが提供した確かなメモリーだけに基づくからです。そして統治があります。あなたが可能なうちに条件を定めるからです。つながり続けたいという願いは尊ばれますが、その中心にいる人が、決定において自らの声を保ち続けるのです。
The only person who can consent to being represented is the living one.
責任ある進め方
これをうまく行うことは、技術というよりも、それを取り巻く条件にかかっています。人の表現は、その人自身によって著され、推論ではなく確かなメモリーから描かれ、誰がいつ到達できるかに対する明確で永続的な管理のもとに置かれるべきです。それらの条件こそが、何と呼ばれようとも、尊重ある営みと搾取的な営みとを分けるものです。
管理は、最も見落とされやすく、正しく整えることが最も重要な部分です。Executor Lock™は、それを提供するために作られています。誰がいつPersonaを起動できるかを統治し、指名された執行者に最終的な決定権を与え、いったん設定されれば結果を恒久的なものにします。そのため、あなたの死後に再訓練されたり、改変されたり、商業利用されたりすることはありません。その恒久性こそが、奪われて変えられうるものから、本人が遺したままに留まるものへと、表現を変えるのです。それは、倫理学者が最も懸念する、商業的な取り込みと逸脱の害に対する、構造的な答えです。
あなたが望むのが、愛する人々が立ち返れる場所であるなら、同じ原則が、統治されたAIメモリアルを生み出します。それは、本人が自ら構築し、その境界を定めたからこそ、追悼する相手を尊重するものです。これとグリーフボットとの違いは、遺された人にもたらす慰めではありません。慰めはどちらにおいても本物でありうるからです。違いは、ここでは、その慰めが、追悼される本人の同意を犠牲にして得られるものではない、という点にあります。
ですから、グリーフボットに代わる倫理的な選択肢とは、その背後にある願いを拒むことではありません。それは、その順序を組み替えることです。合意なく故人を再現することは、遺された人に、本人が決して認めなかった声を受け入れるよう求めます。存命のうちに、統治され、同意を起点としたPersonaを構築することは、自分が去った後どのように存在するかを、本人が自ら決められるようにし、その決定を守り続けます。技術は似ています。倫理は似ていません。違いのすべては、誰がいつ同意したか、にあるのです。