Nỗi sợ cổ xưa nhất về cái chết không phải là bị lãng quên. Đó là bị nhớ sai.

Trong gần như mọi đám tang tôi từng dự, có một khoảnh khắc nhỏ khi người nằm trong quan tài và người được nhắc đến trong bài điếu văn lặng lẽ không còn khớp nhau. Người được miêu tả hiền hơn người tôi biết một chút, kiên nhẫn hơn một chút, bị mài nhẵn đúng ở những góc cạnh làm nên sự thú vị của con người thật. Không ai nói dối cả. Căn phòng đang làm điều mà nỗi đau mất mát luôn làm. Nó chọn giữ lại phiên bản nào, và nó chọn rất nhẹ nhàng, còn người duy nhất có thể phản đối việc chỉnh sửa ấy lại là người duy nhất không được phép lên tiếng.

Chúng ta thường không gọi nó bằng đúng tên. Chúng ta gọi đó là một buổi lễ đẹp. Nhưng bên dưới những bông hoa, một quyết định đang được đưa ra về việc người ấy là ai, và người đã khuất không có lá phiếu nào trong đó. Đó không phải là vấn đề mới do công nghệ tạo ra. Đó là điều cổ xưa nhất xảy ra với chúng ta sau khi chết. Chúng ta được giao trọn vẹn cho ký ức của người khác, và ký ức ấy chỉ là một phần, đầy yêu thương, và sai ở hàng trăm chỗ nhỏ mà chúng ta sẽ không bao giờ có dịp sửa.

Tôi xây dựng phần mềm trong mảng của ngành cho phép con người ghi lại chính mình khi còn sống, để một phần giọng nói và câu chuyện của họ còn lại sau khi họ ra đi. Loại công việc này gợi lên một nỗi sợ rất đặc thù, và tôi đã nghe nỗi sợ ấy đủ nhiều lần để thuộc lòng hình dạng của nó. Người ta bảo tôi rằng nó rùng rợn. Họ bảo nó giả tạo, một con rối đeo gương mặt của người đã khuất. Họ bảo nó là khai thác, biến nỗi đau mất mát thành một gói đăng ký. Những phản đối ấy đáng được xem xét nghiêm túc, và tôi sẽ làm vậy. Nhưng tôi dần nghĩ rằng đó chưa phải là nỗi sợ thật sự. Đó là nỗi sợ mà người ta có thể nói to trong một bữa tiệc tối. Nỗi sợ sâu hơn, nỗi sợ thật sự khiến người ta mất ngủ, thì lặng lẽ hơn và khó thừa nhận hơn.

Nỗi sợ sâu hơn ấy là bị nhớ sai. Bị làm phẳng. Bị xóa mờ những mâu thuẫn của mình cho đến khi chỉ còn lại một bức biếm họa gật đầu với tất cả mọi người. Bị để một câu nói trong một ngày tồi tệ đại diện cho toàn bộ con người mình mãi mãi, chỉ vì đó là câu được lưu lại. Chúng ta ai cũng sợ điều đó, và chúng ta đã sợ từ rất lâu trước khi có ai huấn luyện một mô hình trên dữ liệu của người đã khuất. Cỗ máy không tạo ra nỗi sợ. Nó chỉ cho nỗi sợ một gương mặt để người ta chỉ vào.

Những phản đối, ở mức mạnh nhất

Hãy để tôi trình bày đàng hoàng lập luận chống lại chính ngành của mình, vì những người đưa ra lập luận ấy không phải là kẻ lập dị, và họ lo lắng là có lý.

Hãy bắt đầu với Sherry Turkle, người đã dành nhiều thập kỷ quan sát điều xảy ra khi con người gắn bó với những thứ không thể yêu lại họ. Trong Alone Together, bà viết rằng bà "thấy băn khoăn trước ý tưởng tìm kiếm sự thân mật với một cỗ máy không có cảm xúc, không thể có cảm xúc, và thực chất chỉ là một tập hợp khéo léo những màn trình diễn kiểu 'như thể', cư xử như thể nó quan tâm, như thể nó hiểu chúng ta." Hãy đọc chậm câu ấy. Đó là câu khó đỡ nhất mà tôi biết nhằm vào công việc của chính mình. Một hệ thống nói bằng nhịp điệu của người cha đã mất và nói những điều ông có thể đã nói thì, ở một mức nào đó, đang trình diễn một sự quan tâm mà nó không có. Nó cư xử như thể. Và một người đang đau buồn, người khao khát điều đó là thật đến mức ấy, lại chính là người ít có khả năng nhất để giữ trong đầu chữ "như thể".

Nỗi lo của Turkle không phải là công nghệ còn thô sơ. Mà là nó đủ tốt để có ý nghĩa, và chúng ta sẽ chấp nhận màn trình diễn đó vì chúng ta cô đơn và màn trình diễn ấy luôn có sẵn lúc 2 giờ sáng, khi chẳng còn gì khác.

Rồi có Elaine Kasket, nhà tâm lý học đã viết All the Ghosts in the Machine, một cuốn sách về những gì xảy ra với chúng ta khi cuộc đời mình được lưu trên những máy chủ mà ta không sở hữu. Chủ đề của bà là di sản số: những bức ảnh, tin nhắn, tài khoản, tất cả phần còn sót lại mà một người để lại, và sự thật khó chịu rằng phần còn sót lại ấy giờ là một tài sản mà người khác có thể nắm giữ, di chuyển, kiếm tiền từ nó và định hình lại. Một khi bạn đã chết, bản thể của bạn là dữ liệu, dữ liệu có người quản lý, và những người quản lý ấy có động cơ riêng. Câu hỏi bà liên tục quay lại không phải là liệu một phiên bản số của bạn có thể tồn tại hay không. Mà là ai được vận hành nó, vì lợi ích của ai, và có ai hỏi ý bạn trước không.

Và rồi có công trình cẩn trọng nhất tôi từng đọc về chủ đề này, một bài báo năm 2024 trên tạp chí Philosophy and Technology của Tomasz Hollanek và Katarzyna Nowaczyk-Basińska, hai nhà nghiên cứu tại Cambridge chuyên nghiên cứu đúng góc tương lai mà tôi đang làm việc. Chỉ riêng tiêu đề của họ đã gọi tên những điều khiến người ta sợ: griefbot, deadbot, avatar sau khi chết. Những cảnh báo của họ rất cụ thể, và tôi nghĩ họ đúng. Hollanek cảnh báo rằng các dịch vụ này "có nguy cơ gây ra đau khổ rất lớn cho con người nếu họ bị 'ám' kỹ thuật số ngoài ý muốn bởi những bản tái tạo AI chính xác đến đáng sợ của những người họ đã mất." Ông còn đi xa hơn: "Con người có thể hình thành những mối gắn bó cảm xúc mạnh mẽ với các mô phỏng như vậy, điều này khiến họ đặc biệt dễ bị thao túng." Đồng tác giả của ông gọi cả lĩnh vực này là "một bãi mìn đạo đức," và bà chọn cụm từ ấy rất cẩn thận. Một bãi mìn không phải là nơi bạn từ chối bước qua. Đó là nơi bạn bước qua rất chậm, nhìn kỹ từng chỗ đặt chân.

Điều mà bài báo của Cambridge làm được, còn phiên bản nỗi sợ ở bữa tiệc tối thì không bao giờ làm, là tách những người liên quan ra. Có người được tái tạo. Có người thực hiện việc tái tạo. Và có người cuối cùng trò chuyện với kết quả, người có thể là một đứa trẻ, người có thể còn lâu mới sẵn sàng. Ba con người khác nhau, ba bộ quyền khác nhau, và hầu như không sản phẩm nào trong lĩnh vực này suy nghĩ kỹ về việc họ có thể tách rời nhau. Nhu cầu được nghe lại giọng mẹ của một người con gái không giống với mong muốn được lắng nghe của người mẹ, và mong muốn giữ cả hai người ở lại của một công ty cũng không giống với mong muốn của bất kỳ ai trong họ.

Tôi có thể thêm vào trường hợp mà ai cũng nhắc tới. Vào mùa hè năm 2025, một nhà báo đã thực hiện một cuộc phỏng vấn với một avatar AI của Joaquin Oliver, một cậu bé bị giết năm mười bảy tuổi trong vụ xả súng ở Parkland, do chính cha mẹ đau khổ của cậu tạo ra và ra mắt vào quanh ngày sinh nhật mà cậu không bao giờ có. Phản ứng đến ngay lập tức và phần lớn là ghê tởm. Rùng rợn, người ta nói. Đáng lo ngại. Người cha đáp lại những người chỉ trích bằng một nỗi đau thẳng thắn đến mức khó mà tranh luận: trí tuệ nhân tạo không giết con trai ông. Đây thật sự là một trường hợp khó, và tôi nêu ra không phải để giải quyết nó mà để đánh dấu nó, vì nó chứa mọi sợi chỉ của bài tiểu luận này trong một nút thắt. Một con người thật, đã ra đi. Những người yêu thương cậu, hành động vì tình yêu. Một phiên bản của cậu nói những điều, trước công chúng, mà cậu chưa bao giờ được quyết định là mình sẽ nói.

Hãy giữ tất cả những điều đó ở mức mạnh nhất. Vấn đề trình diễn là có thật. Vấn đề người quản lý là có thật. Vấn đề bị ám, vấn đề thao túng, vấn đề ba con người, tất cả đều có thật. Tôi sẽ không thuyết phục bạn bỏ qua bất kỳ điều nào trong số đó.

Điểm chung của những phản đối

Nhưng hãy đặt chúng cạnh nhau và để ý xem chúng thực sự có điểm gì chung. Chữ "như thể" của Turkle. Những người quản lý của Kasket. Ba bên liên quan bị tách rời trong nhóm nghiên cứu Cambridge. Cha mẹ của Joaquin Oliver quyết định thay cậu rằng cậu sẽ muốn nói gì về súng đạn. Mỗi điều trong số này, xét đến cùng, là một nỗi lo về quyền tác giả. Về việc ai đang cầm cây bút. Về khoảng cách giữa người đã sống và phiên bản đang nói nhân danh họ, và, quan trọng nhất, về việc ai được quyết định điều gì lấp đầy khoảng cách ấy.

Cách nhìn lại này quan trọng hơn vẻ ngoài của nó, vì nó dời chỗ của mối nguy. Mối nguy chưa bao giờ thực sự là công nghệ. Một bản ghi âm không nguy hiểm. Một mô hình không nguy hiểm. Điều nguy hiểm là một phiên bản của một con người do người khác viết ra, vì lý do riêng của họ, mà người ấy chưa từng thấy và không thể sửa. Cảm giác rùng rợn mà người ta cảm nhận là một tín hiệu, và tín hiệu ấy không phải là "cái này là giả." Tín hiệu ấy là "có người đang nói thay bạn mà chưa xứng đáng có quyền đó."

Một khi bạn nhìn theo cách ấy, một điều lạ xảy ra. Vấn đề thôi không còn mới nữa.

Ký ức luôn do người sống viết nên

Đây là phần chúng ta không thích nói ra. Chúng ta luôn bị nhớ sai, và chúng ta luôn để người sống làm việc nhớ, và chúng ta đã xây cả những thiết chế để việc chỉnh sửa ấy trở nên tự nhiên.

Bài điếu văn là quyền tác giả. Một người đứng lên và chọn, từ cả một cuộc đời đầy mâu thuẫn, ba câu chuyện sẽ đại diện cho bạn, và sự lựa chọn ấy là một lập luận về việc bạn là ai, còn bạn thì không có mặt để nói rằng bạn sẽ chọn những câu chuyện khác. Cáo phó là quyền tác giả, viết theo khuôn mẫu, bằng một giọng điệu chưa ai thực sự từng nói, biến một con người khó tính, hài hước, độc đáo thành một đoạn văn liệt kê đức hạnh. Chuyện gia đình là quyền tác giả, và chúng cứng lại theo từng lần kể, cho đến khi phiên bản được truyền cho các cháu là một nhân vật chứ không phải một con người: người ông Luôn Nghiêm Khắc, người cô Không Bao Giờ Lập Gia Đình chỉ vì một câu cô từng nói rồi hối hận. Con người bên dưới có cả một cuộc tranh luận nội tâm. Câu chuyện giữ lại kết luận và vứt bỏ phần tranh luận.

Đây không phải là thất bại của tình yêu. Đây là cơ chế của ký ức. Người sống giữ lại những gì họ mang nổi, và những gì họ mang nổi thì nhỏ, và họ mang nó dưới hình dạng giúp họ tiếp tục sống. Một người mẹ trở thành ngày đẹp nhất của bà. Một người cha trở thành ngày tệ nhất của ông, nếu ngày tệ nhất ấy là ngày để lại dấu ấn trong bạn. Cả một con người bị nén lại thành một nét duy nhất hữu ích nhất cho những người đang nhớ. Chúng ta đã làm vậy với thư từ và nhật ký, và với những tấm bia mộ thu sáu mươi năm thành một dòng. Chúng ta đã làm phẳng người đã khuất lâu như chúng ta có người đã khuất, và chúng ta gọi đó là tôn vinh họ.

Vì vậy, khi ai đó nói với tôi rằng một phiên bản AI của một con người thật đáng sợ vì nó có thể không nắm bắt được con người thật của họ, tôi muốn nhẹ nhàng chỉ ra rằng bài điếu văn cũng không nắm bắt được con người thật của họ. Không gì làm được điều đó. Lựa chọn chưa bao giờ là giữa một ký ức đúng và một ký ức méo mó. Lựa chọn luôn là giữa sự méo mó này và sự méo mó khác, tất cả đều do những người ở lại viết nên, không cái nào được đối chiếu với người duy nhất biết rõ.

Điều thực sự mới không phải là sự méo mó. Chúng ta đã có nó rồi. Điều mới là con người ấy có thể có một lá phiếu.

Lá phiếu

Đây là bản lề, và đáng để nói cho chính xác.

Suốt lịch sử, bạn không có tiếng nói nào trong việc mình được nhớ như thế nào. Bạn chết, cây bút chuyển sang những bàn tay khác, và bất cứ điều gì họ viết ra đều trở thành bạn. Công nghệ tôi làm chỉ làm đúng một điều thực sự mới. Nó cho phép một người, khi còn sống, đặt lại một phần quyền tác giả vào tay chính mình. Không phải tất cả. Bạn không thể kiểm soát điều người ta cảm thấy, hay điều họ chọn nhấn mạnh, hay câu chuyện nào của bạn sống sót qua thế hệ thứ hai. Nhưng lần đầu tiên, bạn có thể để lại một thứ do bạn định hình có chủ đích, bằng lời của chính bạn, giữ nguyên những mâu thuẫn của bạn, thay vì chỉ để lại nguyên liệu thô cho người khác nhào nặn khi bạn không còn có thể phản đối.

Đó là lý do tôi tin rằng sự đồng ý không phải là một tính năng của công việc này. Nó là toàn bộ sự khác biệt về đạo đức. Có hai cách để một phiên bản của người đã khuất tồn tại. Một là được lắp ghép sau khi chết, từ bên ngoài, bởi người thân hay công ty hay một nhà báo có chủ đích, từ bất cứ mảnh vụn nào họ gom được, phục vụ điều người sống cần người đã khuất trở thành. Cách kia là do chính người đó định hình, khi còn sống, chọn điều gì đưa vào, quyết định họ muốn được gặp theo cách nào. Hai điều này có thể trông gần như giống hệt nhau nhìn từ bên ngoài. Chúng có thể dùng cùng một công nghệ nền tảng. Và chúng đối nghịch nhau về đạo đức, vì chỉ một trong hai có chữ ký của tác giả.

Phiên bản có tư cách đạo đức là phiên bản do chính người đó tạo ra. Không phải phiên bản chính xác nhất. Không phải phiên bản an ủi nhất. Mà là phiên bản được đồng ý. Một bản tái tạo được dựng sau khi chết, dù giống thật đến đâu, là một bức chân dung do người khác vẽ, có thể là bức chân dung đầy yêu thương hay bức chân dung đầy toan tính, nhưng nó không phải lời kể của chính người đó về bản thân và không bao giờ nên được phép thế chỗ như vậy. Một phiên bản do người đó dựng khi còn sống là lời chứng. Đó là thứ gần nhất với việc được đáp lại mà bất kỳ ai trong chúng ta sẽ có.

Đến đây, trường hợp Joaquin Oliver thôi là một nút thắt và trở nên sáng tỏ. Cảm giác khó chịu mà nhiều người cảm thấy thực ra không phải về công nghệ và cũng không thực sự về cha mẹ cậu, những người đang làm điều dễ hiểu nhất trên đời. Cảm giác khó chịu là một cậu bé mười bảy tuổi đang bị gán cho những quan điểm, trước công chúng, ở tuổi hai mươi lăm mà cậu chưa bao giờ đến, và cậu không có mặt để đồng ý. Cha mẹ cậu cầm cây bút vì tình yêu. Nhưng cây bút ấy vẫn không phải của cậu. Đó là ranh giới. Không phải rùng rợn hay không rùng rợn. Mà là do chính mình viết, hay do người khác viết.

Tôi muốn thận trọng ở đây, vì sự đồng ý không làm bãi mìn trở nên an toàn. Các nhà nghiên cứu Cambridge nói đúng rằng ngay cả một phiên bản hoàn toàn được đồng ý vẫn có thể gây đau khổ cho người trò chuyện với nó, có thể nuôi dưỡng sự phụ thuộc, có thể được xây dựng để giữ ai đó gắn bó quá mức điều có lợi cho họ. Một người có thể đồng ý được nhớ đến mà vẫn bị biến, sau khi chết, thành thứ họ không nhận ra, nếu công ty giữ bản ghi quyết định thay đổi nó. Sự đồng ý được đưa ra khi còn sống chỉ có ý nghĩa nếu được tôn trọng sau đó, chính xác, không chỉnh sửa lặng lẽ, không có một doanh nghiệp âm thầm "cải thiện" người đã khuất cho hợp với một chỉ số. Lời hứa chỉ đứng vững nếu phiên bản được đóng băng ở đúng thời điểm người đó muốn, và không ai, không công ty, kể cả gia đình đang đau buồn, được tiếp tục chỉnh sửa việc một người là ai. Nếu không, sự đồng ý chỉ là một chữ ký trên một tài liệu mà không ai định giữ.

Vì vậy tiêu chuẩn cao hơn chỉ riêng sự đồng ý. Đó là sự đồng ý, cộng với sự trung thành với sự đồng ý ấy mãi mãi, cộng với sự khiêm nhường chỉ xây dựng điều người đó đã chọn để lại và từ chối bịa ra phần còn lại. Nếu họ chưa bao giờ ghi lại điều họ nghĩ về Thượng đế, phiên bản không được phép đoán. Sự im lặng là một phần của lời chứng. Một người được phép để lại một số điều chưa nói, và một phiên bản lấp đầy những khoảng lặng đó để trông đầy đủ hơn đã phá vỡ lời hứa duy nhất quan trọng.

Lợi ích của tôi khi nói điều này

Tôi nên nói thẳng về vị trí của mình, vì tôi không phải là người quan sát trung lập trong cuộc tranh luận này. Công ty của tôi, Afterlife.ai®, tồn tại để giúp mọi người ghi lại chính mình khi còn sống, và mọi điều tôi vừa lập luận cũng, thật tiện, là mô tả về điều tôi đang cố xây dựng. Bạn nên cân nhắc lời tôi cho phù hợp. Khi một nhà sáng lập nói với bạn rằng phiên bản đạo đức của một sản phẩm tình cờ lại là phiên bản ông ta bán, phản ứng đúng là nhướn mày, và tôi thà bạn nhướn mày còn hơn không.

Điều tôi có thể nói với bạn là tôi không đến với sự đồng ý như một lập trường tiếp thị. Tôi đến với nó bằng cách quan sát phương án thay thế, và phương án thay thế ấy thực sự đáng sợ: một tương lai nơi bất kỳ ai cũng có thể bị tái dựng bởi bất kỳ ai, sau khi chết, từ phần dữ liệu thải ra của đời sống trực tuyến, và bị bắt nói những điều, ủng hộ những điều, an ủi người ta, bán những thứ, mà không có chữ ký, không có lá phiếu, và không có cách nào để người đã khuất phản đối, vì phản đối là điều duy nhất người đã khuất không bao giờ làm được. Trước tương lai đó, bức tường lửa duy nhất tôi nghĩ ra là một nguyên tắc đơn giản, cổ điển. Phiên bản duy nhất của bạn được phép nói nhân danh bạn là phiên bản bạn đã đồng ý. Mọi thứ khác là người khác viết điếu văn cho bạn rồi gọi đó là bạn.

Điều chúng ta thực sự sợ

Tôi cứ quay lại những đám tang ấy, và sự lệch nhỏ giữa người trong quan tài và người trong bài điếu văn.

Chúng ta chấp nhận sự lệch ấy vì chúng ta luôn phải vậy. Người đã khuất không thể sửa chúng ta, nên chúng ta chấp nhận làm họ sai đi một chút, và tự nhủ rằng phiên bản đầy yêu thương mới là phiên bản đúng, và phần lớn chúng ta có ý tốt. Nhưng nếu bạn hỏi người ta muốn gì, trong những giờ phút thành thật, hầu như không ai nói họ muốn được nhớ như một vị thánh. Họ muốn được nhớ như chính mình. Khó tính ở chỗ họ khó tính. Hài hước theo đúng cách riêng của họ. Sai ở những điều họ sai, và được phép tiếp tục sai, vì cái sai ấy là của họ và là một phần của con người trọn vẹn. Điều người ta sợ không phải là bị lãng quên. Mà là được nhớ, nhưng được nhớ như một người mượt hơn, nhỏ hơn và dễ chịu hơn con người thật của họ.

Công nghệ tôi làm sẽ không sửa được cái chết và không thể làm ai trọn vẹn trở lại. Tôi không có hứng giả vờ điều ngược lại. Nhưng nó thay đổi một điều, và đó không phải điều nhỏ. Suốt lịch sử loài người, câu trả lời cho "ai quyết định tôi được nhớ như thế nào" là: không phải bạn. Luôn luôn sẽ là những người ở lại, thực hiện việc chỉnh sửa đầy yêu thương, không trọn vẹn, không thể tránh, mà sự đồng ý của bạn không được hỏi và cũng không thể hỏi. Lần đầu tiên, con người có thể để lại một lời kể bằng chính tay mình. Không phải lời cuối cùng. Không có lời cuối cùng. Nhưng là một lời. Một lá phiếu trong căn phòng từng chìm vào im lặng ngay khoảnh khắc bạn im lặng.

Bị nhớ sai là nỗi sợ thầm lặng cổ xưa nhất mà chúng ta mang về cái chết của chính mình, cổ hơn bất kỳ cỗ máy nào, cổ hơn chữ viết, cổ như người đầu tiên đứng bên một ngôi mộ và chọn kể câu chuyện nào. Cỗ máy không phát minh ra nỗi sợ ấy và chúng cũng sẽ không cứu chúng ta khỏi nó. Điều thay đổi chỉ là thế này: trong suốt một khoảng thời gian lịch sử kỳ lạ, trước khi các chuẩn mực cứng lại, trước khi pháp luật bắt kịp và chúng ta cùng quyết định điều gì được phép và không được phép, cây bút tạm thời nằm trong tầm với của chính người mà câu chuyện nói về.

Việc trung thực cần làm với nó không phải là giành lấy nó cho người đã khuất. Mà là trao nó, khi còn thời gian, cho người đang sống, và để họ tự quyết định họ muốn được lưu giữ như thế nào.