Giải pháp thay thế có đạo đức cho griefbot

Một griefbot là một hệ thống AI mô phỏng một người đã khuất, thường được xây dựng sau khi họ qua đời từ những tin nhắn, bản ghi và bài đăng mà họ để lại, để người thân còn sống có thể tiếp tục một kiểu trò chuyện với họ. Giải pháp thay thế có đạo đức cho một griefbot không phải là từ bỏ mong muốn đằng sau nó, vốn là điều rất con người, mà là đảo ngược trật tự của sự đồng thuận: thay vì tái tạo một người sau khi họ qua đời mà không có sự đồng ý của họ, bạn xây dựng một hình ảnh đại diện được quản trị của chính mình khi còn sống, sau khi đã tự do lựa chọn điều đó. Sự khác biệt duy nhất ấy, ai đồng thuận và vào lúc nào, đã tách biệt một thực hành mà nhiều nhà đạo đức học cảnh báo với một thực hành mà một người có thể đứng ra bảo vệ.

Trang này trình bày griefbot thực sự là gì, vấn đề đạo đức nghiêm trọng nằm ở đâu, các nhà nghiên cứu và nhà đạo đức học đã nói gì về nó, và một giải pháp thay thế đặt sự đồng thuận lên hàng đầu trông như thế nào trong thực tế. Mục tiêu là công bằng chứ không phải gây hoang mang. Thôi thúc muốn tiếp tục trò chuyện với một người bạn đã mất không phải là một khiếm khuyết để bị quở trách. Câu hỏi chỉ là điều đó được thực hiện như thế nào, và liệu người được tái tạo có từng được lên tiếng hay không.

Vấn đề đạo đức cốt lõi: tái tạo một người chưa bao giờ đồng thuận

Đặc điểm định hình của hầu hết các griefbot, và cũng là gốc rễ của khó khăn về đạo đức, là chúng được tạo ra từ người đã khuất, chứ không phải bởi họ. Một gia đình đang đau buồn hoặc một công ty thu gom những tin nhắn cũ, ghi âm giọng nói và bài đăng trên mạng xã hội của một người rồi huấn luyện một mô hình để nói thay họ. Người đã khuất là nguyên liệu thô. Họ không bao giờ là tác giả, và quan trọng nhất là họ chưa bao giờ được hỏi đến.

Điều này quan trọng vì một bản mô phỏng thuyết phục đưa ra những tuyên bố nhân danh một người. Nó tạo ra những câu mà họ chưa bao giờ nói, những quan điểm mà có thể họ chưa bao giờ có, những lời trấn an mà họ chưa bao giờ đưa ra. Người đã khuất không thể sửa lại, không thể phản đối, và không thể rút lại. Một hình ảnh đại diện mà người được đại diện không đồng thuận và không thể quản trị, xét cho cùng, chính là việc ai đó nói thay cho một người không còn có thể tự lên tiếng cho mình, và trình bày điều đó như chính tiếng nói của người ấy. Dù nó mang lại sự an ủi gì đi nữa, nó vẫn khởi đầu từ một chỗ đứng mà người được đại diện chưa bao giờ chấp thuận.

A griefbot is built of the dead. A Persona is built by the living.

Lằn ranh của sự đồng thuận

Gần như mọi câu hỏi đạo đức có ý nghĩa về công nghệ này đều quy về một lằn ranh: người được đại diện có phải là một tác giả đã đồng thuận hay là một đối tượng không đồng thuận? Một bên là griefbot điển hình, được lắp ghép sau khi qua đời từ dữ liệu mà người đó để lại cho những mục đích khác, do bất kỳ ai nắm giữ dữ liệu ấy quản trị, không chịu trách nhiệm trước ai. Bên kia là một hình ảnh đại diện mà một người tự xây dựng cho chính mình, khi còn sống, tự quyết định nó chứa đựng những gì và sẽ không bao giờ tuyên bố điều gì.

Đây là sự khác biệt giữa một griefbot hay một deadbot, những thuật ngữ chỉ việc tái tạo sau sự việc, và một Persona đặt sự đồng thuận lên hàng đầu được tạo ra từ trước. Những từ này nghe có vẻ giống nhau và công nghệ thì chồng lấn, nhưng về mặt đạo đức chúng gần như đối lập. Một bên lấy đi một tiếng nói; bên kia được trao cho một tiếng nói. Sự hiện diện hay vắng mặt của chính sự đồng thuận của người được đại diện không phải là một chi tiết. Nó là toàn bộ vấn đề.

Sự đồng thuận ở đây cũng phải có ý nghĩa nhiều hơn việc tích vào một ô đánh dấu một lần. Nó có nghĩa là người đó đã chọn những gì được đưa vào, có thể định hình cách nó hành xử, và đặt ra quy tắc về việc ai có thể tiếp cận nó và khi nào. Sự đồng thuận mà người được đại diện không thể thực thi vì họ đã ra đi thì thực ra không hẳn là sự đồng thuận của họ. Đó là lý do thời điểm cũng quan trọng không kém sự đồng ý: người duy nhất có thể thực sự đồng thuận với việc được đại diện là người đang còn sống.

Nghiên cứu và các nhà đạo đức học nói gì

Những bình luận nghiêm túc về công nghệ này đã trở nên thận trọng hơn khi các công cụ được cải thiện. Các bài viết trên những ấn phẩm như Scientific American đã cân nhắc liệu griefbot có thực sự giúp ích cho người đang để tang hay có nguy cơ giữ họ mắc kẹt tại chỗ, và đã lưu ý rằng bằng chứng còn lâu mới ngã ngũ. Kết luận thận trọng xuyên suốt phần lớn các bài viết này không phải là công nghệ này vô giá trị, mà là lợi ích của nó có điều kiện và rủi ro của nó là có thật.

Thảo luận học thuật và đạo đức, bao gồm cả những công trình được nêu trên các diễn đàn như The Conversation, đã đào sâu hơn vào riêng câu hỏi về sự đồng thuận. Các nhà nghiên cứu trong lĩnh vực này lập luận rằng việc tái tạo một người mà không có sự đồng ý trước của họ có thể xâm phạm phẩm giá của họ, rằng các gia đình và công ty có thể có những lợi ích khác với mong muốn của người đã khuất, và rằng cần có những rào chắn ngăn một người mô phỏng bị sử dụng, bị thương mại hóa, hay bị bắt nói những điều mà bản gốc không bao giờ nói. Chủ đề lặp đi lặp lại là sự quản trị: ai kiểm soát hình ảnh đại diện, dưới quyền hạn của ai, và với những giới hạn nào.

Đọc cùng nhau, khối lượng công trình này không nói rằng mong muốn được kết nối là sai. Nó nói rằng mong muốn ấy nên được phục vụ theo cách tôn trọng người được đại diện, và rằng sự đồng thuận cùng quyền kiểm soát là những điều kiện để điều đó có thể xảy ra. Đó là một chuẩn mực mà cách tiếp cận đặt sự đồng thuận lên hàng đầu được thiết kế để đáp ứng, và là điều mà một griefbot tái tạo sau sự việc về mặt cấu trúc không thể đạt được.

Những tổn hại đã được ghi nhận của các deadbot không có sự đồng thuận

Ngoài câu hỏi về nguyên tắc, một số tổn hại cụ thể đã được ghi nhận hoặc lập luận một cách nghiêm túc. Chúng đáng được gọi tên rõ ràng, vì chúng là những lý do để thận trọng, chứ không phải những điều trừu tượng.

• Tái tạo mà không có sự đồng thuận: tổn hại cơ bản nhất là đại diện cho một người chưa bao giờ đồng ý điều đó, đặt vào miệng họ những lời và quan điểm mà họ không thể phản bác.

• Cản trở quá trình tang chế: một bản mô phỏng luôn sẵn có, với một số người, có thể trì hoãn công việc của sự tang chế thay vì làm dịu nó, giữ người còn sống mắc kẹt với một sự hiện diện không thể thực sự thay đổi hay trưởng thành.

• Chiếm dụng thương mại: nơi một griefbot do một công ty vận hành, người đã khuất có thể trở thành một sản phẩm, với hình ảnh của họ bị giữ lại, bị thương mại hóa, hay bị tái sử dụng bởi một bên mà họ chưa bao giờ cho phép.

• Trôi dạt và bịa đặt: một mô hình được huấn luyện để nghe giống một người sẽ lấp đầy những khoảng trống bằng cách bịa ra, tạo ra những phát ngôn mà người đó chưa bao giờ nói và gia đình có thể lầm tưởng là thật.

Không phải tổn hại nào trong số này cũng tất yếu xảy ra trong mọi trường hợp, và đó chính là điểm mấu chốt. Chúng bắt nguồn từ một cấu trúc, việc xây dựng hình ảnh đại diện sau khi qua đời, không có sự đồng thuận, dưới sự kiểm soát từ bên ngoài, một cấu trúc gần như chắc chắn dẫn đến ít nhất một vài trong số đó. Thay đổi cấu trúc đó thì hầu hết các rủi ro này sẽ biến mất. Những công cụ được thiết kế để người còn sống trò chuyện với một người thân đã khuất qua AI hoặc để trò chuyện với một phiên bản AI của một người đã qua đời nằm đúng ngay trên đường đứt gãy này, và nơi nào chúng được xây dựng mà không có sự đồng thuận của người được đại diện, chúng thừa hưởng đúng những vấn đề này.

Giải pháp thay thế đặt sự đồng thuận lên hàng đầu: tự xây dựng khi còn sống

Giải pháp thay thế rất đơn giản để diễn đạt. Thay vì để một người bị tái tạo sau khi qua đời mà không có tiếng nói của họ, một người tự xây dựng hình ảnh đại diện của chính mình khi còn sống, với tư cách là tác giả của nó. Tại Afterlife AI™, đó là một Persona: một bản ghi được quản trị, đặt sự đồng thuận lên hàng đầu về con người bạn, chỉ rút ra từ những gì chính bạn cung cấp, trên nhiều chiều kích của một con người thực thụ chứ không phải thu thập từ dữ liệu sót lại.

Vì người được đại diện chính là tác giả, những tổn hại nêu trên được giải quyết tận gốc thay vì vá víu về sau. Có sự đồng thuận, vì bạn đã chọn tạo ra nó. Không có sự bịa đặt thuộc loại mà griefbot có nguy cơ mắc phải, vì nó chỉ dựa trên ký ức đã được xác thực do bạn cung cấp, chứ không đoán mò để lấp đầy sự im lặng. Và có sự quản trị, vì bạn đặt ra các điều khoản khi còn có thể. Mong muốn được kết nối được tôn vinh, nhưng người ở trung tâm của nó vẫn giữ tiếng nói của mình trong việc quyết định.

The only person who can consent to being represented is the living one.

Cách thực hiện một cách có trách nhiệm

Làm tốt điều này ít liên quan đến công nghệ hơn là đến các điều kiện xung quanh nó. Một hình ảnh đại diện của một người nên do chính người đó làm tác giả, rút ra từ ký ức đã được xác thực chứ không phải từ suy diễn, và đặt dưới một quyền kiểm soát rõ ràng, bền vững về việc ai có thể tiếp cận nó và khi nào. Những điều kiện ấy là điều tách biệt một thực hành tôn trọng với một thực hành mang tính tận thu, dù nó được gọi bằng cái tên gì.

Quyền kiểm soát là phần dễ bị bỏ qua nhất và quan trọng nhất cần làm cho đúng. Executor Lock™ được xây dựng để cung cấp điều đó: nó quản trị việc ai có thể kích hoạt một Persona và khi nào, trao cho một người thực thi được chỉ định tiếng nói cuối cùng, và làm cho kết quả trở nên vĩnh viễn một khi đã thiết lập, để nó không thể bị huấn luyện lại, thay đổi, hay thương mại hóa sau khi bạn qua đời. Sự vĩnh viễn ấy là điều biến một hình ảnh đại diện từ thứ có thể bị lấy đi và thay đổi thành thứ luôn giữ nguyên như người đó đã để lại. Đó là câu trả lời mang tính cấu trúc cho những tổn hại về chiếm dụng thương mại và trôi dạt mà các nhà đạo đức học lo ngại nhất.

Nếu điều bạn muốn là một nơi để những người bạn yêu thương có thể quay về, cùng những nguyên tắc ấy tạo ra một đài tưởng niệm AI được quản trị tôn trọng người mà nó tưởng nhớ, vì chính người đó đã xây dựng và đặt ra ranh giới cho nó. Sự khác biệt giữa điều này và một griefbot không nằm ở sự an ủi mà nó mang lại cho người còn sống, vốn có thể là thật ở cả hai. Sự khác biệt là ở đây, sự an ủi không phải đánh đổi bằng sự đồng thuận của người được tưởng nhớ.

Vậy nên giải pháp thay thế có đạo đức cho một griefbot không phải là chối bỏ mong muốn đằng sau nó. Đó là một sự sắp xếp lại nó. Việc tái tạo người đã khuất mà không có sự đồng ý của họ buộc người còn sống phải chấp nhận một tiếng nói mà người được đại diện chưa bao giờ phê chuẩn. Việc xây dựng một Persona khi còn sống, được quản trị và đặt sự đồng thuận lên hàng đầu, cho phép một người tự quyết định họ sẽ hiện diện như thế nào sau khi ra đi, và giữ cho quyết định ấy được bảo vệ. Công nghệ thì tương tự. Còn đạo đức thì không. Toàn bộ sự khác biệt nằm ở ai đã đồng thuận, và vào lúc nào.