죽음에 대한 가장 오래된 두려움은 잊히는 것이 아닙니다. 잘못 기억되는 것입니다.

제가 참석했던 거의 모든 장례식에는 작은 순간이 하나 있습니다. 관 속에 누워 있는 사람과 추도사 속의 사람이 조용히 어긋나는 순간입니다. 추도사 속의 사람은 제가 알던 그 사람보다 조금 더 다정하고, 조금 더 참을성이 많고, 실제 그 사람이 흥미로웠던 모서리는 매끄럽게 깎여 있습니다. 누구도 거짓말을 하는 것은 아닙니다. 그 자리는 슬픔이 언제나 하는 일을 하고 있을 뿐입니다. 어떤 모습을 간직할지 고르는 것입니다. 부드럽게 고르지만, 그 편집에 이의를 제기할 수 있는 유일한 사람은 말할 수 없는 유일한 사람입니다.

우리는 이것을 보통 있는 그대로 부르지 않습니다. 아름다운 장례였다고 말합니다. 하지만 꽃들 아래에서는 한 사람이 어떤 사람이었는가에 대한 결정이 내려지고 있고, 세상을 떠난 사람에게는 그 결정에 투표할 권리가 없습니다. 이것은 기술이 만들어 낸 새로운 문제가 아닙니다. 죽은 뒤 우리에게 일어나는 가장 오래된 일입니다. 우리는 통째로 다른 사람들의 기억에 넘겨지고, 그 기억은 부분적이고, 사랑에 차 있고, 우리가 결코 바로잡을 수 없는 수백 가지 작은 부분에서 틀려 있습니다.

저는 사람들이 살아 있는 동안 자신을 기록해서 목소리와 이야기의 일부가 자신보다 오래 남도록 돕는 소프트웨어 분야에서 일합니다. 이런 일은 아주 특정한 두려움을 불러일으키고, 저는 그 두려움을 너무 자주 들어서 이제 그 모양을 외우고 있을 정도입니다. 사람들은 섬뜩하다고 말합니다. 가짜라고, 죽은 사람의 얼굴을 쓴 꼭두각시라고 말합니다. 착취라고, 슬픔을 구독 상품으로 바꾼다고 말합니다. 이런 반대 의견은 진지하게 받아들일 가치가 있고, 저도 그렇게 하겠습니다. 다만 저는 그것이 진짜 두려움은 아니라고 생각하게 되었습니다. 그것은 저녁 식사 자리에서 소리 내어 말할 수 있는 두려움입니다. 사람들을 실제로 잠 못 이루게 하는 더 깊은 두려움은 더 조용하고, 인정하기가 더 어렵습니다.

더 깊은 두려움은 잘못 기억되는 것입니다. 납작해지는 것. 모순이 모두 매끄럽게 지워져서 모든 사람에게 맞장구치는 캐리커처만 남는 것. 안 좋았던 어느 하루에 한 말 한마디가, 하필 그 말이 저장되었다는 이유로, 나라는 사람 전체를 영원히 대신하게 되는 것. 우리는 모두 이것을 두려워하고, 누군가 죽은 사람을 학습한 모델을 만들기 훨씬 전부터 두려워해 왔습니다. 기계가 그 두려움을 만든 것이 아닙니다. 다만 두려움이 가리킬 얼굴을 하나 주었을 뿐입니다.

가장 강한 형태의 반대 의견

제 업계에 대한 반론을 제대로 한번 펼쳐 보겠습니다. 그 반론을 펴는 사람들은 괴짜가 아니고, 걱정하는 것이 틀린 것도 아니기 때문입니다.

Sherry Turkle부터 시작하겠습니다. 그는 자신을 사랑해 줄 수 없는 대상에게 사람들이 애착을 갖게 될 때 어떤 일이 벌어지는지 수십 년 동안 지켜본 사람입니다. Alone Together에서 그는 "감정이 없고, 가질 수도 없으며, 사실은 마치 마음을 쓰는 것처럼, 마치 우리를 이해하는 것처럼 행동하는 'as if' 연기의 영리한 집합일 뿐인 기계와 친밀감을 추구한다는 생각이 불편하다"고 썼습니다. 천천히 읽어 보십시오. 제가 아는 한 제 일에 대한 가장 아픈 문장입니다. 세상을 떠난 아버지의 말투로 말하고 아버지가 했을 법한 말을 하는 시스템은, 어느 수준에서는 자신에게 없는 보살핌을 연기하고 있습니다. 마치 그런 것처럼 행동합니다. 그리고 그것이 진짜이기를 간절히 바라는 슬픔에 잠긴 사람은 "마치 그런 것처럼"이라는 사실을 마음속에 붙들어 두기에 가장 서툰 사람입니다.

Turkle의 걱정은 이 기술이 조잡하다는 것이 아닙니다. 중요하게 느껴질 만큼 충분히 잘 작동한다는 것, 그리고 우리가 외롭고 다른 아무것도 없는 새벽 2시에 그 연기를 이용할 수 있기 때문에 우리가 그 연기를 받아들이게 될 것이라는 점입니다.

다음은 심리학자 Elaine Kasket입니다. 그는 All the Ghosts in the Machine이라는 책에서, 우리의 삶이 우리가 소유하지 않은 서버에 저장될 때 우리가 어떻게 되는지를 다뤘습니다. 그의 주제는 디지털 유품입니다. 사진, 메시지, 계정 등 한 사람이 남기는 모든 흔적이며, 이 흔적이 이제는 다른 사람들이 보유하고, 옮기고, 수익화하고, 다시 만들어 낼 수 있는 자산이 되었다는 불편한 사실입니다. 죽고 나면 나라는 존재는 데이터가 되고, 데이터에는 관리자가 있으며, 그 관리자에게는 저마다의 동기가 있습니다. 그가 계속 돌아가는 질문은 당신의 디지털 버전이 존재할 수 있느냐가 아닙니다. 누가 그것을 운영하는가, 누구의 이익을 위해서인가, 그리고 누군가 먼저 당신에게 물어봤는가입니다.

그리고 이 주제에 관해 제가 읽은 가장 신중한 연구가 있습니다. 케임브리지의 연구자 Tomasz Hollanek와 Katarzyna Nowaczyk-Basińska가 2024년에 Philosophy and Technology에 발표한 논문입니다. 두 사람은 제가 일하는 미래의 바로 그 영역을 연구합니다. 제목만 봐도 사람들이 두려워하는 것이 드러납니다. 그리프봇, 데드봇, 사후 아바타입니다. 이들의 경고는 구체적이고, 저는 그것이 옳다고 생각합니다. Hollanek는 이런 서비스가 "잃은 사람을 놀라울 만큼 정확하게 재현한 AI로부터 원치 않는 디지털 귀신 출몰을 겪게 되면 사람들에게 엄청난 고통을 줄 위험이 있다"고 경고했습니다. 그는 더 나아가 이렇게 말했습니다. "사람들은 이런 시뮬레이션과 강한 정서적 유대를 형성할 수 있고, 그러면 특히 조종당하기 쉬워질 것입니다." 공저자는 이 분야 전체를 "윤리적 지뢰밭"이라고 불렀고, 그 표현을 신중하게 골랐습니다. 지뢰밭은 건너기를 거부하는 곳이 아닙니다. 발을 어디에 딛는지 살피며 아주 천천히 건너야 하는 곳입니다.

저녁 식사 자리의 두려움과 달리 케임브리지 논문이 해내는 일은 관련된 사람들을 구분하는 것입니다. 재현되는 사람이 있습니다. 재현하는 사람이 있습니다. 그리고 결과물과 대화하게 될 사람이 있는데, 그 사람은 아이일 수도 있고, 전혀 준비되지 않았을 수도 있습니다. 세 사람이고, 세 가지 권리이며, 이 분야의 제품 가운데 이 셋이 서로 갈라질 수 있다는 사실을 깊이 고민한 제품은 거의 없습니다. 딸이 어머니의 목소리를 다시 듣고 싶어 하는 마음은 어머니가 들려지고 싶어 하는 바람과 같지 않고, 둘 다 계속 붙들어 두고 싶어 하는 회사의 바람은 그 어느 쪽과도 같지 않습니다.

모두가 떠올리는 사례도 들 수 있습니다. 2025년 여름, 한 기자가 Parkland 총기 난사 사건에서 열일곱 살에 목숨을 잃은 소년 Joaquin Oliver의 AI 아바타를 인터뷰했습니다. 그 아바타는 슬픔에 잠긴 부모가 만들었고, 소년이 맞이하지 못한 생일 즈음에 공개되었습니다. 반응은 즉각적이었고 대부분 혐오감이었습니다. 소름 끼친다고, 불쾌하다고 사람들은 말했습니다. 아버지는 반박하기 어려울 만큼 직접적인 슬픔으로 비판자들에게 답했습니다. 아들을 죽인 것은 인공지능이 아니라고요. 이것은 정말 어려운 사례이고, 저는 이 사례를 해결하려는 것이 아니라 짚어 두려고 꺼냈습니다. 이 글의 모든 가닥이 하나의 매듭으로 얽혀 있기 때문입니다. 세상을 떠난 실제 인물이 있습니다. 그를 사랑했고 사랑으로 행동한 사람들이 있습니다. 그리고 그 자신이 하겠다고 결정한 적 없는 말을 공개적으로 하고 있는 그의 한 버전이 있습니다.

이 모든 것을 가장 강한 형태로 붙들어 두십시오. 연기의 문제는 실재합니다. 관리의 문제도 실재합니다. 귀신 출몰의 문제, 조종의 문제, 세 사람의 문제도 모두 실재합니다. 저는 이 가운데 어느 것도 설득해서 없애려 하지 않겠습니다.

반대 의견들의 공통점

하지만 이것들을 나란히 놓고 이들이 실제로 무엇을 공유하는지 살펴보십시오. Turkle의 "as if". Kasket의 관리자들. 케임브리지 팀의 갈라진 세 이해관계자. 총기에 대해 그가 어떤 말을 원했을지를 그를 대신해 결정하는 Joaquin Oliver의 부모. 이 모든 것은 근본적으로 저작권, 즉 저자가 누구인가에 대한 걱정입니다. 펜을 쥔 사람이 누구인가에 대한 걱정입니다. 살았던 사람과 지금 그 사람의 이름으로 말하는 버전 사이의 간극에 대한 걱정이며, 무엇보다 그 간극을 무엇으로 채울지 누가 정하는가에 대한 걱정입니다.

이렇게 다시 보는 것은 보기보다 훨씬 중요한데, 위험이 있는 자리를 옮기기 때문입니다. 위험은 애초에 기술이 아니었습니다. 녹음은 위험하지 않습니다. 모델은 위험하지 않습니다. 위험한 것은 다른 사람이 자기만의 이유로 쓴 한 사람의 버전, 그 사람이 한 번도 본 적 없고 바로잡을 수도 없는 버전입니다. 사람들이 느끼는 섬뜩함은 하나의 신호이고, 그 신호는 "이것은 가짜다"가 아닙니다. 신호는 "당신을 대신해 말할 자격을 얻지 못한 누군가가 당신을 대신해 말하고 있다"입니다.

이렇게 보고 나면 이상한 일이 일어납니다. 이 문제는 더 이상 새로운 문제가 아니게 됩니다.

기억은 언제나 산 사람이 써 왔습니다

여기서부터는 우리가 말하기 싫어하는 부분입니다. 우리는 언제나 잘못 기억되어 왔고, 언제나 산 사람이 기억하도록 맡겨 왔으며, 그 편집이 자연스럽게 느껴지도록 제도 전체를 만들어 왔습니다.

추도사는 저작입니다. 누군가 일어나 모순으로 가득한 삶 전체에서 당신을 대표할 이야기 세 가지를 고르고, 그 선택은 당신이 어떤 사람이었는가에 대한 하나의 주장이며, 당신은 다른 이야기를 골랐을 것이라고 말할 자리에 없습니다. 부고는 저작입니다. 정해진 틀에 맞춰, 아무도 실제로 쓰지 않았던 문체로 쓰여서, 까다롭고 재미있고 구체적인 한 사람을 미덕의 한 문단으로 바꿔 놓습니다. 가족의 이야기도 저작이며, 다시 전해질 때마다 굳어집니다. 그러다 손주들에게 전해지는 버전은 사람이 아니라 캐릭터가 됩니다. 늘 엄격했던 할아버지, 언젠가 했다가 후회한 한마디 때문에 결혼하지 않았던 이모처럼요. 그 밑에 있던 사람은 마음속에서 치열한 논쟁을 벌이고 있었습니다. 이야기는 결론만 남기고 논쟁은 버렸습니다.

이것은 사랑의 실패가 아닙니다. 기억이 작동하는 방식입니다. 산 사람은 들고 갈 수 있는 것만 간직하고, 들고 갈 수 있는 것은 작으며, 계속 살아가는 데 도움이 되는 모양으로 들고 갑니다. 어머니는 가장 좋았던 날의 모습이 됩니다. 아버지는 가장 나빴던 날의 모습이 되기도 하는데, 그날이 당신에게 상처를 남긴 날이라면 그렇습니다. 온전한 사람이, 기억하는 사람들에게 가장 쓸모 있었던 하나의 특성으로 압축됩니다. 우리는 편지와 일기로 이렇게 해 왔고, 육십 년을 한 줄로 줄인 묘비로도 그렇게 해 왔습니다. 죽은 사람이 있어 온 이래로 우리는 줄곧 그들을 납작하게 만들어 왔고, 그것을 기리는 일이라고 불렀습니다.

그래서 누군가 어떤 사람의 AI 버전은 그 사람이 실제로 어떤 사람이었는지 담아내지 못할 수 있으니 무섭다고 말하면, 저는 추도사도 그 사람이 실제로 어떤 사람이었는지 담아내지 못했다고 부드럽게 짚고 싶습니다. 그 무엇도 담아내지 못합니다. 선택은 한 번도 진짜 기억과 왜곡된 기억 사이에 있지 않았습니다. 선택은 언제나 하나의 왜곡과 또 다른 왜곡 사이에 있었고, 그 모두를 남겨진 사람들이 썼으며, 그 사람을 유일하게 알았던 단 한 사람에게 확인받은 것은 하나도 없습니다.

정말로 새로운 것은 왜곡이 아닙니다. 그것은 예전에도 있었습니다. 새로운 것은 그 사람이 투표권을 가질 수 있다는 점입니다.

투표권

이것이 경첩과 같은 대목이어서, 정확하게 말할 가치가 있습니다.

역사 내내 당신에게는 자신이 어떻게 기억될지에 대한 발언권이 없었습니다. 당신이 죽으면 펜은 다른 사람들의 손으로 넘어갔고, 그들이 쓴 것이 곧 당신이 되었습니다. 제가 일하는 기술이 하는 일은 정말로 새로운 단 한 가지입니다. 한 사람이 살아 있는 동안, 저작의 일부를 다시 자기 손에 쥘 수 있게 해 줍니다. 전부는 아닙니다. 사람들이 무엇을 느끼는지, 무엇을 강조하기로 하는지, 당신의 이야기 중 어느 것이 2세대까지 살아남는지는 통제할 수 없습니다. 하지만 처음으로, 자신이 더 이상 반대할 수 없게 된 뒤에 다른 사람들이 빚도록 원재료만 남기는 대신, 자신의 말로, 자신의 모순을 그대로 둔 채, 의도를 가지고 직접 빚은 무언가를 남길 수 있습니다.

그래서 저는 동의가 이 일의 부가 기능이 아니라고 믿게 되었습니다. 동의는 도덕적 차이 전체입니다. 죽은 사람의 한 버전이 존재하게 되는 방식은 두 가지입니다. 하나는 죽은 뒤에 바깥에서 조립되는 것입니다. 친척이나 회사, 혹은 속셈을 가진 기자가 모을 수 있는 조각들로, 산 사람이 죽은 사람에게 바라는 모습을 위해 만듭니다. 다른 하나는 그 사람 자신이 살아 있는 동안 빚는 것입니다. 무엇을 넣을지 고르고, 어떻게 만나고 싶은지 정합니다. 이 둘은 바깥에서 보면 거의 똑같아 보일 수 있습니다. 같은 기술을 쓸 수도 있습니다. 그런데 도덕적으로는 정반대인데, 저자의 서명이 있는 것은 그중 하나뿐이기 때문입니다.

도덕적 지위를 가진 버전은 그 사람이 직접 만든 버전입니다. 가장 정확한 버전도 아니고, 가장 위로가 되는 버전도 아닙니다. 동의를 받은 버전입니다. 죽은 뒤에 만들어진 재현은 아무리 실물 같아도 다른 사람이 그린 초상화입니다. 사랑이 담긴 초상화일 수도, 냉소적인 초상화일 수도 있지만, 그 사람 자신의 이야기가 아니며 그렇게 통용되도록 허용되어서는 안 됩니다. 그 사람이 살아 있는 동안 만든 버전은 증언입니다. 우리 누구에게나 허락된 것 가운데 되받아 말하는 일에 가장 가까운 것입니다.

바로 여기서 Joaquin Oliver의 사례는 매듭이기를 멈추고 분명한 기준이 됩니다. 많은 사람이 느낀 불편함은 사실 기술에 대한 것도, 세상에서 가장 이해할 만한 일을 하고 있던 그의 부모에 대한 것도 아니었습니다. 불편함은 열일곱 살 소년이 자신이 이르지 못한 스물다섯 살의 나이로 공개적으로 의견을 부여받고 있었고, 그가 동의할 자리에 없었다는 데 있었습니다. 부모는 사랑으로 펜을 쥐었습니다. 하지만 그 펜은 여전히 그의 것이 아니었습니다. 그것이 경계선입니다. 섬뜩하냐 아니냐가 아닙니다. 자기 자신이 쓴 것이냐, 다른 사람이 쓴 것이냐입니다.

여기서는 신중해야 하는데, 동의가 지뢰밭을 안전하게 만들어 주지는 않기 때문입니다. 케임브리지 연구자들의 말이 옳습니다. 완전히 동의를 받은 버전이라도 그것과 대화하는 사람에게 고통을 줄 수 있고, 의존을 키울 수 있으며, 그 사람에게 이로운 선을 넘어서까지 계속 붙들어 두도록 만들어질 수 있습니다. 기억되는 데 동의한 사람이라도, 녹음을 가진 회사가 그것을 바꾸기로 하면 죽은 뒤에 스스로도 알아보지 못할 무언가로 바뀔 수 있습니다. 살아 있을 때 한 동의는 그 뒤에 그대로 지켜질 때만 의미가 있습니다. 조용한 수정 없이, 어떤 사업이 지표에 맞추려고 죽은 사람을 슬쩍 개선하는 일 없이 말입니다. 그 버전이 그 사람이 의도한 순간에 고정되어 있을 때만 약속은 지켜지고, 회사든 슬픔에 잠긴 가족이든 누구도 그 사람이 어떤 사람이었는지를 계속 고쳐 쓸 수 없습니다. 그렇지 않다면 동의는 아무도 지킬 생각이 없는 문서 위의 서명일 뿐입니다.

그래서 기준은 동의 하나보다 높습니다. 동의, 그리고 그 동의에 대한 영원한 충실, 그리고 그 사람이 남기기로 한 것만 만들고 나머지를 지어내기를 거부하는 겸손입니다. 신에 대한 생각을 한 번도 녹음하지 않았다면, 그 버전은 짐작해서는 안 됩니다. 침묵도 증언의 일부입니다. 한 사람에게는 어떤 것들을 말하지 않은 채로 남길 권리가 있고, 더 완전해 보이려고 그 침묵을 채우는 버전은 중요한 단 하나의 약속을 이미 깬 것입니다.

제가 이 말을 하는 데 걸린 이해관계

제가 어디에 서 있는지 솔직히 밝혀야 합니다. 저는 이 논쟁의 중립적인 관찰자가 아니기 때문입니다. 제 회사 Afterlife.ai®는 사람들이 살아 있는 동안 자신을 기록하도록 돕기 위해 존재하고, 제가 방금 주장한 모든 것은 공교롭게도 제가 만들려는 것에 대한 설명이기도 합니다. 그 점을 감안하고 제 말을 저울질하셔야 합니다. 어떤 창업자가 자기 제품의 윤리적인 버전이 마침 자기가 파는 버전이라고 말할 때, 올바른 반응은 한쪽 눈썹을 치켜올리는 것이고, 저는 그렇게 해 주시는 편이 낫습니다.

제가 말씀드릴 수 있는 것은, 저는 동의를 마케팅 입장으로 택한 것이 아니라는 점입니다. 저는 그 반대의 경우를 지켜보면서 동의에 이르렀고, 그 반대의 경우는 정말 무섭습니다. 누구든 죽은 뒤에 온라인 삶의 배기가스 같은 흔적으로 다른 누군가에게 재구성될 수 있고, 서명도 투표권도 없이, 죽은 사람이 이의를 제기할 방법도 없이 무언가를 말하고, 무언가를 지지하고, 사람들을 위로하고, 물건을 파는 데 쓰이는 미래입니다. 이의를 제기하는 것은 죽은 사람이 결코 할 수 없는 단 한 가지이기 때문입니다. 그런 미래에 맞설 방화벽으로 제가 떠올릴 수 있는 것은 단순하고 오래된 원칙 하나뿐입니다. 당신의 이름으로 말하도록 허용되어야 하는 당신의 유일한 버전은 당신이 동의한 버전입니다. 그 밖의 모든 것은 다른 사람들이 당신의 추도사를 쓰고 그것을 당신이라고 부르는 것입니다.

우리가 정말로 두려워하는 것

저는 계속 그 장례식들로, 관 속의 사람과 추도사 속의 사람 사이의 작은 어긋남으로 돌아옵니다.

우리는 그 어긋남을 참아 왔는데, 그래야만 했기 때문입니다. 죽은 사람은 우리를 바로잡을 수 없었으니, 우리는 그들을 조금 틀리게 기억하는 것과 화해했고, 사랑이 담긴 버전이 진실한 버전이라고 스스로에게 말했으며, 대체로 선의였습니다. 하지만 솔직한 시간에 사람들에게 무엇을 원하느냐고 물으면, 성인으로 기억되고 싶다고 말하는 사람은 거의 없습니다. 자기 자신으로 기억되고 싶어 합니다. 까다로웠던 부분에서는 까다로운 사람으로. 자기만의 방식으로 웃겼던 사람으로. 틀렸던 것에서는 틀린 채로, 계속 틀려도 되는 사람으로. 그 틀림은 그 사람의 것이었고 전체의 일부였기 때문입니다. 사람들이 두려워하는 것은 잊히는 것이 아닙니다. 기억은 되지만, 실제보다 더 매끄럽고, 더 작고, 더 다루기 쉬운 사람으로 기억되는 것입니다.

제가 일하는 기술은 죽음을 고치지 못하고, 누구도 다시 온전하게 만들 수 없습니다. 저는 그렇지 않은 척할 마음이 없습니다. 하지만 한 가지는 바꿉니다. 그리고 그것은 작은 일이 아닙니다. 인류 역사 내내 "내가 어떻게 기억될지는 누가 정하는가"라는 물음의 답은 "당신이 아니다"였습니다. 언제나 남겨진 사람들이, 사랑에 차 있고 부분적이며 피할 수 없는 편집을 하면서 정할 일이었고, 당신의 동의는 구할 수도 없고 구해지지도 않았습니다. 처음으로 한 사람이 자기 손으로 쓴 기록을 남길 수 있습니다. 마지막 말은 아닙니다. 마지막 말이란 없습니다. 하지만 하나의 말입니다. 당신이 침묵하는 순간 조용해지던 방에서 갖게 되는 한 표입니다.

잘못 기억된다는 것은 우리가 자신의 죽음에 대해 품는 가장 오래되고 조용한 두려움입니다. 어떤 기계보다 오래되었고, 문자보다 오래되었으며, 무덤 앞에 서서 어떤 이야기를 할지 고른 첫 번째 사람만큼 오래되었습니다. 기계가 그 두려움을 만들어 낸 것도 아니고, 기계가 우리를 그 두려움에서 구해 주지도 않을 것입니다. 달라진 것은 이것뿐입니다. 규범이 굳어지고 법이 따라잡고 우리 모두가 무엇을 허용하고 허용하지 않을지 정하기 전의, 기이하고 짧은 역사의 한 순간 동안, 펜이 그 펜의 주인공인 바로 그 사람의 손이 닿는 곳에 잠시 놓여 있다는 것입니다.

이 기회를 가지고 할 정직한 일은 죽은 사람을 위해 그것을 움켜쥐는 것이 아닙니다. 아직 시간이 있을 때 살아 있는 사람들에게 쥐여 주고, 어떻게 간직되고 싶은지를 스스로 정하게 하는 것입니다.