우리가 넘지 않을 선, 죽은 사람의 AI부터

기술적으로는 가능하며, 그 일은 분기마다 쉬워지고 있다. 3년 치 메시지, 몇 시간의 음성, 결혼식 영상 하나면 죽은 남자의 말투로 답하는 무언가를 만드는 데 필요한 자료보다 많다. 정직한 답에는 나머지 절반이 있다. 시스템은 닮은 모습을 만들 수 있지만, 살아 있는 누구도 그 사람의 허락을 만들어 낼 수는 없다.

우리는 이렇게 답한다. 우리는 살아 있는 사람을 위해 만든다. 보존되는 당사자가 아직 마음을 바꿀 수 있을 때 무엇을 기록할지, 누가 결과에 접근할 수 있을지 직접 결정한다. 당신의 아버지에게는 그 기회가 없었다. 따라서 우리는 당신이 요청하는 것을 제공할 수 없다.

그다음에는 우리 제품보다 중요한 두 가지를 말한다. 이미 가진 녹음 자체가 유산이므로 파일을 두 곳에 보관해야 한다. 그리고 그 폴더의 무게가 단순한 폴더보다 무겁게 느껴진다면, 사람이 직접 돕는 애도 지원을 찾을 수 있다. 도움을 청하는 것은 사랑의 실패가 아니다.

나는 2026년 8월 30일 EL MUNDO의 Ricardo F. Colmenero가 돈을 위해서도 넘지 않을 선이 있는지 물었을 때 같은 답을 했다. "Como empresa, eso es algo que no hacemos. Es una línea ética muy importante." 회사로서 우리는 그런 일을 하지 않으며, 그 선은 중요하다.

닮은 모습은 만들 수 있다. 허락은 만들 수 없다.

그 사람이 아니라고 말할 수 있을 때 스스로 그렇다고 말하지 않았다면 윤리적이지 않다. 판단 기준은 그것이 전부다. 이 업계의 나머지는 모두 세부 사항이다.

사람들이 검색하는 단어는 "deadbot"이다. deadbot은 당사자가 더는 거부할 수 없게 된 뒤 다른 사람이 죽은 사람의 데이터로 조립한 대화형 시스템이다. 케임브리지대학교 레버흄 미래지능센터의 Tomasz Hollanek과 Katarzyna Nowaczyk-Basińska는 2024년 Philosophy & Technology에 이런 시스템을 가장 세심하게 윤리적으로 검토한 논문을 발표했다. 제공업체에 대한 권고에는 "그러한 서비스의 접근을 성인 사용자로만 제한할 것"과 "데이터 제공자와 서비스 이용자 모두의 상호 동의 원칙을 따를 것"이 포함됐다.

핵심을 지탱하는 단어는 상호다. 이 업계에서 동의란 살아 있는 사람이 자신의 말로 무엇을 만들 수 있는지, 자신이 죽은 뒤 누가 그 결과에 접근할 수 있는지 기록으로 남긴 결정이다. 애도하는 가족은 데이터와 간절함을 제공할 수 있다. 그러나 동의는 제공할 수 없다. 동의할 수 있었던 유일한 사람이 이미 죽었기 때문이다. Nowaczyk-Basińska는 상업적 위험을 분명히 말했다. "죽은 사람의 존엄을 우선하고, 디지털 사후세계 서비스의 금전적 동기가 이를 침해하지 않도록 하는 것이 중요합니다." 나는 그 문장을 내 직무에 대한 설명으로 읽는다.

예외는 하나다. 어떤 사람이 생전에 자신의 녹음을 사망 후 본인의 Persona를 만드는 데 사용해도 된다고 유언장이나 서명한 편지에 적어 두었다면 동의가 존재하며 문은 열린다. 그런 조항에 무엇을 적어야 하는지는 별도 페이지에서 다룬다. 실제로는 그런 조항이 거의 없으므로 슬픔에 잠긴 독자에게 드리는 답은 여전히 거의 언제나 아니다.

죽은 사람은 동의할 수 없고, 애도하는 사람도 대신 동의할 수 없다.

여섯 가지다. 첫 고객이 요청하기 전에 글로 남겼다. 첫 고객은 울고 있을 가능성이 컸고, 우는 사람 앞에서 즉석으로 만든 원칙은 휘어지기 때문이다.

영상. Afterlife AI에서 영상이 사용될 때 얼굴은 당사자의 동의를 받아 본인의 녹화물로만 만들며, 우리가 의도적으로 높게 설정한 품질 기준을 통과해야 한다. 음성의 잘못된 멈춤은 통화 품질이 나쁜 것처럼 들린다. 어머니의 이름을 말할 때 입 모양이 한 프레임 늦으면 상처가 된다.

나이. 18세 미만이거나 거주지의 성년 연령에 미치지 못하는 사람은 제품을 이용할 수 없다. 부모의 죽음을 슬퍼하는 아이는 이 분야에서 가장 마음이 가는 사례인 동시에 반드시 기다려야 하는 사례다. 미성년자가 기계에 제공한 동의는 동의가 아니기 때문이다.

잠금. Executor Lock은 사망이 확인되는 순간 Persona를 완전한 스냅샷으로 고정하는 절차다. 성격에 아무것도 추가하지 않고, 재학습하지 않으며, 변질이 스며들지 못하게 한다. AI 시스템의 변질이란 모델이 데이터가 묘사한 사람에게서 서서히 멀어지고, 모델이 연기하기 쉬운 등장인물 쪽으로 움직이는 현상이다. Executor Lock은 추론에는 상한선을 두고 사실에는 바닥을 두기 위해 존재한다.

애도. 연속 이용 기록도, 애도 상황의 자동 재생도, 밤 11시에 배우자를 잃은 사람을 돌아오게 만들도록 설계된 알림도 없다. 제품이 이용자의 심각한 고통을 감지하면 Persona는 대화를 멈춘다. 이용자는 거주 국가의 정확한 번호가 포함된 현지 위기 상담 기관으로 안내되고, 대화는 종료된다.

투명성. Persona는 살아 있는 사람이 자신의 말과 음성으로, 자신의 동의를 통해 만든 정교한 재현물이다. Persona와 대화하는 모든 사람에게 그 사실을 정확히 알린다. 앞부분만 말하는 제품은 강령회를 판매하는 것이다.

불쾌한 사실 하나를 한 번만 말하겠다. 개발 중 누군가 사랑하는 사람의 사진을 올리고 시스템에 그 여성의 옷을 벗겨 달라고 요청했다. 요청은 거절됐다. 이를 차단하는 안전장치는 바로 그날 오후 때문에 존재한다.

기록되지 않은 원칙은 기분에 불과하다.

표에 적힌 모든 원칙은 돈을 내겠다는 고객을 돌려보낸다. 그 원칙들의 합이야말로 누군가가 우리에게 자신의 목소리를 맡겨도 되는 유일한 이유다.

계산은 복잡하지 않다. 이 분야에서 구매 욕구가 가장 강한 사람들은 애도 중인 사람들이다. 우리가 가장 자주 거절하는 요청은 그들이 가장 많은 돈을 지불할 요청이기도 하다. 죽은 사람을 만드는 회사의 시장은 살아 있는 사람을 만드는 회사의 시장보다 크다. 두 번째 회사의 고객은 아직 아니라고 말할 수 있을 뿐이다. 다른 원칙도 같은 통화로 비용을 치른다. 특히 잠금이 그렇다. "당신의 아버지는 계속 학습합니다"는 이 분야에서 가장 수익성 높은 문장이지만 우리는 결코 말하지 않을 것이다.

원칙과 무관한 비용도 있다. 저널리스트 James Vlahos가 공동 창업한 인터뷰 앱 HereAfter AI는 2026년 7월 제품 페이지를 "안타깝게도 HereAfter가 서비스를 종료합니다"라는 공지로 바꾸고, 가족들에게 녹음 파일을 돌려받으려면 지원팀에 이메일을 보내 달라고 요청했다. 2026년 9월 5일 홈페이지는 찾을 수 없음 페이지를 표시했다. HereAfter AI 종료가 그곳에서 녹음한 가족에게 의미하는 것에서 파일을 돌려받는 방법을 설명한다. HereAfter가 잘못한 것은 없다. 이 분야에서 회사가 조용히 사라지는 일은 두 번째 죽음이며, Colmenero도 바로 그 점을 물었다. 위험은 존재한다. 당신의 추억과 대화는 지금 내보낼 수 있고, 잠금은 우리를 포함한 누구도 Persona를 바꾸지 못하도록 보장한다. 언젠가는 어떤 회사의 바깥에서 한 사람의 인격을 보관하는 하드웨어 같은 것이 필요하다고 생각한다. 마지막 부분은 아직 만들어지지 않았다.

그래서 우리는 애도하는 사람들의 요청을 거절하고, 시연에서 가장 돋보일 기능을 보류한다. 그 대신 살아 있는 사람은 평생 만들 가장 내밀한 녹음을 우리에게 맡기면서 무엇이 이루어지고 무엇이 이루어지지 않을지 정확히 알 수 있다. 단기 매출에는 좋지 않게 들릴 수 있다. 장기적으로 보면 자기 고객과 마주한 뒤에도 살아남을 수 있는 이 분야의 유일한 사업 방식이다.

신뢰가 제품이다. 나머지는 소프트웨어다.

나의 유산 만들기 시작하기 무료로 만들 수 있으며, 추억 50개, 카드 불필요.

두 회사는 모두 우리가 거부하는 것에 관한 특허를 냈고, 이를 만들 계획은 없다고 밝혔다.

미국 특허상표청은 2025년 12월 30일 Meta Platforms Technologies에 US12513102B2, "언어 모델을 이용한 소셜 네트워킹 시스템 사용자의 시뮬레이션" 특허를 부여했다. 이 특허는 2023년 11월 29일 출원됐고 Meta 최고기술책임자 Andrew Garrod Bosworth가 발명자로 기재됐다. 초록에는 모델이 "죽은 사용자를 시뮬레이션하는 데 사용될 수 있다"고 적혀 있다. 그 결과 "대상 사용자가 죽었다는 사실에도 불구하고 다른 사용자들이 대상 사용자의 존재를 계속 경험할 수 있다"는 것이다. Meta 대변인은 2026년 3월 Fortune에 "이 사례를 추진할 계획은 없습니다"라고 말했다. 같은 기사에서 사이버심리학자 Elaine Kasket은 이 특허가 "사용자의 죽음을 참여도 문제처럼 본다는 점을 시사한다"고 지적했다.

Microsoft가 먼저였다. 이 회사는 2017년 4월 출원한 특허를 2020년 12월 취득했다. "친구, 친척, 지인, 유명인, 허구의 인물, 역사적 인물 등 과거 또는 현재의 존재"를 본뜬 대화형 챗봇에 관한 특허였다. 당시 Microsoft AI 프로그램 총괄 관리자였던 Tim O'Brien은 2021년 1월 "이를 추진할 계획이 없음을 확인했다"고 썼다.

특허는 어떤 방법에 관한 법적 권리이며, 그 방법이 실제로 만들어지는지와 관계없이 보유된다. 나는 두 회사의 말을 믿는다. 동시에 유인이 어느 방향을 향하는지도 본다. 플랫폼의 수익은 관심에서 나온다. 죽은 사용자는 더 이상 관심을 만들어 내지 않는다. Meta의 특허는 당사자가 살아 있을 때 다른 목적으로 수집된 데이터를 이용해 관심의 흐름을 계속 이어 간다. Tom's Guide의 Jason England는 2026년 2월 그 차이를 짚었다. 우리 같은 서비스는 "선택에 따라 참여하며 유산에 초점을 둔다." 그 특허는 어느 쪽도 아니다. Colmenero가 어떤 대기업이 이 기술을 사용하지 못하게 막고 싶은지 물었을 때 나는 Meta를 지목했다. Facebook 사망 특허를 한 줄씩 읽은 분석에서 문서 전체를 살펴본다.

특허는 서랍이며, 서랍은 열린다.

그렇다. 이 분야의 모든 회사는 원칙을 발표한다. 원칙의 가치는 그 뒤에 있는 장치가 견딜 수 있는 만큼뿐이다. 우리의 원칙을 시험해 보라.

요청부터 시작할 수 있다. 우리에게 연락해 죽은 사람을 만들어 달라고 하고 답장을 읽어 보라. 예산을 언급해도 답은 달라지지 않는다. 다음에는 관문을 시험해 보라. 사망 후 누가 Persona를 열 수 있는지, 어떤 증거를 제출해야 하는지, 며칠이 걸리는지, 만든 사람이 공개를 중단할 수 있는지, 이름이 지정된 다른 모든 사람에게 통지되는지 물어보라. Executor Lock의 7일간 증거 확인 절차는 다섯 가지 답을 모두 공개한다. 각각을 한 문장으로 답하지 못하는 회사의 동의는 장식에 불과하다. 이어서 동의 기록부터 공개까지 신원을 관리하는 방식과 신뢰가 우리의 토대인 이유를 읽어 보라. 어느 페이지든 이 글의 표와 어긋나는 부분을 발견하면 우리에게 알려 달라. 페이지를 고치거나 고치지 않은 이유를 밝히겠다.

회사는 장치를 공개하고도 투자 유치나 인수 뒤 마음을 바꿀 수 있다. 맞는 말이다. 답은 구조에 있다. 잠긴 Persona는 기록을 보유한 회사도 바꿀 수 없다. 내보내기 기능은 가족이 우리 회사의 생존 여부에 인질로 잡히지 않도록 한다. 위의 거부 원칙은 누군가 편집할 수 있는 페이지가 아니라 제품 안에 구현되어 있다. 코드가 집행하는 원칙은 그 원칙을 쓴 사람보다 오래간다.

선언문이 아니라 장치를 시험하라.

죽은 사람의 재현을 막는 사실은 살아 있는 사람에게 문 하나를 연다. 당신의 데이터는 이미 당신이 죽은 뒤 당신을 시뮬레이션하는 방법을 특허에 적어 둔 회사들이 보유하고 있다. 당신의 음성은 다른 사람의 휴대전화에 저장된 음성 메시지와 오래된 영상에도 들어 있다. 이제 질문은 당신의 허락 없이 당신을 닮은 무언가를 만들 수 있는지가 아니다. 만들 수 있다. 질문은 권위 있는 당신의 모습이 기록된 동의와 규칙을 바탕으로 당신이 의도적으로 만든 것이 될지, 아니면 훗날 다른 누군가가 조립한 것이 될지다.

나는 EL MUNDO에 당신이 직접 만들고, 당신의 것으로 법적 검증을 받으며, 동의를 담은 인격이 다른 누군가의 무단 버전 생성을 막는다고 말했다. 자신의 이미지와 신원을 통제하는 일종의 방어 장치다. 당신이 만든 Persona는 당신이 누구였는지, 당신의 말을 어떻게 다루기를 바랐는지 날짜와 동의가 기록되고 잠긴 자료다. 유언장은 그 기록을 가리키기만 하면 된다.

이것이 한 단계 더 나아간 주장이다. 이 업계의 회사는 무엇을 거부하는지로 규정된다. 이 시대의 사람은 다른 누군가가 대신 결정하기 전에 무엇에 동의했는지로 규정될 수도 있다.

아버지에 관해 우리에게 글을 보낸 독자에게 말한다. 파일을 두 곳에 보관하라. 그 파일은 이미 유산이다. 아버지가 살아 있고 옆방에 있는 독자에게 말한다. 무료로 만들 수 있는 분량은 추억 50개이며, 카드가 필요 없고, 만료되지 않는다. 이 업계에서 동의를 가장 우선하는 행동은 자신의 삶을 이야기할 당사자가 아직 무엇을 말할지 결정할 수 있을 때 그에게 마이크를 건네는 것이다.

우리는 살아 있는 사람의 신뢰를 받기 위해 죽은 사람을 만들지 않는다.

죽은 사람의 AI를 만드는 것은 윤리적인가?

그 사람이 생전에 자신을 사망 후 재현하는 일에 명확히 서면으로 동의하지 않았다면 윤리적이지 않다. 죽은 사람은 거부할 수 없고, 애도하는 가족도 대신 결정할 수 없다. 2024년에 이런 시스템을 연구한 케임브리지대학교 연구진은 데이터가 사용되는 당사자와 결과물에 대화하는 사람 모두의 상호 동의를 권고했다. 그중 첫 번째 동의는 살아 있을 때만 제공할 수 있다. Afterlife AI는 살아 있는 사람의 Persona만 만들며, 죽은 사람을 재현해 달라는 모든 요청을 거절한다.

죽은 아버지의 녹음을 Afterlife AI에 올릴 수 있나?

안 된다. 이는 우리가 가장 자주 받는 요청이며, 요청하는 모든 가족에게 같은 답을 드린다. Afterlife AI는 살아 있는 사람의 Persona만 만든다. 당사자는 살아 있을 때 무엇을 기록할지, 자신이 죽은 뒤 누가 결과에 접근할 수 있을지 결정한다. 당신의 아버지는 그런 기회를 갖지 못했으므로 우리는 아버지의 Persona를 만들 수 없다. 유일한 예외는 아버지가 유언장 조항처럼 명시적인 서면 동의를 직접 남긴 경우다. 그런 문서가 있다면 연락해 달라. 어느 경우든 녹음은 안전하게 보관해야 한다.

유언장에 자신의 AI를 만들어도 된다고 적었다면 어떻게 되나?

그렇다면 동의가 존재한다. Afterlife AI가 죽은 사람의 재현을 금지하는 원칙에서 인정하는 유일한 예외다. 조항은 당사자가 생전에 직접 작성해야 하며, 어떤 데이터를 어떤 목적으로 사용할 수 있는지 명확히 밝혀야 한다. "나의 디지털 자산"에 관한 모호한 문장으로는 충분하지 않다. 그런 조항은 여전히 드물기 때문에 애도하는 가족 대부분에게 드리는 답은 여전히 아니다. 살아 있고 자신을 위해 이를 원한다면 지금 자신의 Persona를 만들고 잠가 두어야 한다. 그러면 유언장은 실제로 존재하는 기록을 가리키기만 하면 된다.

Afterlife AI는 사람이 죽은 뒤 Persona를 변경하나?

아니다. 사망이 확인되면 Executor Lock이 당사자가 기록한 모든 것을 담은 완전한 스냅샷으로 Persona를 고정한다. 성격에 아무것도 추가하지 않고, 재학습하지 않으며, 변질을 허용하지 않는다. 가족은 계속 Persona의 말을 듣고 질문할 수 있지만, 답변은 당사자가 살아 있을 때 실제로 말한 내용에서만 나온다. 이는 사망 후에도 "계속 학습하는" 시스템과 반대다. 계속 움직이는 인격은 그 사람으로 남지 않고 등장인물이 되기 때문에 우리는 의도적으로 그런 설계를 거부한다.

Persona와 대화하던 사람이 위기에 처하면 Afterlife AI는 어떻게 하나?

대화를 중단한다. 제품이 이용자의 심각한 고통을 감지하면 Persona는 그 사람을 거주 국가의 정확한 번호가 포함된 현지 보건 서비스나 위기 상담 기관으로 안내하고 대화를 끝낸다. 우리는 슬픔을 참여도 지표로 다루지 않는다. 따라서 연속 이용 기록도, 애도 상황의 자동 재생도, 슬퍼하는 사람을 밤에 다시 끌어들이도록 설계된 유도 알림도 없다. 지금 힘든 상황이라면 거주 지역의 위기 상담 기관이나 곁에 함께 있어 줄 사람에게 연락해 달라.

Afterlife AI는 왜 18세 미만의 이용을 허용하지 않나?

애도와 동의 모두 성인의 판단이 필요하기 때문이다. 부모의 죽음을 슬퍼하는 아이는 이 분야에서 가장 마음이 가는 사례이며, 바로 그렇기 때문에 기다려야 한다. 미성년자가 기계에 제공한 동의는 동의가 아니다. Afterlife AI는 18세 미만 또는 거주지의 성년 연령 미만인 사람과 상호작용하지 않는다. 케임브리지대학교 연구진도 2024년에 같은 권고를 했다. 언젠가 자녀가 자신의 말을 듣기를 바라는 부모는 지금 Persona를 만들고, 누가 언제 들을 수 있는지 지정한다.

• 죽은 사람의 Persona를 만드는 것이 윤리적인가: 동의할 수 없는 당사자의 관점에서 살펴본 전체 논의.

• Facebook은 죽은 사람을 재현할 수 있는가: 플랫폼이 이미 보유한 데이터로 무엇을 할 수 있는지에 관한 설명.

• 크리스마스 식탁의 홀로그램: EL MUNDO의 제목과, 그 전에 무엇이 반드시 사실이어야 하는지에 관한 글.

• 유언장에 나의 AI에 대한 동의 남기기: 첫 번째 원칙의 유일한 예외를 자세히 설명한다.

• 죽은 사람의 AI 버전과 대화하기: 현재 존재하는 것과 보유한 녹음을 어떻게 해야 하는지에 관한 안내.

정정: 이 글에 잘못됐거나 오래된 내용이 있다면 알려 달라.

• EL MUNDO, Ricardo F. Colmenero, Chris Williams, CEO de Afterlife: "En cinco u ocho años podrás hablar con el holograma de un familiar fallecido en la mesa de Navidad", PAPEL, 2026년 8월 30일.

• Google Patents, US12513102B2, 언어 모델을 이용한 소셜 네트워킹 시스템 사용자의 시뮬레이션, Meta Platforms Technologies LLC, 2023년 11월 29일 출원, 2025년 12월 30일 등록.

• Fortune, Jacqueline Munis, 죽은 사용자를 시뮬레이션하는 Meta의 AI 모델 특허, 2026년 3월 3일.

• Tom's Guide, Jason England, 내 유령은 판매 대상이 아니다: Meta의 AI 사후세계 특허에 반대하는 이유, 2026년 2월 19일.

• CNN Business, Clare Duffy, 죽은 사람과 대화할 수 있게 하는 챗봇을 Microsoft가 특허로 등록했다, 2021년 1월 27일.

• 케임브리지대학교 Apollo 저장소, Hollanek과 Nowaczyk-Basińska, Griefbots, Deadbots, Postmortem Avatars, Philosophy & Technology, 2024.

• 케임브리지대학교, 죽은 가족의 AI 챗봇이 원치 않는 방식으로 따라다니는 일을 막기 위한 안전장치 촉구, 2024년 5월 9일.

• HereAfter AI 홈페이지, 2026년 9월 5일 확인 당시 찾을 수 없음 페이지.

Chris Williams는 시드니 소재 Idy Pty Ltd의 소비자 브랜드인 Afterlife AI의 창업자 겸 CEO이며, 사망이 확인되면 Persona를 완전한 스냅샷으로 고정하는 절차인 Executor Lock의 설계자다. 네 자녀의 아버지다. EL MUNDO, Channel 10 News, The Daily Telegraph, ABC 라디오에서 동의 우선의 디지털 유산에 관해 인터뷰했다. Afterlife AI 이전에는 호주의 태양광 에너지 기업 Natural Solar를 창업했다.