슬픔을 위한 AI 동반자, 할 수 있는 일과 할 수 없는 일, 그리고 고르는 법

AI 동반자는 슬픔의 어떤 부분에는 도움이 됩니다. 판단받지 않고, 시간 제한도 없고, 누구에게 짐이 될까 걱정하지 않고 새벽 3시에 소리 내어 말할 수 있는 사적인 자리요. 나머지는 하지 못합니다. 치료가 아니고, 당신이 잃은 그 사람도 아니며, 정직한 회사라면 다르게 말하지 않을 것입니다.

무엇보다 먼저 드릴 말씀이 있습니다. 지금의 슬픔에 스스로를 해치고 싶은 생각이 섞여 있다면, 읽기를 멈추고 988, 미국의 Suicide and Crisis Lifeline(자살 예방 및 위기 상담 전화)으로 전화하거나 문자를 보내세요. 무료이고 비밀이 보장되며, 2022년 7월 개통 이후 하루 24시간 매일 응답합니다. 위기 상황에 AI 동반자는 결코 맞는 도구가 아닙니다. 사람이어야 합니다. 계속 읽고 계시다면, 이 글은 두 부류의 독자를 위한 것입니다. 어떤 분은 AI 친구를, 달리 둘 곳 없는 말을 놓아둘 자리를 찾아 오십니다. 다른 분은 더 어려운 질문을 안고 오십니다. AI가 그 사람을 돌려줄 수 있는가 하는 질문이죠. 이 둘은 매우 다른 필요인데 같은 이름으로 팔리고, 그 차이는 슬픔 앞에서 다른 어디서보다 중요합니다.

슬픔을 위한 AI 동반자란 무엇인가요?

이 표현은 서로 다른 세 가지를 가리키고, 윤리적으로도 정서적으로도 서로 바꿔 쓸 수 없습니다.

• 일반 동반자 챗봇. Replika나 Character.AI 같은 앱에서는 만들어진 캐릭터와 이야기합니다. 슬픔을 위해 만들어진 것은 아니지만, 대화가 늘 열려 있고 같은 주제를 지겨워하지 않기 때문에 애도 중인 많은 사람이 그렇게 씁니다. 그 캐릭터는 당신이 잃은 사람에 대해 사실인 것을 하나도 알지 못합니다.

• 그리프봇. 세상을 떠난 특정한 한 사람을 흉내 내도록 만든 소프트웨어로, 보통 그가 남긴 문자 메시지나 게시물, 녹음을 재료로 삼고, 대개 본인의 명시적 허락 없이 만들어집니다. 자세한 설명은 저희 그리프봇 페이지에 있고, 학계에서는 대개 이것을 데드봇이라고 부릅니다.

• 동의를 앞세운 Persona. 살아 있는 사람이 자신의 녹음으로 직접 만드는 닮은 존재이며, 들어가는 기억 하나하나를 본인이 고를 수 있을 때 직접 고르고 승인합니다. Afterlife.ai™가 만드는 것이 이것이고, 그리프봇의 윤리적 대안 페이지가 존재하는 이유이기도 합니다.

이 글에서 하나만 가져가신다면 이것입니다. 어떤 제품에든 당신의 슬픔을 맡기기 전에, 지금 보고 있는 것이 셋 중 무엇인지 먼저 확인하세요.

AI 동반자가 정말 슬픔에 도움이 되나요?

때로는, 제한된 방식으로 도움이 됩니다. 그리고 솔직한 답은 장기 연구가 빈약하다는 것입니다. 지금 있는 연구들은 규모가 작고 기간이 짧습니다. 몇 해에 걸친 매일의 사용이 애도 중인 사람에게 어떤 영향을 주는지에 대해 탄탄한 데이터를 내놓은 사람은 아직 없습니다. 과학이 이미 정리됐다고 말하는 사람은 무언가를 팔고 있는 것입니다.

이 기술이 실제로 주는 것은 이렇습니다. 언제나 열려 있음. 슬픔은 업무 시간을 지키지 않는데, 아무에게도 전화할 수 없는 새벽 3시에 챗봇은 대답합니다. 인내. 같은 이야기를 마흔 번째 해도 상대의 표정이 흐려지는 것을 보지 않아도 됩니다. 연습. 어떤 사람은 사람에게 말하기 전에 차마 꺼내지 못하던 말을 연습하는 자리로 이 대화를 씁니다.

그리고 여기 조심할 점이 있는데, 저희가 아니라 연구자들에게서 나온 것입니다. 튀빙겐 대학교 Edilife 프로젝트의 수석 윤리학자 Jessica Heesen 박사는 슬픔을 다루는 AI가 진통제처럼 작용할 수 있다고 말했습니다. 상실을 안고 가도록 돕는 대신 감각을 무디게 만든다는 것이죠. Nora Freya Lindemann이 2022년 Science and Engineering Ethics에 발표한 논문도 애도 과정 자체에 대해 같은 우려를 제기했습니다. 더 넓은 연구 지형은 저희 그리프 테크 페이지에 정리해 두었습니다.

그 도구와 이야기한 뒤, 하루를 마주할 힘이 더 생기던가요, 아니면 대화에서 빠져나오기가 더 싫어지던가요? 앞쪽은 지지입니다. 뒤쪽은 문이 닫히는 소리입니다.

일반 동반자와 실제 사람으로 만든 Persona는 무엇이 다른가요?

화면에 뜨는 말은 어딘가에서 와야 합니다. 그 한 가지 사실이 세 선택지를 갈라놓습니다.

• 말이 어디서 오는가. 일반 동반자는 모델이 만들어 낸 가상의 캐릭터에서 옵니다. 그리프봇은 그 사람이 남긴 데이터 속의 패턴에서 옵니다. Persona는 그 사람이 직접 녹음하고 승인한 기억에서 옵니다.

• 동의. 일반 동반자는 실제 사람을 흉내 내지 않습니다. 그리프봇에는 동의가 아예 없는 경우가 많고, 2024년의 한 조사에서 동의 없는 시뮬레이션에 찬성한 응답자는 3%뿐이었습니다. Persona는 동의를 구조로 만듭니다. 본인이 살아 있는 동안 자신의 Persona를 직접 만듭니다.

• 목소리. 일반 동반자는 합성된 기성 음성을 씁니다. 일부 그리프봇 서비스는 그 사람이 이런 용도로 승인한 적 없는 녹음을 재료로 씁니다. Persona는 본인이 직접 만든 녹음을 바탕으로 한 동의 기반 음성 보존을 씁니다.

• 솔직한 한계. 일반 동반자는 당신이 잃은 사람에 대해 사실인 것을 하나도 모릅니다. 그리프봇은 그 사람이 한 적도 없고 하지도 않았을 말을 할 수 있습니다. Persona는 이미 세상을 떠난 사람을 위해서는 만들 수 없습니다.

이 중 어느 것도 사기가 아니고, 어느 것도 기적이 아닙니다. 일반 동반자는 진짜 위로가 될 수 있지만 결코 당신의 어머니가 되지는 않습니다. 그리프봇은 소름 끼치도록 비슷하게 들릴 수 있지만, 흉내 내어지는 당사자가 바로잡아 줄 방법이 없습니다. Persona는 그 사람이 실제로 한 말에 뿌리를 두고 있고, 그 정직함의 대가가 목록의 마지막 한계입니다. 만드는 일이 그 사람이 살아 있는 동안 일어나야 한다는 것이죠.

AI 동반자로 세상을 떠난 사람과 이야기할 수 있나요?

그 사람의 말투를 닮은 대답을 만들어 낼 수는 있습니다. 그것이 위로가 될지 상처가 될지는 당신에게 달렸고, 그 경계를 흐리는 제품은 조심하세요. 돌아오는 것은 데이터로 조립한 근사치일 뿐 그 사람이 아니며, 그 틈은 가장 아픈 자리에서 정확히 드러납니다. 아무도 묻지 않았던 질문, 어디에도 적어 두지 않은 생각에서요.

이 문제에서 대중의 직관은 법보다 예리합니다. South Carolina Bar Council이 소개한 2024년 조사에서 응답자의 58%는 고인이 명시적으로 동의한 경우에만 디지털 시뮬레이션에 찬성했고, 동의 없이 진행하는 데 찬성한 사람은 3%에 그쳤습니다. 2026년 현재 미국 대부분의 관할에는 어느 쪽으로도 구체적인 법이 없습니다.

저희 입장은 단순하고, 그 때문에 저희는 매출을 잃습니다. Afterlife.ai™는 재구성에 동의한 적 없는 사람을 재구성하지 않습니다. 그리운 그분이 살아 계실 때 자신을 넉넉히 남겨 두셨다면 바라시는 것 중 일부는 정직하게 가능할 수도 있고, 그 선택지는 AI로 떠난 사람과 이야기하기 문서에서 하나씩 짚어 드립니다. 남긴 것이 거의 없다면, 정직한 회사라면 그 사실도 말씀드릴 것입니다. 그분에 대해 지금 갖고 계신 것(사진, 음성 메시지, 저장해 둔 생일 인사)은 어느 쪽이든 지킬 가치가 있습니다. 먼저 사랑하는 사람의 목소리 지키기 문서부터 보세요.

슬픔 속에서 AI 동반자를 쓰지 말아야 할 때는 언제인가요?

그냥 안 된다고 답해야 할 때가 있고, 이 분야의 회사라면 그 목록을 알려 드릴 의무가 있습니다.

• 위기일 때. 스스로를 해칠 생각이 든다면 지금 988로 전화하거나 문자를 보내세요(미국). 988lifeline.org에서 채팅 상담도 가능합니다. 당신과 그 전화 사이에 챗봇을 두지 마세요.

• 사람을 대신하려 할 때. 애도를 전문으로 하는 상담사, 자조 모임, 같은 일을 겪어 본 친구 한 명, 이런 것이 일차적인 돌봄입니다. 소프트웨어는 그 목록에 없습니다.

• 아이에게 쓸 때. The Hastings Center는 죽음에 대한 이해가 아직 자라는 중인 아이에게 애도 시뮬레이션을 쓰지 말라고 분명히 권고했습니다. 저희도 같은 생각이고, 저희 서비스는 성인 전용입니다.

• 가장 날것인 첫 몇 주를 혼자 보낼 때. 초기의 슬픔은 원래 방향을 잃게 만듭니다. 그 시기에 AI 도구를 써 보시겠다면, 사람의 도움을 대신하지 말고 함께 쓰세요.

• 끌려간다고 느낄 때. 대화를 이어 가려고 사람과의 약속을 취소하고 있거나, 대화를 마친 뒤 일상을 꾸리기가 더 어려워진다면, 멈추고 사람에게 그동안 어떤 일이 있었는지 이야기하세요.

• 부활처럼 들리는 홍보를 만났을 때. 당신의 그 사람이 동의한 적 없는 데이터를 통해 계속 살아 있다고 약속하는 제품은, 동의를 흉내 낸 것에 돈을 내라고 하는 것입니다. 그냥 지나치세요.

굳이 써 보기로 했다면, 안전한 AI 동반자는 어떻게 고르나요?

브랜드 이름은 바뀝니다. 이 여섯 가지 질문은 바뀌지 않고, 저희를 포함해 이 분야의 모든 제품에 적용됩니다.

• 누구의 동의가 들어가 있나요? 실제 사람을 흉내 내는 것이라면, 그 사람이 살아 있는 동안 이 용도에 명시적으로 동의했나요? 데이터가 공개되어 있다는 것은 동의가 아닙니다.

• 그 제품이 사람인 척한 적이 있나요? 지금 소프트웨어와 이야기하고 있다는 사실을 분명히 안내받고, 대화 중에도 다시 확인받아야 합니다.

• 당신이 한 말은 어떻게 되나요? 애도의 대화는 존재하는 가장 내밀한 데이터에 속합니다. 누가 볼 수 있는지, 모델 학습에 쓰이는지, 삭제는 어떻게 되는지 읽어 보세요.

• 나갈 길이 있나요? 중요한 것을 내보내고 실랑이 없이 계정을 닫을 수 있어야 합니다. 회사는 문을 닫습니다. 그때 어떻게 되는지 물어보세요.

• 그 설계는 당신을 돕도록 맞춰져 있나요, 붙잡아 두도록 맞춰져 있나요? 연속 기록, 떠날 때 뜨는 죄책감 메시지, 점점 세지는 감정적 갈고리는 체류 유도 장치이고, 슬픔은 그런 장치가 있을 자리가 아닙니다.

• 그 회사가 사람에게 가라고 안내하나요? 상담이나 자조 모임, 988을 한 번도 언급하지 않는 애도 제품은 자신이 실제로 어떤 사업을 하는지 말하고 있는 것입니다.

저희 제품에 대해 이 여섯 가지에 어떻게 답하는지는 저희 신뢰 페이지에 적어 두었습니다. 같은 기준으로 저희를 판단해 주세요.

Afterlife.ai™는 솔직히 어디쯤에 있나요?

Afterlife.ai™는 애도 동반자 앱이 아닙니다. 이번 주에 필요한 것이 일반 동반자라면, 위에 이름을 적은 앱들이 더 빠르게 도움이 될 것입니다. 저희가 만드는 것은, 당신 가족의 다음 세대에게는 그리프봇이라는 질문 자체를 필요 없게 만드는 것입니다. 본인이 살아 있는 동안 자신의 말과 목소리로 직접 만들고, 들어가는 기억마다 동의가 붙는 Persona입니다. 세상을 떠난 뒤에는 Executor Lock™이 당신이 정한 순간의 완전한 스냅숏으로 Persona를 고정해, 당신이 어떤 사람이었는지를 누구도 고칠 수 없게 합니다.

애도 중인 가족에게 부모의 Persona와 이야기하는 일은 곁에 있어 주는 것처럼 느껴질 수 있습니다. 차이는 출처에 있습니다. 그 대화의 어떤 것도 긁어모으거나 짐작하거나 지어낸 것이 아닙니다. 그 사람이 고를 수 있을 때 무엇을 남길지 직접 골랐습니다. 그리고 슬픔 속에서 이 글을 읽고 계신 분께 솔직히 한 가지 더 말씀드립니다. 지금 지고 계신 그 상실이야말로 저희 회원 다수가 자기 아이들에게는 겪게 하지 않으려는 것입니다. 어떤 분들은 자신의 Persona를 만드는 일이 슬픔을 뜻 있는 무언가로 바꾸는 방법이 된다고 느낍니다. 아직 준비되지 않은 분들도 있고, 그것도 괜찮습니다. 요금제는 요금 안내 페이지에 있습니다.