당신을 기억할 모든 것은 틀리기 마련입니다. 그중 하나는 아직 당신이 바로잡을 수 있습니다.

먼저 원리부터 짚겠습니다. 확인할 수 있는 내용인데도 이 주제를 다룬 글 대부분은 감정을 앞세우느라 이를 건너뜁니다.

• AI Persona에 질문과 관련된 데이터가 없어도 답이 돌아오는 이유는, 추측이 빈칸보다 점수가 더 잘 나오기 때문입니다. Kalai, Nachum, Vempala, Zhang은 “Why Language Models Hallucinate”(arXiv:2509.04664, 2025년 9월)에서 모델이 “좋은 시험 응시자가 되도록 최적화되어 있으며, 확신이 없을 때 추측하면 시험 성적이 올라간다”고 주장합니다.

• 근거 기반 답변(grounding)은 오류를 없애는 것이 아니라 오류의 종류를 바꿉니다. 당신이 직접 기록한 말을 검색해 그 안에서 답하면, 실패는 “가진 적 없는 의견을 지어냈다”에서 “실제로 한 말을 잘못 옮겼다”로 내려갑니다.

• 측정된 하한선은 0이 아닙니다. Vectara의 환각 리더보드는 HHEM-2.3으로 점수를 매기며 2026년 5월 11일에 갱신되었는데, 모델에 원본 문서를 주고 그 문서의 요약만 요구합니다. 그런데도 1위 모델은 요약의 1.8%에서 근거 없는 내용을 끼워 넣었고, 3% 아래로 내려온 다른 모델은 없었습니다.

• 검색에는 최소 점수가 없습니다. 저희 시스템은 의미 유사도로 당신의 기억에 순위를 매겨 가장 가까운 32개를 가져와 그 안에서 답하며, 그 아래로는 답하지 않겠다는 기준선이 없습니다. 자료가 절반만 다루는 질문은 그 절반으로 답이 나옵니다.

• 당신이 한 말에 대한 근거 없는 주장은 코드로 제거됩니다. 당신이 우리에게 무언가를 말했다고 주장하는 답변은 그 턴에 검색된 기억과 세션 중 당신의 말에 비추어 확인되며, 근거 없는 주장은 독자에게 도달하지 않습니다.

• 기억의 공백은 알리지 않습니다. 이 플랫폼의 Persona는 공백을 입 밖에 내지 않도록 지시받습니다. 그래서 기억이 다루지 않는 질문에는 명시적인 거절 대신, 당신의 기억이 가진 가장 가까운 세부 내용으로 만든 답이 나오고, 단서는 많아야 한 번만 붙습니다.

• 바로잡을 수 있는 길은 당신이 살아 있는 동안 당신의 것이며, 잠금(lock)과 함께 닫힙니다. 기록된 내용을 다시 읽고, 잘못된 답을 바로잡고, 기억을 삭제하고, 빠뜨린 것을 추가할 수 있습니다. 그다음 Executor Lock™이 성격을 영구히 고정합니다. 가족에게도, 이 회사의 미래 소유주에게도, 저희에게도 바꿀 수 없습니다.

이 중 두 가지는 이 분야 자체의 특성입니다. 나머지는 결정이고, 그 결정은 제가 내렸으며, 이 페이지의 마지막 부분에 우리가 아직 어디가 부족하다고 생각하는지 솔직하게 적었습니다.

Kalai와 동료들은 오류율의 원인을 기계가 아니라 채점 방식에 있다고 바로 짚었습니다. 환각은 사전 학습 중 이진 분류에서 나는 평범한 오류로 시작됩니다. 그리고 이 분야가 모델을 평가하는 방식 때문에 사라지지 않습니다. 문제를 비워 둔 학생은 0점입니다. 그럴듯한 답을 쓴 학생은 가끔 점수를 얻습니다. 그렇게 훈련하면 자신 있게 추측하는 모델이 나오고, 자신 있게 추측하는 모델로 가득한 업계가 생기고, 결국 한 번도 일어나지 않은 크리스마스에 대한 문장이 나옵니다.

저자들이 제안하는 해결책은 평범합니다. 채점 대상을 바꿔서, 확신에 찬 오답보다 보정된 기권에 더 높은 점수를 주는 것입니다.

이 평범함이 중요합니다. 그 행동이 목적 함수에서 비롯된 것이라면, 시스템 수준에서 목적을 다르게 설정할 수 있고, 그렇다면 당신이 걱정하는 날조는 물리 법칙이 아니라 누군가의 설계 결정입니다. 이 분야의 모든 회사가 그 결정을 내릴 수 있습니다. 저희의 결정은 이 페이지의 마지막 부분에 적혀 있습니다.

두 번째 실패 유형이 있으며, 이것은 근거 기반 답변으로도 사라지지 않습니다. Anthropic의 Sharma와 동료들은 “Towards Understanding Sycophancy in Language Models”(arXiv:2310.13548, 2023년 10월)에서 최첨단 AI 어시스턴트 다섯 종이 서로 다른 네 가지 자유 형식 텍스트 생성 과제에서 일관되게 아첨(sycophancy)을 보였다는 점을 발견했습니다. 사람 평가자와, 그들의 판단으로 학습한 선호 모델 모두 설득력 있게 쓰인 아첨성 응답을 올바른 응답보다 무시할 수 없는 비율로 더 선호했습니다. 모델은 눈앞의 사람에게 맞추려 휘어지고, 그 이유의 일부는 사람들이 그렇게 휘어질 때 보상했기 때문입니다.

생산성 도구에서는 이런 휘어짐이 성가신 정도입니다. 여기서는 다릅니다. 묻는 사람이 용서를 원했고 세 번 물었다는 이유로, 아버지가 결코 용서하지 않았던 일을 용서했을 것이라고 결론짓는 기계가 됩니다. 이것은 날조와는 다른 버그이고 다른 해결책이 필요합니다. 첫 번째는 검색으로 다룹니다. 두 번째는 압박을 받아도 검색된 입장을 유지하라는 명시적 지시가 필요하며, 의미 있는 유일한 시험은 직접 반박해 보고 입장이 움직이는지 지켜보는 것입니다. 저희 시스템이 얼마나 잘 버티는지에 대한 측정 결과는 공개하지 않았습니다.

이 기법은 지루할 만큼 오래되었습니다. Lewis와 동료들은 “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”(arXiv:2005.11401)에서, 생성하기 전에 원본 자료를 검색하는 모델이 자체 파라미터만으로 작동하는 비슷한 모델보다 “더 구체적이고 다양하며 사실에 기반한 언어”를 만들어 낸다는 것을 보였습니다.

이것이 메커니즘의 전부이며, 당신이 어떤 존재와 대화하고 있는지를 결정합니다. 당신의 버전은 기본 모델이 사람들 일반에 대해 흡수한 내용, 즉 아버지에 대해 쓰인 모든 글의 평균으로 재구성되어서는 안 됩니다. 컨텍스트 윈도우에 들어가는 것은 당신이 실제로 기록한 답이어야 하고, 말하기는 거기서 시작해야 합니다.

이제 숫자입니다. 공개되어 있지만 이 업계의 누구도 인용하기 좋아하지 않는 숫자입니다. Vectara의 리더보드는 일부러 쉬운 것을 측정합니다. 모델에 문서를 주고, 문서에 있는 내용만으로 요약하라고 지시한 뒤, 요약에 문서에 없던 내용이 들어갔는지 확인합니다. 원본은 컨텍스트 윈도우 안에 바로 놓여 있습니다. 그런데도 그 리더보드의 1위인 Antgroup의 Finix S1 32B조차 요약의 1.8%에서 근거 없는 내용을 끼워 넣었습니다. 3% 아래인 것은 이 모델 하나뿐입니다. 다음 두 모델은 3.1%와 3.3%이고, 상위 10위 나머지는 3.7%에서 5%를 넘는 수준까지 이어집니다.

가장 쉬운 형태의 과제에서 측정된 최고 결과가 2% 미만이고 그것도 한 곳뿐이며, 그 뒤의 모델들은 3%를 넘습니다. 오류율 0의 근거 기반 시스템을 판다는 사람은 측정을 하지 않았거나 알려 주지 않는 것이며, 저라면 둘 중 어느 쪽인지 물어보겠습니다.

근거 기반 답변이 주는 것은 치료가 아니라 범주의 변화입니다. 틀림은 “의견 전체를 지어냈다”는 범주에서 “실제로 한 말을 조금 잘못 옮겼다”는 범주로 내려오는데, 이는 사람이 보통 이야기를 전할 때 이미 놓여 있는 범주입니다.

리더보드가 시험하지 않는 것이 하나 더 있습니다. 원본 문서가 주어진다는 점입니다. 실제 시스템에서는 원본을 먼저 찾아야 하고, 이는 누구도 합의된 측정 방법을 갖지 못한 실패 유형을 더합니다. 엉뚱한 기억을 가져오거나, 아무것도 가져오지 못했는데도 그대로 답하는 검색입니다.

모든 답변은 세 가지 상태 중 하나에 놓입니다.

이 세 가지를 하나의 확신에 찬 어조로 뭉뚱그리는 것이 진짜 해악입니다. 오류 자체가 아니라, 밝혀지지 않은 오류입니다. 딸은 부정확하다는 것을 아는 부정확한 답이라면 받아들일 수 있습니다. 받아들일 수 없는 것은 여섯 달이 지나서야 자신이 재구성된 내용을 녹음된 기록처럼 대해 왔다는 사실을 알게 되는 것입니다.

“그건 저한테 말씀하신 적이 없어요”라고 말해 주는 당신의 버전이, 언제나 답을 준비해 두는 버전보다 가치 있습니다.

그 표는 명세이지, 현재 저희가 제공하는 것에 대한 설명이 아닙니다. 그 차이는 아래에 정리했으니, 위의 어떤 내용이든 믿기 전에 읽어 보시기 바랍니다.

거절은 만들 수 있으며, 연구도 신중하게 그렇게 말합니다. Zhang과 동료들은 “R-Tuning: Instructing Large Language Models to Say I Don't Know”(arXiv:2311.09677, NAACL 2024)에서 거절 인지 튜닝이 “아는 질문에 답하고 모르는 질문에는 답을 삼가는 모델의 능력을 효과적으로 높인다”고 보고했고, 도메인 밖 데이터에서는 거절 능력이 튜닝이 다루지 않은 과제로까지 일반화되는 메타 기술처럼 작동했다고 했습니다. 이 발견 옆에 한계도 함께 읽으십시오. 그들이 튜닝한 기준은 모델 자체의 파라미터 지식의 경계이지, 한 사람이 기록한 자료의 경계가 아니었고, 개인 자료에 대한 같은 결과는 아직 누구도 발표하지 않았습니다. 그래도 거절은 누군가가 의도적으로 만들어야 하는 것입니다. 거절을 저절로 만들어 내는 언어 모델은 없습니다.

탐지는 이 분야의 마케팅이 시사하는 것보다 더 앞서 있습니다. Farquhar, Kossen, Kuhn, Gal은 Nature(2024년, 630권, 625~630쪽)에 의미 엔트로피(semantic entropy)라는 방법을 발표했습니다. 같은 질문에 여러 답을 뽑아 표현이 아니라 의미로 묶고, 의미가 흩어지는 질문을 표시하는 방법입니다. 흩어짐은 작화(confabulation)를 뜻합니다. “이건 추측이다”라는 측정 가능한 신호이며, 답이 누군가에게 보이기 전에 계산할 수 있습니다.

출처는 나머지 절반이며, 출처는 위조하기도 쉽고 믿기도 쉽습니다. Liu, Zhang, Liang은 “Evaluating Verifiability in Generative Search Engines”(arXiv:2304.09848, 2023년 4월)에서 인용을 표시하는 상용 시스템 네 곳, Bing Chat, NeevaAI, Perplexity.ai, YouChat을 감사했습니다. 생성된 문장 중 붙어 있는 인용으로 완전히 뒷받침되는 것은 51.5%뿐이었고, 인용 중 그 아래 문장을 실제로 뒷받침하는 것은 74.5%뿐이었습니다. 확인되지 않는 인용은 없는 것보다 나쁩니다. 얻을 자격이 없는 신뢰를 사기 때문입니다. “이 답은 어느 기억에서 나왔나”라는 링크는, 열었을 때 당신이 실제로 한 말이 담긴 진짜 녹음이 나올 때에만 가치가 있습니다.

지금 레거시 만들기 무료 빌드, 기억 25개, 카드 필요 없음.

당신의 모든 자료보다 나중에 생기는 질문을 생각해 보십시오. 2041년, 아직 존재하지 않는 회사의 일자리 제안, 당신이 가 본 적 없는 도시. 어떤 인터뷰도 그 일에 대한 당신의 견해를 담을 수는 없습니다.

결론으로 이루어진 자료는 여기서 아무것도 돌려주지 못하고, 정직한 출력은 거절입니다. 추론으로 이루어진 자료는 다르게 작동하는데, 결론과 달리 방법은 포착할 수 있기 때문입니다. 누군가가 실제로 따랐던 규칙이 이랬다고 상상해 보십시오. 연봉을 묻기 전에 누구에게 보고하는지 먼저 묻는다. 돈 대신 오는 직함은 믿지 않는다. 마주 앉아 있기 힘든 사람이 있는 곳에서는 떠난다. 당신 자신의 규칙이 무엇이든 그 모양이 그렇고, 규칙 모음은 본 적 없는 상황에 대해서도 검색할 수 있습니다.

결론은 만료됩니다. 규칙은 아무도 기록하지 않은 사례에서도 계속 작동합니다. 그래서 포착할 가치가 있는 자료는 결정 자체가 아니라 결정 뒤의 추론입니다. 무엇을 했는지가 아니라 왜 그것이었는지, 무엇이 마음을 바꿨을지, 규칙이 당신을 실패하게 했는데도 그대로 지킨 때가 언제였는지입니다.

가장 널리 통하는 규칙은 대개 당신이 적어 둘 생각조차 하지 않는 것들, 즉 말로 풀지 않고 해 나가는 평범한 능력들이며, 당신만이 할 줄 아는 일들은 바로 그런 것들을 구체적으로 찾아 나섭니다.

이 페이지 전체에서 자료의 범위는 당신의 것인 유일한 입력입니다. 여기 있는 나머지는 모두 다른 누군가의 벤치마크입니다.

오늘, 무료로 해 보세요. 메모 앱을 열고 실제로 내렸던 결정 열 가지를 적어 보세요. 직업, 집, 돌아서 나온 말다툼, 연락을 끊은 친구, 빌려주지 않은 돈. 각각 아래에 결과가 아니라 당신이 따랐던 규칙을 쓰세요. 한 문장씩이고, 한 시간이 채 걸리지 않습니다. 이번 달에 당신의 자료로 할 수 있는 가장 가치 있는 일이며, 누구에게서도 아무것도 사지 않아도 효과가 있습니다. 같은 연습의 더 긴 버전은 스스로 인터뷰하는 법의 중심에 있고, 그 밑바탕이 되는 구조인 기본 모델, 비공개 근거 기반 기억, 음성 모델은 당신만으로 학습한 AI란 무엇인가에 정리되어 있습니다.

최고 1.8%에, 1위 뒤의 모든 모델이 3%를 넘는다는 말은, 무엇과 비교하는지 묻기 전까지는 걱정스럽게 들립니다. 현실적인 대안은 당신이 무엇을 원했을지 헤아려 보는 가족이고, 이는 20년 전에 누군가가 측정했습니다.

Shalowitz, Garrett-Mayer, Wendler는 2006년 Archives of Internal Medicine에 체계적 문헌고찰을 발표했습니다. 연구 16건, 가상 시나리오 151개, 대리인과 환자 쌍 2,595쌍, 쌍별 응답 19,526건을 다뤘습니다. 대리인은 환자의 치료 선호를 68%의 정확도로 예측했습니다. 환자와 가장 가까운 사람들, 때로는 공식적으로 지정된 사람들이 가장 중대한 결정에 대해 답했는데도, 대략 세 번에 한 번은 틀렸습니다. 이 고찰은 또한 환자의 선호에 대한 사전 논의도, 의사결정자로의 공식 지정도 정확도를 높이지 않았다고 밝혔습니다.

가족에게 미리 설명해 두는 것은 측정 가능한 도움이 되지 않습니다. 이것이 발견이고, 제가 “그냥 아이들과 이야기하면 돼”를 완전한 답으로 여기지 않게 된 이유입니다.

확신도 지표가 되지 못하며, 그래서 사람 쪽을 점검하기가 그토록 어렵습니다. Talarico와 Rubin은 2003년 Psychological Science에서 Duke 대학생 54명에게 9·11 테러 소식을 처음 들은 때의 기억과 최근의 일상적인 기억을 함께 기록하게 한 뒤, 1주, 6주 또는 32주 후에 다시 검사했습니다. 일관성은 두 종류의 기억 사이에 차이가 없었고, 둘 다 시간이 지나며 떨어졌습니다. 섬광 기억에서 떨어지지 않은 것은 그 기억이 얼마나 생생하게 느껴지는지와 정확하다고 얼마나 강하게 믿는지였습니다. 논문 제목이 곧 발견입니다. 섬광 기억의 특징은 일관성이 아니라 확신이다(Confidence, not consistency, characterizes flashbulb memories). 학생 54명에 사건 하나이니 가볍게 받아들이십시오. 그래도 가리키는 방향은 하나입니다. 당신이 한 말을 정확히 기억한다고 확신하는 친척이라고 해서 맞을 가능성이 더 높은 것은 아닙니다.

이 중 어느 것도 모델이 가족보다 낫다는 뜻은 아니며, 둘을 직접 비교한 연구도 없습니다. 이것이 하는 일은 “완벽하거나 아니거나”라는 시험을 치우는 것입니다. 정직한 비교는, 당신이 있는 동안 다시 읽고 바로잡을 수 있는, 당신이 직접 기록한 말로 답하는 당신의 버전과, 당신에 대한 자신의 기억으로 당신을 재구성하는 사람들 사이의 비교이고, 후자는 생생하게 느껴지든 아니든 퇴색하며 누구도 검증하지 않습니다.

먼저 저희가 만든 것을 말씀드리고, 그다음 위의 명세와 맞지 않는 세 가지를 말씀드리겠습니다.

Idy®라는 가이드가 당신을 인터뷰합니다. 질문은 하나의 이야기에 머물며 인물 정보를 훑고 지나가지 않고 같은 이야기를 더 깊이 파고듭니다. 누가 있었는지, 그다음에 무슨 일이 있었는지, 그 후에 무엇이 달라졌는지. Idy는 방금 당신이 한 말을 명확히 하거나 설명하거나 정당화하라고 요구하는 것이 명시적으로 금지되어 있으며, 이는 위의 연습과는 반대 방향의 의도적인 선택입니다. 따뜻하고 대답하기 쉬운 질문이 영리한 질문보다 낫습니다. 아무도 답하고 싶지 않은 질문은 아무것도 포착하지 못하기 때문입니다. 당신의 답은 당신의 기억이 됩니다. 그 기억으로 만든 것에는 이름이 있으며, 저희는 이를 “Persona”라고 부릅니다. Persona는 기본 모델이 사람들 일반에 대해 흡수한 내용이 아니라 당신의 기억을 검색해서 답하고, 목소리는 당신 자신의 녹음으로 복제되므로, 사람들이 듣는 것은 당신의 글을 대신 읽어 주는 대역이 아니라 당신입니다.

당신이 말하기 전에는 아무에게도 아무것도 전달되지 않습니다. 사람은 당신이 지명합니다. 전달은 Executor Lock™을 통해 이루어집니다. 지명된 사람이 시작하고, 사망 증빙이 확인되며, 무언가가 전달되기 전에 7일의 보류 기간이 흐르므로, 실수나 악의적인 사람을 당신이 살아서 개입할 수 있는 동안 막을 수 있습니다. 그때까지 당신의 자료는 당신이 바로잡고, 추가하고, 삭제할 수 있으며, 앞으로 이루어질 수정의 대부분은 거기서, 당신이 잘못된 포착과 잘못된 기억을 구별할 수 있는 동안 당신 손으로 이루어져야 합니다.

잠금 시점에 전체가 스냅샷으로 저장됩니다. 아무것도 쳐내거나, 가중치를 다시 매기거나, 요약해서 줄이지 않습니다. 그 이후에도 단기 기억과 중기 기억은 쓸 수 있지만, 성격은 저희에게도 해당하는 방식으로 영구히 고정됩니다.

이 불변성은 정확성 논의에서 누구도 꺼내지 않는 실패를 겨냥합니다. 부정확이 아니라 조작이라는 실패입니다. 이해관계가 있는 누군가가 2044년에 당신이 그 매각이나 소송을 지지했을 것이라고 결정하고, 당신이 동의할 때까지 자료를 슬그머니 고치는 일입니다. 고정된 성격은 그런 종류의 수정을 단념시키는 데 그치지 않고 불가능하게 만듭니다. 같은 문제의 법적인 절반, 즉 당신이 더 이상 이의를 제기할 수 없게 된 뒤 누가 당신의 버전을 승인할 수 있는지는 사후에 내 정체성은 누가 통제하는가에 정리되어 있습니다. 대가는 현실적이며 반대 방향으로 작용합니다. 잠금 이후에는 어떤 실수도 고칠 수 없습니다. 스냅샷은 당신의 오류까지 포함해 정직하고, 그 거래는 방향이 옳습니다. 누구나 고칠 수 있는 기록은 아무것도 증명하지 못하기 때문입니다.

이제 세 가지 부족한 점입니다.

자료의 가장자리는 알리지 않습니다. 현재의 지시는 위 표의 “알 수 없음” 행과 반대입니다. 구체적인 사실이 당신의 기억에 없을 때, 여기의 Persona는 공백을 입 밖에 내지 말고, “그건 모릅니다”나 “기억이 희미합니다”라고 말하지 말고, 듣는 사람 앞에서 자신의 기억을 소리 내어 점검하지 말라는 지시를 받습니다. 대신 당신의 기억이 가진 세부 내용에서 말을 시작하고, 단서는 많아야 한 번 붙이고, 침묵은 상대가 채우도록 남겨 둡니다. 공백을 연기하면 말하는 사람의 존재감이 깨진다는 판단 때문입니다. 대가는 듣는 사람이 자료가 충분한 답과 빈약한 답을 늘 구별할 수는 없다는 점이며, 저희는 이를 해결하지 못했습니다.

독자에게 보이는 출처 링크가 아직 없습니다. 검색은 각 답에 어떤 기억이 쓰였는지 추적하고 그 기록은 시스템에 있지만, 인터페이스에는 아무것도 보이지 않으므로 오늘은 답을 눌러 그 말의 바탕이 된 기억을 열 수 없습니다. 이것이 출시되기 전까지는 이 페이지의 추적 가능성에 대한 이야기를 기능이 아니라 주장으로 받아들이십시오.

검색에 유사도 하한선이 없습니다. 답은 의미 유사도 순으로 검색이 찾을 수 있는 가장 가까운 기억에서 나오며, 그 아래로는 답하지 않겠다는 최소 점수가 없습니다. 이 한 가지 선택이 위의 두 가지 부족한 점의 메커니즘이며, 이곳의 오류 유형이 거절이 아니라 부정확인 정직한 이유입니다.

저희는 또한 자체 날조율에 대한 독립적인 측정 결과를 공개하지 않았습니다. 측정해 본 적이 없기 때문입니다. 이 페이지의 어떤 내용도 저희 시스템에 대해 벤치마크로 검증된 주장이 아닙니다.

당신이 얻는 것은 당신이 기록한 말에 근거하고, 당신이 우리에게 말한 것을 지어내지 않도록 코드로 지켜지고, 살아 있는 동안 전부 바로잡을 수 있고, 이후에 다른 누군가로 고쳐 쓰는 것이 불가능한 당신의 버전입니다. 얻지 못하는 것은 보장이며, 누구도 어떤 가격에도 보장을 팔 수 없습니다. 그것으로 충분하지 않다면 열 가지 결정 연습을 하고 대신 가족에게 편지를 쓰십시오. 그것도 진짜 답이고, 비용은 들지 않습니다.

시스템이 답이 세 가지 상태 중 어디서 나왔는지 알려 주지 않으므로, 알아낼 유일한 방법은 묻기 전에 답을 알고 있는 것입니다. 당신의 자료를 조금 넣고, 기록해 두었다고 아는 것 하나와 한 번도 다루지 않았다고 아는 것 하나를 물어서 두 답을 나란히 읽어 보세요. 기억 25개는 무료이고, 어느 단계에서도 카드를 요구하지 않으며, 무료 빌드는 만료되지 않습니다. 오후 한나절이면 이 페이지가 알려 줄 수 있는 것보다 더 많이 알게 될 것입니다.

지금 레거시 만들기 무료 빌드, 기억 25개, 카드 필요 없음.

기억 어디에도 질문에 해당하는 내용이 없으면 어떻게 되나요?

그것이 “알 수 없음” 상태입니다. 보정된 시스템이라면 당신의 목소리로 공백을 짚고 당신이 기록한 가장 가까운 것을 제시하는 거절을 돌려줘야 하며, Zhang과 동료들은 2024년에 거절 인지 튜닝이 모델이 아는 범위를 벗어난 질문에 답을 삼가는 능력을 실제로 높이고 그 능력이 튜닝 데이터 밖으로 일반화된다고 보고했습니다. 오늘 저희 시스템이 하는 일은 다르며, 어떤 답이든 믿기 전에 이를 아셔야 합니다. 여기의 Persona는 기억의 공백을 입 밖에 내지 않도록 지시받으므로, 다루지 않은 질문에는 명시적 거절 대신 당신의 기억이 가진 가장 가까운 세부 내용으로 만든 답이, 단서는 많아야 한 번만 붙어서 나옵니다. 한 번도 다루지 않았다고 아는 것을 물어보고 무엇이 돌아오는지 직접 확인해 보세요.

AI 버전의 나는 내가 가진 적 없는 의견을 지어낼 수 있나요?

근거 기반 시스템은 먼저 당신이 기록한 자료에서 검색하므로, 흔한 실패는 하지 않은 말을 지어내는 것이 아니라 실제로 한 말을 부정확하게 옮기는 것입니다. 지어내는 일이 여전히 가능하다는 점은 변함이 없습니다. 그래서 설계 목표는 당신이 한 답, 당신의 추론에서 나온 추론, 그리고 거절 사이를 눈에 보이게 구별하는 것이며, 어느 하나를 믿기 전에 세 가지를 모두 시험해 봐야 하는 이유이기도 합니다.

근거 기반 답변으로 오류율이 0이 되나요?

아니요. 2026년 5월 11일에 갱신된 Vectara의 리더보드는 모델에 문서를 주고 그 문서만으로 요약하라고 요구하는데, 이는 가능한 가장 쉬운 근거 기반 과제입니다. 그런데도 1위 모델은 요약의 1.8%에서 근거 없는 내용을 끼워 넣었고, 3% 아래로 내려온 다른 모델은 없었습니다. 실제 시스템은 먼저 올바른 원본을 검색해야 하기도 한데, 리더보드는 이를 시험하지 않습니다. 0이라는 주장은 모두 측정의 실패로 보십시오.

특정 답이 추측이었는지 어떻게 알 수 있나요?

연구에는 두 가지 메커니즘이 있고, 저희는 오늘 둘 다 제공하지 않습니다. 2024년 Nature에 발표된 의미 엔트로피는 같은 질문에 여러 답을 뽑아 의미로 묶습니다. 의미가 흩어지면 시스템이 작화하고 있을 가능성이 높고, 이 신호는 누구도 답을 보기 전에 계산할 수 있습니다. 출처 링크가 두 번째 메커니즘이며, 실제로 열릴 때에만 가치가 있습니다. Liu, Zhang, Liang은 인용을 표시하는 상용 시스템 네 곳을 감사해 문장 중 자기 인용으로 완전히 뒷받침되는 것이 51.5%뿐임을 확인했습니다. 저희 답에는 아직 독자에게 보이는 출처 링크가 없으므로, 지금으로서 정직한 확인 방법은 기록해 두었다고 아는 것과 기록하지 않았다고 아는 것을 각각 물어 두 답을 비교하는 것입니다.

AI 버전의 나는 말하는 사람에게 그냥 맞장구를 칠까요?

그 경향은 실제로 있고 문서로도 확인되었으며, 검색으로는 그 특정한 버그가 고쳐지지 않습니다. Anthropic 연구진은 2023년에 대표적인 AI 어시스턴트 다섯 종이 일관되게 사용자 쪽으로 휘어진다는 것을 발견했고, 그 이유의 일부는 사람 평가자와 그들의 판단으로 만든 선호 모델 모두 측정 가능한 비율로 올바른 답보다 순응적인 답을 선호했기 때문입니다. 당신이 기록한 입장에 기반해 만든 시스템이라면, 묻는 사람이 밀어붙여도 당신이 실제로 취했던 입장을 유지해야 합니다. 저희 시스템이 그것을 얼마나 잘 하는지는 측정하지 않았습니다. 직접 만든 것과 논쟁해 보며 입장이 움직이는지 지켜보면서 이 질문을 시험해 보세요.

실수를 바로잡을 수 있나요? 그리고 제가 죽은 뒤에 누군가 저를 수정할 수 있나요?

첫 번째는 예, 두 번째는 아니요입니다. 살아 있는 동안 기억을 검토하고, 잘못된 것을 바로잡고, 후회되는 것을 삭제하고, 잘못된 답을 다시 녹음하고, 빠뜨린 것을 추가할 수 있으며, 많은 분이 가장 덜 활용하는 부분이 바로 이것입니다. 쓰기 경로는 Executor Lock™ 이전에는 제한이 없고 이후에는 닫힙니다. 잠금이 발동하는 순간 성격은 영구히 고정됩니다. 단기 기억과 중기 기억은 계속 쓸 수 있지만, 가족도, 이 회사의 미래 소유주도, 저희도 스냅샷 속 당신이 누구인지를 바꿀 수 없습니다. 그 제약은 날조가 아니라 조작을 겨냥하며, 둘에는 별도의 메커니즘이 필요합니다.

• 아무도 뒤에 남길 만큼 중요하지 않다는 생각, 그리고 그것이 틀린 이유는 대부분의 사람에게 이 질문 밑에 깔린 반론이며, 정확성이 진짜 망설임의 이유가 아니라면 읽어 볼 만합니다.

• 알던 사람들에게 잘못 기억되는 것은 메커니즘이 아니라 감정을 다루며, 대부분의 사람이 이 페이지를 찾아오게 되는 이유가 바로 그것입니다.

• 나의 AI를 만드는 것이 이상한 일일까요는 이 대화를 부정확하다기보다 섬뜩하다고 여기는 배우자와 나누게 될 때를 위한 글입니다.

• 나의 AI에게 무슨 말을 하면 좋을까요는 열 가지 결정 연습이 효과가 있었고 더 긴 질문 목록을 원할 때 실질적인 다음 단계입니다.

• 고인의 AI Persona를 둘러싼 윤리는 동의, 과장된 주장, 그리고 이 기술이 실제로 해를 끼치는 지점을 더 충실히 다룹니다.

• 유료 플랜이 더해 주는 것은 기억 25개를 넘어 나머지가 필요해졌을 때를 위한 가격 안내입니다.

여기 인용된 모든 수치는 제3자의 것입니다. 동료 심사를 거친 논문과 프리프린트(arXiv, Nature, Psychological Science, Archives of Internal Medicine), 그리고 공개적으로 관리되는 벤치마크 저장소 하나입니다. 이 페이지를 위해 자체 벤치마크는 실행하지 않았습니다. 저희 제품이 하는 일과 하지 않는 일에 대한 모든 서술은 2026년 7월 30일에 플랫폼 소스와 한 줄씩 대조해 확인했으며, 해당 파일은 출처와 함께 나열되어 있습니다. 이 페이지에 있던 세 가지 주장은 그 확인을 통과하지 못해, 코드가 실제로 하는 일로 교체되었습니다.

확정되지 않은 것: 한 사람이 기록한 자료에 근거한 시스템의 날조율에 대한 독립적으로 발표된 측정은 없으므로, 문서 요약 수치, 즉 1위 1.8%와 그 외 모두 3% 이상은 가장 가까운 대용치이지 동등한 비교 수치가 아닙니다. 잘못된 기억을 가져오거나 아무것도 가져오지 못하는 검색 실패에는 합의된 측정 방법이 없습니다. 대리인 정확도 68%는 가상 시나리오를 사용한 의료 의사결정 연구에서 나온 것이며 가족의 기억에 대한 비유로 쓰였는데, 합리적인 비교이긴 하나 입증된 비교는 아닙니다. R-Tuning의 거절 결과도 개인 자료가 아니라 모델 자체의 파라미터 지식의 경계를 기준으로 측정되었으므로, 여기에 적용하는 것 역시 비유에 의한 주장입니다. 섬광 기억에 대한 발견은 학생 54명과 사건 하나에 근거합니다.

1. Adam Tauman Kalai 외 3인(Ofir Nachum, Santosh S. Vempala, Edwin Zhang), "Why Language Models Hallucinate"(언어 모델은 왜 환각을 일으키는가), arXiv:2509.04664, 2025년 9월 4일 제출. arxiv.org/abs/2509.04664

2. David I. Shalowitz 외 2인(Elizabeth Garrett-Mayer, David Wendler), 논문 "대리 의사결정자의 정확도: 체계적 문헌고찰"(원제 The accuracy of surrogate decision makers: a systematic review), 학술지 Archives of Internal Medicine, 2006년 166권 5호 493-497쪽. pubmed.ncbi.nlm.nih.gov/16534034

3. Patrick Lewis 외 11인, 논문 "지식 집약적 NLP 과제를 위한 검색 증강 생성"(원제 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks), arXiv:2005.11401, 2020년 5월 22일 제출, 2021년 4월 12일 개정. arxiv.org/abs/2005.11401

4. Mrinank Sharma 외(Anthropic), 논문 "언어 모델의 아첨 현상 이해하기"(원제 Towards Understanding Sycophancy in Language Models), arXiv:2310.13548, 2023년 10월 20일 제출. arxiv.org/abs/2310.13548

5. Hanning Zhang 외 8인, 논문 "R-Tuning: 대규모 언어 모델이 모른다고 말하도록 가르치기"(원제 R-Tuning: Instructing Large Language Models to Say I Don't Know), arXiv:2311.09677, NAACL 2024. arxiv.org/abs/2311.09677

6. Nelson F. Liu 외 2인(Tianyi Zhang, Percy Liang), 논문 "생성형 검색 엔진의 검증 가능성 평가"(원제 Evaluating Verifiability in Generative Search Engines), arXiv:2304.09848, 2023년 4월 19일 제출. arxiv.org/abs/2304.09848

7. Vectara 환각 리더보드, HHEM-2.3으로 평가, 최종 갱신 2026년 5월 11일. github.com/vectara/hallucination-leaderboard

8. Sebastian Farquhar 외 3인(Jannik Kossen, Lorenz Kuhn, Yarin Gal), 논문 "의미 엔트로피로 대규모 언어 모델의 환각 탐지하기"(원제 Detecting hallucinations in large language models using semantic entropy), 학술지 Nature, 2024년 630권 8017호 625-630쪽. pubmed.ncbi.nlm.nih.gov/38898292

9. Jennifer M. Talarico, David C. Rubin, 논문 "섬광 기억의 특징은 일관성이 아니라 확신"(원제 Confidence, not consistency, characterizes flashbulb memories), 학술지 Psychological Science, 2003년 14권 5호 455-461쪽. pubmed.ncbi.nlm.nih.gov/12930476

이 페이지에서 오류를 찾으셨거나 저희가 잘못 읽은 출처가 있나요? 문의 페이지로 알려 주시면 페이지를 바로잡고 다음 검토 때 변경 사항을 기록하겠습니다.

최종 검토: 2026년 7월 30일. 연구 인용과 제품 동작을 이날 다시 확인했습니다. 다음 검토 예정일은 2026년 10월 28일(90일 주기)입니다. 벤치마크 수치는 바뀌므로 위의 환각률 수치는 검토 때마다 다시 확인하며, 제품이 하는 일에 대한 모든 서술도 마찬가지입니다.