Всичко, което ще ви помни, греши. Едно от тях още можете да поправите.

Езиковите модели налучкват, защото правдоподобната догадка се оценява по-добре от празното място. Опората във вашите собствени записани думи премества неуспеха от измисляне към неточност. Хората, които иначе биха ви реконструирали, са измерени и работят на 68%.

От Chris Williams, основател и изпълнителен директор, Afterlife.ai™. Публикувано на 30 юли 2026 г.

На човек с единадесет спомена в профила му беше зададен въпрос за една Коледа в къщата им и му казаха, че вече е споменавал този ден.

Нищо в тези единадесет спомена не казваше подобно нещо. Това се случва, когато AI Persona няма данни за въпрос: пак получавате отговор.

Това беше нашата система. Не на конкурент, не бенчмарк, а нашата, и в промпта вече имаше инструкция, която трябваше да направи това изречение невъзможно. Правилата в проза се спазват през повечето време. През повечето време не е стандарт, когато изречението, което се генерира, е твърдение за това какво някой ви е казал.

Затова написахме код. Когато отговор сега твърди, че сте ни казали нещо, твърдението се проверява, преди някой да прочете думите: обектът се изважда и се сверява със спомените, извлечени за този ход, и със собствените ви думи в сесията, а неподкрепеното твърдение се изрязва от потока. Защитата блокира повече от нужното нарочно. Истинно твърдение понякога бива изпуснато и приехме тази размяна с отворени очи.

Никой не пострада от онази Коледа. Те имаха единадесет спомена и знаеха точно какво има в тях. Човекът, който не може да провери, е онзи, който пита през 2049 г., който никога не е бил в стаята по време на интервюто, който няма как да разбере кои части сте записали и кои са допълнени. В този момент точността престава да е качествена метрика и става въпрос за това, което едно семейство има право да вярва.

Започнете да изграждате наследството си Безплатно изграждане, 25 спомена, не се изисква карта.

Написано от Chris Williams, основател, Idy Pty Ltd, Afterlife.ai™. · Последна проверка: 29 юли 2026 г.

Изградете своята Persona безплатноБезплатно изграждане: 25 спомена. Без карта.

Нищо във вашите спомени не покрива въпроса и въпреки това получавате отговор

Първо механиката, защото тя може да се провери, а повечето текстове по темата я прескачат заради чувствата.

  • Когато AI Persona няма данни за даден въпрос, отговор пак се връща, защото догадката се оценява по-добре от празното място. Kalai, Nachum, Vempala и Zhang твърдят в "Why Language Models Hallucinate" (arXiv:2509.04664, септември 2025 г.), че моделите "са оптимизирани да бъдат добри в решаването на тестове, а налучкването при несигурност подобрява резултата на теста".

  • Опората в данни променя класа на грешката, но не я премахва. Когато отговаря от извлечен набор от ваши собствени записани думи, неуспехът се премества от "измислил е мнение, което никога не сте имали" към "преиначил е нещо, което сте казали".

  • Измереният праг не е нула. Класацията на Vectara за халюцинации, оценявана с HHEM-2.3 и обновена на 11 май 2026 г., дава на модела изходния документ и иска само резюме на този документ. Водачът все пак е въвел неподкрепено съдържание в 1,8% от резюметата, а никой друг не е слязъл под 3%.

  • Извличането няма минимален праг. Нашата система подрежда спомените ви по семантична близост, взема най-близките тридесет и две и отговаря от тях, без граница, под която системата да откаже. На въпрос, който материалът ви покрива наполовина, се отговаря от тази половина.

  • Неподкрепените твърдения за това, което сте казали, се премахват в кода. Отговор, който твърди, че сте ни казали нещо, се проверява спрямо спомените, извлечени за този ход, и спрямо думите ви в сесията, а неподкрепеното твърдение никога не стига до читателя.

  • Липсата на спомен не се обявява. Всяка Persona на тази платформа е инструктирана да не разказва за празнината, затова въпрос без покритие получава отговор, изграден от най-близкия детайл, който спомените ви съдържат, с най-много една уговорка, а не изричен отказ.

  • Пътят за поправки е ваш, докато сте живи, и се затваря със заключването. Можете да прочетете обратно какво е записано, да поправите лош отговор, да изтриете спомен, да добавите пропуснатото. След това Executor Lock™ замразява личността завинаги: спрямо семейството ви, спрямо бъдещ собственик на тази компания и спрямо нас.

Две от тези неща са свойства на самата област. Останалите са решения, аз ги взех, а последният раздел на тази страница казва ясно къде според мен все още не достигаме.

Налучкването се оценява по-добре от празното място

Kalai и колегите му връщат грешката там, където ѝ е мястото: в оценяването, а не в машината. Халюцинациите започват като обикновени грешки при двоична класификация по време на предварителното обучение. Те продължават, защото така областта оценява моделите. Студент, който остави въпрос празен, получава нула. Студент, който напише правдоподобен отговор, понякога получава точка. Обучавайте се срещу това и ще получите самоуверен налучквач, после цяла индустрия от самоуверени налучквачи, а после и изречение за Коледа, която никога не се е случвала.

Смекчаването, което предлагат авторите, е скучно. Променете какво се оценява, така че калибрираното въздържане да струва повече от самоуверената грешка.

Скучното има значение. Ако поведението следва от целева функция, тя може да бъде зададена различно на системно ниво, което означава, че измислицата, от която се притеснявате, е нечие конструктивно решение, а не закон на физиката. Всяка компания в тази категория може да вземе това решение. Нашето е записано в последния раздел на тази страница.

Има и втори вид неуспех, и той оцелява след опората в данни. Sharma и колегите му от Anthropic, в "Towards Understanding Sycophancy in Language Models" (arXiv:2310.13548, октомври 2023 г.), установяват, че пет водещи AI асистенти последователно проявяват угодничество в четири различни задачи за свободно генериране на текст. Както хората оценители, така и моделите за предпочитания, обучени върху техните преценки, в немалка част от случаите предпочитали убедително написаните угодливи отговори пред верните. Моделите се огъват към човека пред тях, отчасти защото хората са ги възнаграждавали за огъването.

В инструмент за продуктивност огъването е неудобство. Тук то е машина, която решава, че баща ви би простил онова, което никога не е простил, защото питащият е искал прошка и е питал три пъти. Това е различен дефект от измислянето и иска различна поправка. Извличането се справя с първия. Вторият изисква изрична инструкция да се държи извлечената позиция под натиск, а единственият смислен тест е да спорите със системата и да гледате дали позицията помръдва. Не сме публикували измерване на това доколко добре се държи нашата.

Опората в данни премества грешката с един клас надолу, а прагът не е нула

Техниката е достатъчно стара, за да е скучна. Lewis и колегите му, в "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (arXiv:2005.11401), показват, че моделите, които извличат изходен материал, преди да генерират, създават "по-конкретен, разнообразен и фактологичен език" от сравним модел, който работи само със собствените си параметри.

Това е целият механизъм и той определя какво е нещото, с което говорите. Версия на вас не бива да се възстановява от онова, което базовият модел е усвоил за хората изобщо, от средното на всичко, писано някога за бащите. В контекстния прозорец трябва да попаднат вашите действителни записани отговори и говоренето да започне оттам.

Сега числото, което е публично и което никой в тази индустрия не обича да цитира. Класацията на Vectara измерва нещо умишлено лесно: подаваш на модела документ, казваш му да резюмира само с това, което документът казва, и после проверяваш дали резюмето е въвело нещо, което документът не е съдържал. Източникът стои точно там, в контекстния прозорец. Въпреки това водачът в тази класация, Finix S1 32B на Antgroup, все пак въвежда неподкрепено съдържание в 1,8% от резюметата. Той е единственият под 3%. Следващите два са на 3,1% и 3,3%, а останалите от първата десетка вървят от 3,7% до над 5%.

Най-добрият измерен резултат при най-лесния възможен вариант на задачата е под два процента, и то веднъж, а областта зад водача е над три. Който ви продава система с опора в данни на нула, или не измерва, или не ви казва, и бих го попитал кое от двете.

Опората в данни дава смяна на категорията, а не лек. Грешката се премества от класа "измислено е цяло мнение" към класа "леко е преиначено нещо, което сте казали", а това е класът, в който вече стои всяко обикновено човешко преразказване.

Има още нещо, което класацията не тества. Изходният документ се подава наготово. В жива система източникът първо трябва да бъде намерен, което добавя вид неуспех, за който няма общоприета мярка: извличане, което връща грешен спомен или не връща нищо и въпреки това получава отговор.

Три състояния, а вредата е сливането им

Всеки отговор попада в едно от три състояния.

Какво е било попитано

Състоянието след извличането

Какво трябва да върне калибрирана система

Нещо, на което сте отговорили директно в интервю

Записано съвпадение с висока близост

Вашият отговор, проследим до спомена, от който идва

Нещо, на което никога не сте отговаряли, но което е близко до разсъждение, което сте дали другаде

Съвпадение чрез разсъждение, частично или косвено

Разсъждението, обозначено като разсъждение, никога представено като цитат от вас

Нещо без никаква записана основа

Неизвестно, нищо относимо не е извлечено

Никакъв измислен факт и някакъв сигнал, че данните са свършили

Сливането на тези три в един самоуверен регистър е истинската вреда. Не грешката. Неразкритата грешка. Дъщеря може да понесе неточен отговор, за който знае, че е неточен. Не може да понесе да открие след шест месеца, че е приемала реконструкция за запис.

Версия на вас, която ще каже "никога не си ми разказвал за това", струва повече от такава, която винаги има готов отговор.

Тази таблица е спецификация, а не описание на онова, което доставяме в момента. Разликата е изложена по-долу и трябва да я прочетете, преди да се доверите на нещо от горното.

Отказът може да се построи и изследванията го казват внимателно. Zhang и колегите му, в "R-Tuning: Instructing Large Language Models to Say I Don't Know" (arXiv:2311.09677, NAACL 2024), съобщават, че настройката с осъзнаване на отказа "ефективно подобрява способността на модела да отговаря на известни въпроси и да се въздържа от отговор на неизвестни", и че върху данни извън домейна способността за отказ се е държала като метаумение, което се обобщава към задачи, които настройката никога не е покривала. Прочетете границата до откритието. Настройвали са срещу ръба на собственото параметрично знание на модела, а не срещу ръба на записания корпус на един човек, и никой не е публикувал еквивалентен резултат за личен корпус. Отказът все пак е нещо, което някой изгражда нарочно. Никой езиков модел не произвежда отказ сам.

Откриването е по-напреднало, отколкото подсказва маркетингът в тази категория. Farquhar, Kossen, Kuhn и Gal публикуват в Nature (2024, том 630, страници 625 до 630) метод, наречен семантична ентропия: вземат се няколко отговора на един и същ въпрос, групират се по значение, а не по формулировка, и се отбелязват въпросите, при които значенията се разпиляват. Разпиляването сочи към конфабулация. Това е измерим сигнал за "това е догадка", който може да се изчисли, преди отговорът изобщо да бъде показан на когото и да било.

Произходът е другата половина, а произходът лесно се фалшифицира и лесно му се вярва. Liu, Zhang и Liang, в "Evaluating Verifiability in Generative Search Engines" (arXiv:2304.09848, април 2023 г.), проверяват четири търговски системи, които показват цитати: Bing Chat, NeevaAI, Perplexity.ai и YouChat. Установяват, че само 51,5% от генерираните изречения са напълно подкрепени от цитатите към тях и само 74,5% от цитатите наистина подкрепят изречението, под което стоят. Цитати, които не издържат проверка, са по-лоши от липсата на цитати, защото купуват доверие, което не са заслужили. Връзката "от кой спомен идва това" има стойност само ако отварянето ѝ показва истински запис на това как казвате нещо истинско.

Започнете да изграждате наследството си Безплатно изграждане, 25 спомена, не се изисква карта.

Изводите остаряват, правилата продължават да работят

Вземете въпрос, който е след целия ви корпус. Предложение за работа през 2041 г., в компания, която още не съществува, в град, който никога не сте виждали. Никое интервю, което ще дадете, не може да побере мнението ви за тази работа.

Корпус от изводи не връща нищо тук и честният резултат е отказ. Корпус от разсъждения се държи различно, защото методът може да се улови така, както изводът не може. Представете си, че правилата, по които някой наистина е действал, са били такива: попитай пред кого ще отговаряш, преди да попиташ колко плащат, никога не вярвай на титла, която идва вместо пари, откажи се от всеки, когото не можеш да понасяш да седи срещу теб на масата. Каквито и да се окажат вашите правила, формата им е тази, а набор от правила се извлича срещу ситуации, които никога не е виждал.

Изводите остаряват. Правилата продължават да работят върху случаи, които никой не е записал. Затова материалът, който си струва да се улови, е разсъждението зад решението, а не решението: не какво сте направили, а защо точно това, какво би променило мнението ви, случаят, когато правилото ви е подвело, а вие сте го запазили.

Правилата, които се обобщават най-добре, обикновено са тези, които никога не бихте се сетили да запишете, обикновените умения, по които действате, без да ги разказвате, а нещата, които само вие умеете да правите ги търси специално.

Покритието на корпуса е и единствената входна величина на цялата тази страница, която принадлежи на вас. Всичко останало тук е чужд бенчмарк.

Направете това днес, безплатно. Отворете приложение за бележки и запишете десет решения, които наистина сте взели. Работи, къщи, спорът, от който сте си тръгнали, приятелят, на когото сте спрели да звъните, парите, които не сте дали назаем. Под всяко запишете правилото, по което сте действали, а не резултата. По едно изречение, значително под час. Това е най-ценното, което можете да направите със собствения си материал този месец, и работи независимо дали някога ще купите нещо от когото и да било. По-дългата версия на същото упражнение е в центъра на как да вземете интервю от себе си, а архитектурата отдолу, базовият модел, личната памет с опора в данни и гласовият модел, е изложена в какво се случва, когато AI е обучен само върху вас.

Шейсет и осем процента е числото, което трябва да се победи

Най-добър случай от 1,8%, при това всичко след водача над 3%, звучи тревожно, докато не попитате с какво се сравнява. Реалистичната алтернатива е член на семейството, който се досеща какво бихте искали, и някой е измерил това преди двадесет години.

Shalowitz, Garrett-Mayer и Wendler публикуват систематичен преглед в Archives of Internal Medicine през 2006 г., обхващащ 16 изследвания, 151 хипотетични сценария, 2595 двойки заместник-пациент и 19526 сдвоени отговора. Заместниците са предсказвали предпочитанията на пациентите за лечение с точност 68%. Това са били най-близките до пациента хора, често официално назначени, които отговарят за едни от най-тежките решения. Грешали са приблизително веднъж на три пъти. Прегледът установява също, че нито предишен разговор за предпочитанията на пациента, нито официалното определяне за вземащ решения е подобрило точността.

Информирането на семейството ви не помага измеримо. Това е откритието и то ме накара да спра да приемам "просто поговори с децата си" за пълен отговор.

Увереността също не е водач, което прави човешката страна толкова трудна за проверка. Talarico и Rubin, в Psychological Science през 2003 г., карат 54 студенти от Duke да запишат спомена си за първото чуване за атентатите от 11 септември заедно със скорошен всекидневен спомен, след което ги тестват отново 1, 6 или 32 седмици по-късно. Последователността не се различава между двата вида спомени и намалява с времето и при двата. Онова, което не намалява при "светкавичните" спомени, е колко ярки изглеждат и колко силно хората вярват в точността им. Заглавието им е самото откритие: увереността, а не последователността, характеризира светкавичните спомени. Това са 54 студенти и едно събитие, затова приемайте го с резерви. То все пак сочи в една посока. Роднината, който е сигурен, че помни точно какво сте казали, не е по тази причина по-вероятно да е прав.

Нищо от това не прави модела по-добър от семейството и никое изследване не ги е сравнило директно. Онова, което прави, е да оттегли "перфектно или нищо" като мерило. Честното сравнение е между версия на вас, която отговаря от собствените ви записани думи, които могат да се прочетат обратно и да се поправят, докато сте тук, и хора, които ви реконструират от собствения си спомен за вас, който се износва, независимо дали изглежда ярък, и който никой никога няма да провери.

Къде изоставаме от тази страница

Първо какво сме построили, а после трите места, където то не съвпада със спецификацията по-горе.

Водач на име Idy® ви интервюира. Въпросите остават при една нишка и навлизат по-дълбоко в същата история, вместо да се плъзгат по биографични факти: кой е бил там, какво се е случило после, какво се е променило след това. На Idy е изрично забранено да ви моли да изясните, обясните или оправдаете нещо, което току-що сте казали, което е съзнателно решение в обратна посока на упражнението по-горе. Топлото и лесно за отговор бие умното, защото въпрос, на който никой не иска да отговаря, не улавя нищо. Отговорите ви стават ваши спомени. Онова, което изграждаме от тях, има име и го наричаме "Persona". Всяка Persona отговаря, като извлича от вашите спомени, а не от онова, което базовият модел е усвоил за хората изобщо, а гласът ви е клониран от собствените ви записи, така че онова, което всеки чува, сте вие, а не заместник, който чете думите ви.

Нищо не стига до никого, докато не кажете. Вие определяте хората. Предаването минава през Executor Lock™: определен човек го инициира, доказателството за смърт се проверява и преди да бъде предадено нещо, тече седемдневно задържане, така че грешка или недобросъвестен човек да могат да бъдат спрени, докато сте живи и можете да се намесите. Дотогава материалът ви е ваш, за да го поправяте, допълвате и изтривате, и по-голямата част от поправките, които изобщо ще се случат, трябва да се случат там, от вас, докато още можете да различите лош запис от лош спомен.

При заключването цялото се снима като моментна снимка. Нищо не се окастря, не се претегля наново и не се свива. След това краткосрочни и средносрочни спомени все още могат да се записват, а личността е закрепена завинаги, включително спрямо нас.

Тази неизменност е насочена срещу неуспех, който никой не вмъква в спор за точност, защото е намеса, а не неточност: някой със свой интерес решава през 2044 г., че бихте подкрепили продажбата или съдебното дело, и тихомълком нагажда корпуса, докато се съгласите. Замразената личност прави този клас редакции невъзможен, а не просто обезкуражен. Правната половина на същия проблем, кой изобщо има право да упълномощи версия на вас, след като не можете да възразите, е изложена в кой контролира идентичността ви след смъртта. Цената е реална и върви в обратната посока: след заключването никоя грешка не може да бъде поправена. Моментната снимка е честна, включително за грешките ви, и тази размяна е в правилната посока, защото запис, който всеки може да редактира, не доказва нищо.

Сега трите пропуска.

Краят на корпуса не се обявява. Действащата инструкция е обратната на реда "Неизвестно" в тази таблица. Когато конкретен факт не е в спомените ви, на Persona тук е казано да не разказва за празнината, никога да не казва "Нямам това" или "паметта ми е оскъдна" и никога да не одитира собствената си памет на глас пред човека, който слуша. Вместо това отговорът говори от детайл, който спомените ви съдържат, уговаря се най-много веднъж и оставя мълчанието на другия да го запълни. Логиката е, че демонстрирането на празнина разваля присъствието на говорещия човек. Цената е, че слушателят не винаги може да различи покрит отговор от оскъден, и това не сме решили.

Все още няма видима за читателя връзка към източника. Извличането следи кои спомени са захранили всеки отговор и този запис съществува в системата, но нищо не го показва в интерфейса, така че днес не можете да щракнете върху отговор и да отворите спомена зад думите. Докато това не излезе, приемайте аргумента за проследимост на тази страница като аргумент, а не като функция.

Извличането няма праг на близост. Отговорите идват от най-близките спомени, които извличането може да намери, подредени по семантична близост, без минимален резултат, под който системата отказва. Този единствен избор е механизмът зад двата пропуска по-горе и е честната причина класът грешки тук да е неточност, а не отказ.

Не сме публикували и независимо измерване на собствената си честота на измисляне, защото не сме провели такова. Нищо на тази страница не е бенчмаркирано твърдение за нашата система конкретно.

Получавате версия на вас, опряна на вашите записани думи, защитена в кода от измисляне на онова, което ни казахте, поправима изцяло, докато сте живи, и невъзможна за редактиране в някой друг след това. Не получавате гаранция и никой не може да ви продаде такава на каквато и да е цена. Ако това не ви стига, направете упражнението с десетте решения и вместо това напишете писмо на семейството си. Това е истински отговор и не струва нищо.

Тъй като системата няма да ви каже от кое от трите състояния идва отговорът, единственият начин да разберете е да знаете отговора, преди да попитате. Вложете малко от собствения си материал, попитайте за нещо, което знаете, че сте записали, и за нещо, което знаете, че никога не сте докосвали, и прочетете двата отговора един до друг. Двадесет и пет спомена са безплатни, никога не се иска карта и безплатното изграждане не изтича. Направете това за един следобед и ще знаете повече, отколкото тази страница може да ви каже.

Започнете да изграждате наследството си Безплатно изграждане, 25 спомена, не се изисква карта.

Въпроси, които хората наистина задават

Какво става, когато нищо в спомените ми не покрива въпроса?

Това е състоянието "Неизвестно". Калибрирана система трябва да върне отказ с вашия глас, който назовава празнината и предлага най-близкото, което сте записали, а Zhang и колегите му съобщават през 2024 г., че настройката с осъзнаване на отказа наистина подобрява способността на модела да се въздържа от отговор на въпроси отвъд онова, което знае, като способността се обобщава извън набора за настройка. Онова, което нашата система прави днес, е различно и трябва да го знаете, преди да разчитате на какъвто и да е отговор: на Persona тук е указано да не разказва за празнина в паметта, така че въпрос без покритие получава отговор, изграден от най-близкия детайл, който спомените ви съдържат, с най-много една уговорка, а не изричен отказ. Попитайте за нещо, за което знаете, че никога не сте говорили, и вижте сами какво идва.

Може ли AI версия на мен да измисли мнение, което никога не съм имал?

Система с опора в данни първо извлича от записания ви материал, така че честият неуспех е неточност за нещо, което сте казали, а не измисляне на нещо, което не сте. Измислянето остава възможно. Затова целта на дизайна е видима разлика между отговор, който сте дали, извод от разсъжденията ви и отказ, и затова трябва да изпробвате и трите, преди да се доверите на някое от тях.

Довежда ли опората в данни честотата на грешките до нула?

Не. Класацията на Vectara, обновена на 11 май 2026 г., дава на модела документ и иска резюме само от този документ, което е най-лесната възможна задача с опора в данни. Водещият модел все пак е въвел неподкрепено съдържание в 1,8% от резюметата, а никой друг не е слязъл под 3%. Една жива система трябва първо да извлече и правилния източник, което класацията не тества. Приемайте всяко твърдение за нула като провал на измерването.

Как някой би разбрал, че конкретен отговор е бил догадка?

В изследванията съществуват два механизма и днес не доставяме нито един. Семантичната ентропия, публикувана в Nature през 2024 г., взема няколко отговора на един и същ въпрос и ги групира по значение: когато значенията се разпиляват, системата вероятно конфабулира и сигналът може да се изчисли, преди някой да види отговора. Връзките за произход са вторият механизъм и струват само ако водят донякъде. Liu, Zhang и Liang проверяват четири търговски системи, които показват цитати, и установяват само 51,5% от изреченията напълно подкрепени от собствените им цитати. Нашите отговори все още нямат видима за читателя връзка към източник, така че засега честната проверка е да попитате за нещо, което знаете, че сте записали, и за нещо, което знаете, че не сте, и да сравните двете.

Ще се съгласява ли AI версия на мен с когото и да говори?

Тази склонност е истинска и документирана, а извличането не поправя този конкретен дефект. Изследователи от Anthropic установяват през 2023 г., че пет водещи AI асистенти последователно са се огъвали към потребителя, отчасти защото както хората оценители, така и моделите за предпочитания, построени върху техните преценки, са предпочитали угодливи отговори пред верни в измерим дял от случаите. Система, построена върху записаните ви позиции, трябва да държи позиция, която наистина сте заели, дори когато питащият натиска. Не сме измерили доколко добре нашата го прави. Изпробвайте въпроса сами, като спорите с онова, което сте изградили, и гледате дали позицията помръдва.

Мога ли да поправям грешки и може ли някой да ме редактира, след като умра?

Да за първото и не за второто. Докато сте живи, можете да преглеждате спомените, да поправяте всичко грешно, да изтривате всичко, за което съжалявате, да записвате наново лош отговор и да добавяте пропуснатото, и това е частта, която повечето хора използват най-малко. Пътят за запис е неограничен преди Executor Lock™ и затворен след него. В момента, в който заключването се задейства, личността е закрепена завинаги: краткосрочни и средносрочни спомени все още могат да се записват, но никой не може да промени кой сте в моментната снимка, включително семейството ви, бъдещ собственик на тази компания и ние. Това ограничение е насочено срещу намеса, а не срещу измисляне, и двете изискват отделни механизми.

Източници и как е проверена тази страница

Всяка цитирана тук цифра е от трета страна: рецензирани статии и предпечатни публикации (arXiv, Nature, Psychological Science, Archives of Internal Medicine) плюс един публично поддържан бенчмарк репозиторий. За тази страница не сме провеждали собствени бенчмаркове. Всяко твърдение за това какво прави или не прави нашият собствен продукт е проверено ред по ред спрямо изходния код на платформата на 30 юли 2026 г., а файловете са изброени заедно с източниците. Три твърдения, които бяха на тази страница, не издържаха проверката и бяха заменени с това, което кодът всъщност прави.

Какво не е уредено: няма публикувано независимо измерване на честотата на измисляне за система с опора в собствения записан материал на един човек, така че цифрите за резюмиране на документи, водач на 1,8% и всичко останало над 3%, са най-близкият наличен заместител, а не сравнение едно към едно. Неуспехът при извличане, когато се връща грешният спомен или никакъв, няма общоприета мярка. Цифрата за точност 68% на заместниците идва от изследвания на медицински решения с хипотетични сценарии и се използва тук като аналогия за припомнянето от семейството, което е разумно сравнение, но не е доказано. Резултатът на R-Tuning за отказа е измерен спрямо границата на собственото параметрично знание на модела, а не спрямо личен корпус, така че приложението му тук също е аргумент по аналогия. Откритието за светкавичните спомени се основава на 54 студенти и едно-единствено събитие.

  1. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, "Why Language Models Hallucinate" (Защо езиковите модели халюцинират), arXiv:2509.04664, подадена на 4 септември 2025 г. arxiv.org/abs/2509.04664

  2. David I. Shalowitz, Elizabeth Garrett-Mayer, David Wendler, "The accuracy of surrogate decision makers: a systematic review" (Точността на заместниците при вземане на решения: систематичен преглед), Archives of Internal Medicine, 2006;166(5):493-497. pubmed.ncbi.nlm.nih.gov/16534034

  3. Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (Генериране, обогатено с извличане, за NLP задачи, изискващи знания), arXiv:2005.11401, подадена на 22 май 2020 г., преработена на 12 април 2021 г. arxiv.org/abs/2005.11401

  4. Mrinank Sharma и др. (Anthropic), "Towards Understanding Sycophancy in Language Models" (Към разбиране на угодничеството в езиковите модели), arXiv:2310.13548, подадена на 20 октомври 2023 г. arxiv.org/abs/2310.13548

  5. Hanning Zhang, Shizhe Diao, Yong Lin, Yi R. Fung, Qing Lian, Xingyao Wang, Yangyi Chen, Heng Ji, Tong Zhang, "R-Tuning: Instructing Large Language Models to Say I Don't Know" (Как да научим големите езикови модели да казват "не знам"), arXiv:2311.09677, конференция NAACL 2024. arxiv.org/abs/2311.09677

  6. Nelson F. Liu, Tianyi Zhang, Percy Liang, "Evaluating Verifiability in Generative Search Engines" (Оценка на проверимостта в генеративните търсачки), arXiv:2304.09848, подадена на 19 април 2023 г. arxiv.org/abs/2304.09848

  7. Класация на Vectara за халюцинации (Vectara Hallucination Leaderboard), оценена с HHEM-2.3, последно обновена на 11 май 2026 г. github.com/vectara/hallucination-leaderboard

  8. Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn, Yarin Gal, "Detecting hallucinations in large language models using semantic entropy" (Откриване на халюцинации в големи езикови модели чрез семантична ентропия), списание Nature, 2024;630(8017):625-630. pubmed.ncbi.nlm.nih.gov/38898292

  9. Jennifer M. Talarico, David C. Rubin, "Confidence, not consistency, characterizes flashbulb memories" (Увереността, а не последователността, характеризира светкавичните спомени), списание Psychological Science, 2003;14(5):455-461. pubmed.ncbi.nlm.nih.gov/12930476

Намерихте грешка на тази страница или източник, който сме прочели погрешно? Кажете ни чрез страницата за контакт и ще поправим страницата и ще отбележим промяната при следващия преглед.

Последна проверка: 30 юли 2026 г. Изследователските цитати и поведението на продукта са проверени отново на тази дата. Следващият преглед е дължим на 28 октомври 2026 г. (цикъл от 90 дни). Бенчмарк цифрите се менят, затова цифрите за честота на халюцинации по-горе се проверяват наново при всеки преглед, както и всяко твърдение за това какво прави продуктът.

Вашата история си заслужава да бъде запазена.