Tot el que et recordarà s'equivoca. Un d'aquests records encara el pots corregir.
Els models de llenguatge endevinen perquè una endevinalla versemblant puntua millor que un espai en blanc. La base en les teves paraules gravades fa que la fallada passi de la invenció a la imprecisió. Les persones que d'una altra manera et reconstruirien han estat mesurades, i funcionen al 68 %.
Per Chris Williams, fundador i conseller delegat d'Afterlife.ai™. Publicat el 30 de juliol de 2026.
A una persona amb onze records al seu compte se li va preguntar per un dia de Nadal a casa seva, i se li va dir que ja havia mencionat aquell dia abans.
Res d'aquests onze records deia res de semblant. Això és el que passa quan una Persona d'IA no té dades per a una pregunta: la resposta arriba igualment.
Aquell era el nostre sistema. No el d'un competidor, no una prova de referència, el nostre, i ja hi havia una instrucció al prompt que havia de fer impossible aquella frase. Les regles en prosa se segueixen la majoria de les vegades. La majoria de les vegades no és un estàndard quan la frase que es genera és una afirmació sobre el que algú t'ha dit.
Així que vam escriure codi. Quan una resposta afirma ara que ens vas explicar alguna cosa, l'afirmació es comprova abans que ningú llegeixi les paraules: se n'extreu el referent i es compara amb els records recuperats per a aquell torn i amb les teves pròpies paraules durant la sessió, i una afirmació sense suport s'elimina del flux. La salvaguarda bloqueja de més a propòsit. De vegades es descarta una afirmació certa, i vam acceptar aquest intercanvi amb els ulls oberts.
Aquell dia de Nadal no va fer mal a ningú. Tenien onze records i sabien exactament què hi havia. La persona que no pot comprovar-ho és la que pregunta el 2049, que no va ser mai a l'habitació durant l'entrevista, que no té manera de saber quines parts vas gravar i quines es van omplir. Arribats aquí, l'exactitud deixa de ser una mètrica de qualitat i es converteix en una pregunta sobre què té dret a creure una família.
Comença a construir el teu llegat Versió gratuïta, 25 records, sense targeta.
Escrit per Chris Williams, fundador d'Idy Pty Ltd, Afterlife.ai™. · Darrera revisió: 29 de juliol de 2026
Cap record teu cobreix la pregunta, i la resposta arriba igualment
Primer la mecànica, perquè es pot comprovar, i la majoria del que s'escriu sobre aquest tema se la salta per anar als sentiments.
Quan una Persona d'IA no té dades per a una pregunta, la resposta arriba igualment, perquè endevinar puntua millor que deixar-ho en blanc. Kalai, Nachum, Vempala i Zhang sostenen a "Why Language Models Hallucinate" (arXiv:2509.04664, setembre de 2025) que els models "estan optimitzats per ser bons en els exàmens, i endevinar quan hi ha dubte millora la puntuació de la prova".
La base documental canvia la classe de l'error, però no l'elimina. Respondre a partir d'un conjunt recuperat de les teves pròpies paraules gravades fa que la fallada deixi de ser "va inventar una opinió que mai no vas tenir" i passi a ser "va exposar malament una cosa que sí que vas dir".
El mínim mesurat no és zero. El rànquing d'al·lucinacions de Vectara, puntuat amb HHEM-2.3 i actualitzat l'11 de maig de 2026, dona al model el document font i només li demana un resum d'aquest document. El primer de la llista va introduir contingut sense suport en l'1,8 % dels resums, i cap altre model va quedar per sota del 3 %.
La recuperació no té puntuació mínima. El nostre sistema ordena els teus records per similitud semàntica, agafa els trenta-dos més propers i respon a partir d'ells, sense cap llindar per sota del qual el sistema declini respondre. Una pregunta que el teu material cobreix a mitges es respon des d'aquesta meitat.
Les afirmacions sense suport sobre el que vas dir s'eliminen amb codi. Una resposta que afirma que ens vas explicar alguna cosa es comprova amb els records recuperats per a aquell torn i amb les teves paraules durant la sessió, i una afirmació sense suport no arriba mai al lector.
Un buit de memòria no s'anuncia. A les Persona d'aquesta plataforma se'ls ordena no narrar un buit, de manera que una pregunta no coberta torna com una resposta construïda a partir del detall més proper que els teus records sí que tenen, amb una cautela com a màxim, i no com una negativa explícita.
El camí per corregir és teu mentre ets viu, i es tanca amb el bloqueig. Pots tornar a llegir el que es va captar, corregir una mala resposta, esborrar un record i afegir el que havies deixat fora. Després, Executor Lock™ congela la personalitat de manera permanent: davant la teva família, davant un futur propietari d'aquesta empresa i davant nosaltres.
Dues d'aquestes coses són propietats del sector. La resta són decisions, les vaig prendre jo, i l'última secció d'aquesta pàgina diu amb claredat on crec que encara ens quedem curts.
Endevinar puntua millor que deixar-ho en blanc
Kalai i els seus col·legues situen l'índex d'error allà on pertoca, que és en la puntuació i no en la màquina. Les al·lucinacions comencen com a errors corrents de classificació binària durant el preentrenament. Persisteixen per com el sector avalua els models. Un estudiant que deixa una pregunta en blanc treu un zero. Un estudiant que escriu una resposta versemblant de vegades s'emporta algun punt. Entrena contra això i tens un endevinador segur de si mateix, i després tens tota una indústria d'endevinadors segurs de si mateixos, i després tens una frase sobre un dia de Nadal que no va existir mai.
La solució que proposen els autors és avorrida. Canviar què es puntua, de manera que una abstenció calibrada valgui més que un error amb aplom.
Aquí l'avorriment importa. Si el comportament es deriva d'un objectiu, l'objectiu es pot fixar de manera diferent a escala de sistema, cosa que vol dir que la fabulació que et preocupa és una decisió de construcció d'algú i no una llei de la física. Totes les empreses d'aquesta categoria poden prendre aquesta decisió. La nostra està escrita a l'última secció d'aquesta pàgina.
Hi ha un segon mode de fallada, i és el que sobreviu a la base documental. Sharma i els seus col·legues d'Anthropic, a "Towards Understanding Sycophancy in Language Models" (arXiv:2310.13548, octubre de 2023), van trobar que cinc assistents d'IA d'última generació mostraven de manera constant llagoteria en quatre tasques variades de generació de text lliure. Tant els avaluadors humans com els models de preferències entrenats amb els seus judicis van preferir respostes llagoteres escrites de manera convincent per sobre de les correctes en una fracció no menyspreable de les vegades. Els models s'inclinen cap a la persona que tenen al davant, en part perquè la gent els va recompensar per fer-ho.
En una eina de productivitat, inclinar-se és una molèstia. Aquí és una màquina que decideix que el teu pare hauria perdonat allò que mai no va perdonar, perquè la persona que preguntava volia perdó i ho va demanar tres vegades. És un error diferent de la fabulació i necessita una solució diferent. La recuperació soluciona el primer. El segon necessita una instrucció explícita de mantenir una posició recuperada sota pressió, i l'única prova que significa alguna cosa és discutir amb el sistema i mirar si la posició es mou. No hem publicat cap mesura de com de bé aguanta el nostre.
La base documental baixa l'error una classe, i el mínim no és zero
La tècnica és prou vella per ser avorrida. Lewis i els seus col·legues, a "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (arXiv:2005.11401), van demostrar que els models que recuperen material font abans de generar produeixen un llenguatge "més específic, divers i factual" que un model comparable que treballa només amb els seus paràmetres.
Aquest és tot el mecanisme, i decideix quina mena de cosa tens al davant. Una versió teva no s'hauria de reconstruir a partir del que un model base ha absorbit sobre la gent en general, de la mitjana de tot el que s'ha escrit mai sobre pares. El que arriba a la finestra de context han de ser les teves respostes gravades de debò, i el discurs ha de començar d'allà.
Ara el número, que és públic i que ningú d'aquest sector no gaudeix citant. El rànquing de Vectara mesura una cosa deliberadament fàcil: donar a un model un document, dir-li que resumeixi només amb el que diu el document, i comprovar després si el resum ha introduït alguna cosa que el document no contenia. La font és allà mateix, a la finestra de context. Tot i això, el primer d'aquella llista, el Finix S1 32B d'Antgroup, va introduir contingut sense suport en l'1,8 % dels resums. És l'única entrada per sota del 3 %. Les dues següents són al 3,1 % i al 3,3 %, i la resta del top deu va del 3,7 % fins a més del 5 %.
El millor resultat mesurat en la versió més fàcil possible de la tasca és inferior al dos per cent, una sola vegada, i el gruix de models que el segueixen està per sobre del tres. Qui et vengui un sistema amb base documental a zero o no mesura o no t'ho diu, i li preguntaria quina de les dues.
La base documental compra un canvi de categoria i no una cura. L'equivocació passa de la classe "va inventar tota una opinió" a la classe "va exposar una mica malament una cosa que sí que vas dir", que és la classe en què ja es troba qualsevol relat humà corrent.
Hi ha una altra cosa que el rànquing no posa a prova. El document font ja es dona fet. En un sistema en directe, la font s'ha de trobar primer, cosa que afegeix un mode de fallada del qual ningú no té una mesura acordada: una recuperació que retorna el record equivocat, o que no retorna res i es respon igualment.
Tres estats, i el dany és la fusió
Cada resposta se situa en un de tres estats.
Què es va preguntar | L'estat després de la recuperació | Què hauria de retornar un sistema calibrat |
|---|---|---|
Una cosa que vas respondre directament en una entrevista | Coincidència registrada, d'alta similitud | La teva resposta, traçable fins al record d'on ve |
Una cosa que mai no vas respondre, però propera a un raonament que vas donar en un altre lloc | Coincidència raonada, parcial o oblíqua | El raonament, marcat com a raonament, mai presentat com si fos una cita teva |
Una cosa sense cap base registrada | Desconegut, no s'ha recuperat res de rellevant | Cap fet inventat, i algun senyal que el terreny s'ha acabat |
Convertir aquests tres casos en un sol registre ple d'aplom és el dany real. No l'error. L'error no revelat. Una filla pot sostenir una resposta imprecisa que sap que és imprecisa. El que no pot sostenir és descobrir, sis mesos després, que ha tractat una reconstrucció com si fos un enregistrament.
Una versió teva que digui "això no m'ho vas dir mai" val més que una que sempre té una resposta a punt.
Aquesta taula és una especificació i no una descripció del que lliurem actualment. La diferència s'explica més avall, i convé que la llegeixis abans de fiar-te de res del que hi ha a dalt.
La negativa es pot construir, i la recerca ho diu amb prudència. Zhang i els seus col·legues, a "R-Tuning: Instructing Large Language Models to Say I Don't Know" (arXiv:2311.09677, NAACL 2024), informen que l'ajust conscient de la negativa "millora de manera efectiva la capacitat d'un model de respondre preguntes conegudes i d'abstenir-se de respondre preguntes desconegudes", i que amb dades fora del domini la capacitat de negar-se es va comportar com una metacompetència que es generalitzava a tasques que l'ajust mai no havia cobert. Llegeix el límit al costat de la troballa. Allò contra què van ajustar era el límit del coneixement paramètric del propi model, no el límit del corpus enregistrat d'una persona, i ningú no ha publicat el resultat equivalent per a un corpus personal. La negativa continua sent una cosa que algú construeix a propòsit. Cap model de llenguatge produeix la negativa per si sol.
La detecció va més avançada del que suggereix el màrqueting d'aquesta categoria. Farquhar, Kossen, Kuhn i Gal van publicar a Nature (2024, volum 630, pàgines 625 a 630) un mètode anomenat entropia semàntica: mostrejar diverses respostes a la mateixa pregunta, agrupar-les pel significat i no per la redacció, i assenyalar les preguntes en què els significats es dispersen. La dispersió indica confabulació. És un senyal mesurable de "aquesta és una endevinalla", que es pot calcular abans que la resposta es mostri a ningú.
La procedència és l'altra meitat, i la procedència és fàcil de falsificar i fàcil de creure. Liu, Zhang i Liang, a "Evaluating Verifiability in Generative Search Engines" (arXiv:2304.09848, abril de 2023), van auditar quatre sistemes comercials que mostren cites, Bing Chat, NeevaAI, Perplexity.ai i YouChat. Van trobar que només el 51,5 % de les frases generades estaven plenament recolzades per les cites adjuntes, i que només el 74,5 % de les cites donaven suport de debò a la frase sota la qual es trobaven. Unes cites que no es poden comprovar són pitjors que cap cita, perquè compren una confiança que no s'ha merescut. Un enllaç de "de quin record ve això" només val alguna cosa si, en obrir-lo, es veu un enregistrament real teu dient una cosa real.
Comença a construir el teu llegat Versió gratuïta, 25 records, sense targeta.
Les conclusions caduquen, les regles continuen funcionant
Imagina una pregunta posterior a tot el teu corpus. Una oferta de feina el 2041, en una empresa que encara no existeix, en una ciutat que no has vist mai. Cap entrevista que facis pot contenir la teva opinió sobre aquesta feina.
Un corpus de conclusions no retorna res en aquest cas, i la sortida honesta és una negativa. Un corpus de raonaments es comporta diferent, perquè un mètode es pot capturar d'una manera en què una conclusió no. Imagina que les regles amb què algú va funcionar de debò eren aquestes: preguntar davant de qui respondries abans de preguntar quant paguen, no fiar-te mai d'un títol que arriba en lloc de diners, allunyar-te de qualsevol persona que no pots suportar asseguda davant teu a la taula. Siguin quines siguin les teves regles, aquesta és la seva forma, i un conjunt de regles es recupera contra situacions que mai no va veure.
Les conclusions caduquen. Les regles continuen funcionant en casos que ningú no va enregistrar. Per això el material que val la pena capturar és el raonament que hi ha darrere d'una decisió i no la decisió: no pas què vas fer, sinó per què aquesta, què t'hauria fet canviar d'idea, la vegada que la regla et va fallar i la vas mantenir igualment.
Les regles que millor es generalitzen solen ser les que no se't passaria pel cap escriure, les competències corrents amb què funciones sense narrar-les, i les coses que només tu saps fer les busca específicament.
La cobertura del corpus és també l'única entrada de tota aquesta pàgina que és teva. Tota la resta és la prova de referència d'algú altre.
Fes això avui, gratis. Obre una aplicació de notes i apunta deu decisions que vas prendre de debò. Feines, cases, la discussió de la qual et vas allunyar, l'amic a qui vas deixar de trucar, els diners que no vas deixar. Sota cadascuna escriu la regla que seguies, no el resultat. Una frase per cada una, molt menys d'una hora. És el més valuós que pots fer amb el teu material aquest mes, i funciona tant si algun dia compres res a algú com si no. La versió llarga del mateix exercici és al centre de com entrevistar-te a tu mateix, i l'arquitectura que hi ha a sota, el model base, la memòria privada amb base documental i el model de veu, s'explica a què passa quan una IA s'entrena només amb tu.
El seixanta-vuit per cent és el número a superar
Un millor cas de l'1,8 %, amb tot el que hi ha darrere del primer per sobre del 3 %, sona alarmant fins al moment en què preguntes amb què es compara. El substitut realista és un familiar que dedueix què hauries volgut, i algú ho va mesurar fa vint anys.
Shalowitz, Garrett-Mayer i Wendler van publicar una revisió sistemàtica a Archives of Internal Medicine el 2006 que cobria 16 estudis, 151 escenaris hipotètics, 2.595 parelles de substitut i pacient i 19.526 respostes aparellades. Els substituts van predir les preferències de tractament dels pacients amb un 68 % d'encert. Eren les persones més properes al pacient, sovint designades formalment, responent sobre les decisions més transcendents que hi ha. Es van equivocar aproximadament una vegada de cada tres. La revisió també va trobar que ni haver parlat abans de les preferències del pacient ni la designació formal com a persona que pren les decisions no van millorar l'encert.
Informar la teva família no ajuda de manera mesurable. Aquesta és la troballa, i és la que em va fer deixar de considerar "només parla amb els teus fills" com una resposta completa.
La confiança tampoc no és una guia, i això fa tan difícil d'auditar la part humana. Talarico i Rubin, a Psychological Science el 2003, van fer que 54 estudiants de Duke registressin el record de quan van sentir parlar per primera vegada dels atemptats de l'11 de setembre juntament amb un record quotidià recent, i els van tornar a posar a prova 1, 6 o 32 setmanes després. La coherència no va diferir entre els dos tipus de record, i va disminuir amb el temps en tots dos. El que no va disminuir en els records flaix va ser com de vius se sentien i com de fermament creien la seva exactitud. El seu títol és la troballa: la confiança, no la coherència, caracteritza els records flaix. Són 54 estudiants i un sol esdeveniment, així que no te'ls prenguis amb rigidesa. Tot i això apunta en una direcció. El familiar que està segur que recorda exactament què vas dir no té per això més probabilitats de tenir raó.
Res d'això no fa que un model sigui millor que una família, i cap estudi no els ha comparat directament. El que fa és retirar el "perfecte o res" com a prova. La comparació honesta és entre una versió teva que respon a partir de les teves pròpies paraules gravades, que es pot rellegir i corregir mentre ets aquí, i unes persones que et reconstrueixen a partir del seu propi record de tu, que s'erosiona tant si se sent viu com si no, i que ningú auditarà mai.
On no arribem a allò que diu aquesta pàgina
Primer el que hem construït, i després els tres punts en què no coincideix amb l'especificació de dalt.
Una guia anomenada Idy® t'entrevista. Les preguntes es mantenen en un sol fil i aprofundeixen en la mateixa història en lloc de patinar per fets biogràfics: qui hi era, què va passar després, què va canviar a continuació. A Idy se li prohibeix explícitament demanar-te que aclareixis, expliquis o justifiquis una cosa que acabes de dir, cosa que és una decisió deliberada en sentit contrari a l'exercici de dalt. Càlid i fàcil de respondre val més que enginyós, perquè una pregunta que ningú vol respondre no captura res en absolut. Les teves respostes es converteixen en els teus records. El que en construïm té un nom, i l'anomenem "Persona". Les Persona responen recuperant dels teus records i no d'allò que un model base ha absorbit sobre la gent en general, i la teva veu es clona a partir dels teus enregistraments, de manera que el que algú sent ets tu i no un substitut que llegeix les teves paraules.
Res no arriba a ningú fins que tu ho diguis. Tu designes les persones. L'alliberament passa per Executor Lock™: una persona designada l'inicia, es verifica l'evidència de la mort, i corre una espera de set dies abans que s'alliberi res, de manera que un error o un mal actor es pot aturar mentre ets viu per intervenir. Fins aleshores el teu material és teu per corregir, ampliar i esborrar, i la major part de la correcció que s'hagi de fer mai s'hauria de fer aquí, per tu, mentre encara pots distingir una mala captura d'un mal record.
En el moment del bloqueig es fa una còpia instantània de tot. No s'elimina, no es repondera ni es resumeix res. Després, els records a curt i a mitjà termini encara es poden escriure, i la personalitat queda fixada de manera permanent, també davant nosaltres.
Aquesta immutabilitat apunta a una fallada que ningú no posa en un argument sobre exactitud, perquè és manipulació i no inexactitud: algú amb un interès que decideix, el 2044, que hauries donat suport a la venda o al plet, i ajusta en silenci el corpus fins que hi estiguis d'acord. Una personalitat congelada fa impossible aquesta classe d'edició, i no només desaconsellada. La meitat legal del mateix problema, qui té fins i tot permís per autoritzar una versió teva quan ja no hi puguis objectar, s'explica a qui controla la teva identitat quan mors. El cost és real i va en sentit contrari: després del bloqueig tampoc no es pot arreglar cap error. La còpia és honesta, també sobre els teus errors, i aquest intercanvi té el sentit correcte, perquè un registre que qualsevol pot editar no és prova de res.
Ara els tres buits.
El límit del corpus no s'anuncia. La instrucció vigent és la contrària de la fila Desconegut d'aquella taula. Quan un fet concret no és als teus records, a les Persona d'aquí se'ls diu que no narrin el buit, que no diguin mai "no ho sé" ni "la meva memòria és fluixa", i que no auditin mai en veu alta el seu propi record davant la persona que escolta. El que passa, en canvi, és que la resposta parla des d'un detall que els teus records sí que tenen, es cobreix com a màxim una vegada i deixa el silenci perquè l'ompli l'altra persona. El raonament és que fer veure un buit trenca la presència de la persona que parla. El cost és que qui escolta no sempre pot distingir una resposta coberta d'una de prima, i no ho hem resolt.
Encara no hi ha cap enllaç a la font visible per al lector. La recuperació sí que fa el seguiment de quins records van alimentar cada resposta, i aquest registre existeix al sistema, però res no el mostra a la interfície, de manera que avui no pots fer clic en una resposta i obrir el record que hi ha darrere de les paraules. Fins que arribi, considera l'argument de traçabilitat d'aquesta pàgina un argument i no una funció.
La recuperació no té llindar de similitud. Les respostes surten dels records més propers que la recuperació pot trobar, ordenats per similitud semàntica, sense cap puntuació mínima per sota de la qual el sistema declini respondre. Aquesta sola decisió és el mecanisme darrere dels dos buits anteriors, i és la raó honesta per la qual la classe d'error aquí és la imprecisió i no la negativa.
Tampoc no hem publicat una mesura independent de la nostra pròpia taxa de fabulació, perquè no n'hem fet cap. Res d'aquesta pàgina és una afirmació provada amb proves de referència sobre el nostre sistema en concret.
El que obtens és una versió teva basada en les teves paraules gravades, protegida amb codi contra inventar el que ens vas dir, corregible del tot mentre vius, i impossible d'editar per convertir-la en una altra persona després. El que no obtens és una garantia, i ningú no te'n pot vendre cap a cap preu. Si això no et basta, fes l'exercici de les deu decisions i escriu una carta a la teva família. És una resposta real i no costa res.
Com que el sistema no et dirà de quin dels tres estats ve una resposta, l'única manera de saber-ho és conèixer la resposta abans de preguntar. Posa-hi una mica del teu material, pregunta una cosa que saps que vas gravar i una altra que saps que mai no vas tocar, i llegeix les dues respostes l'una al costat de l'altra. Vint-i-cinc records són gratuïts, en cap moment es demana targeta, i una versió gratuïta no caduca. Fes-ho en una tarda i sabràs més del que aquesta pàgina et pot dir.
Comença a construir el teu llegat Versió gratuïta, 25 records, sense targeta.
Preguntes que la gent es fa de veritat
Què passa quan cap dels meus records cobreix la pregunta?
Aquest és l'estat Desconegut. Un sistema calibrat hauria de retornar una negativa amb la teva veu que anomeni el buit i ofereixi el més proper que sí que vas gravar, i Zhang i els seus col·legues van informar el 2024 que l'ajust conscient de la negativa millora la capacitat d'un model d'abstenir-se de respondre preguntes que van més enllà del que sap, amb una capacitat que es generalitza més enllà del conjunt d'ajust. El que fa el nostre sistema avui és diferent, i convé que ho sàpigues abans de fiar-te de cap resposta: a les Persona d'aquí se'ls ordena no narrar un buit de memòria, de manera que una pregunta no coberta torna com una resposta construïda a partir del detall més proper que els teus records sí que tenen, amb una cautela com a màxim, i no com una negativa explícita. Pregunta alguna cosa que saps que no vas cobrir i comprova tu mateix què torna.
Podria una versió d'IA meva inventar una opinió que mai no vaig tenir?
Un sistema amb base documental recupera primer del teu material gravat, de manera que la fallada habitual és la imprecisió sobre una cosa que sí que vas dir i no la invenció d'una cosa que no. La invenció continua sent possible. Per això l'objectiu de disseny és una diferència visible entre una resposta que vas donar, una inferència del teu raonament i una negativa, i per això has de provar les tres abans de fiar-te de cap.
La base documental fa que l'índex d'error sigui zero?
No. El rànquing de Vectara, actualitzat l'11 de maig de 2026, dona a un model un document i li demana un resum usant només aquest document, que és la tasca de base documental més fàcil possible. El model líder va introduir igualment contingut sense suport en l'1,8 % dels resums, i cap altre model va quedar per sota del 3 %. Un sistema en directe a més ha de recuperar primer la font correcta, cosa que el rànquing no posa a prova. Considera qualsevol afirmació de zero un error de mesura.
Com podria saber ningú que una resposta concreta era una endevinalla?
A la recerca existeixen dos mecanismes i cap dels dos no el lliurem avui. L'entropia semàntica, publicada a Nature el 2024, mostreja diverses respostes a la mateixa pregunta i les agrupa pel significat: quan els significats es dispersen, és probable que el sistema estigui confabulant, i el senyal es pot calcular abans que ningú vegi la resposta. Els enllaços de procedència són el segon mecanisme, i només valen alguna cosa si s'obren de debò. Liu, Zhang i Liang van auditar quatre sistemes comercials que mostren cites i van trobar que només el 51,5 % de les frases estaven plenament recolzades per les seves pròpies cites. Les nostres respostes encara no porten cap enllaç a la font visible per al lector, de manera que de moment la comprovació honesta és preguntar per una cosa que saps que vas gravar i per una altra que saps que no, i comparar-les.
Una versió d'IA meva donarà la raó simplement a qui parli?
Aquesta tendència és real i està documentada, i la recuperació no soluciona aquest error en concret. Investigadors d'Anthropic van trobar el 2023 que cinc assistents d'IA destacats s'inclinaven de manera constant cap a l'usuari, en part perquè tant els avaluadors humans com els models de preferències construïts a partir dels seus judicis afavorien les respostes agradables per sobre de les correctes en una proporció mesurable de les vegades. Un sistema construït sobre les teves posicions enregistrades hauria de mantenir una posició que de debò vas prendre fins i tot quan qui pregunta insisteix. No hem mesurat com de bé ho fa el nostre. Posa a prova la pregunta tu mateix discutint amb el que has construït i mirant si la posició es mou.
Puc corregir errors, i algú pot editar-me quan sigui mort?
Sí a la primera i no a la segona. Mentre ets viu pots revisar els records, corregir qualsevol cosa errònia, esborrar el que lamentis, tornar a gravar una mala resposta i afegir el que t'has deixat, i aquesta és la part que la majoria de la gent aprofita menys. El camí d'escriptura és il·limitat abans d'Executor Lock™ i queda tancat després. En el moment que s'activa el bloqueig, la personalitat queda fixada de manera permanent: els records a curt i a mitjà termini encara es poden escriure, però ningú no pot alterar qui ets a la còpia, ni la teva família, ni un futur propietari d'aquesta empresa, ni nosaltres. Aquesta restricció apunta a la manipulació i no a la fabulació, i les dues necessiten mecanismes separats.
Fonts i com es va comprovar aquesta pàgina
Totes les xifres citades aquí són de tercers: articles revisats per parells i preprints (arXiv, Nature, Psychological Science, Archives of Internal Medicine) més un repositori de referència mantingut públicament. No hem executat cap prova de referència pròpia per a aquesta pàgina. Cada afirmació sobre el que el nostre propi producte fa o no fa es va comprovar línia per línia amb el codi font de la plataforma el 30 de juliol de 2026, i els fitxers s'enumeren amb les fonts. Tres afirmacions que hi havia hagut en aquesta pàgina no van superar aquesta comprovació i es van substituir pel que el codi fa de veritat.
El que no està resolt: no hi ha cap mesura independent publicada de les taxes de fabulació d'un sistema basat en el material gravat d'una sola persona, de manera que les xifres de resum de documents, el líder a l'1,8 % i tota la resta per sobre del 3 %, són l'aproximació més propera disponible i no un número comparable en tots els aspectes. El fracàs de la recuperació, en què es retorna el record equivocat o cap, no té cap mesura acordada. La xifra del 68 % d'encert dels substituts prové d'estudis de presa de decisions mèdiques amb escenaris hipotètics i s'usa aquí com a analogia del record familiar, que és una comparació raonable i no una comparació demostrada. El resultat de la negativa a R-Tuning es va mesurar contra el límit del coneixement paramètric del propi model i no contra un corpus personal, de manera que la seva aplicació aquí també és un argument per analogia. La troballa sobre els records flaix es basa en 54 estudiants i un sol esdeveniment.
Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, "Why Language Models Hallucinate", arXiv:2509.04664, enviat el 4 de setembre de 2025. arxiv.org/abs/2509.04664
David I. Shalowitz, Elizabeth Garrett-Mayer, David Wendler, "The accuracy of surrogate decision makers: a systematic review", Archives of Internal Medicine, 2006;166(5):493-497. pubmed.ncbi.nlm.nih.gov/16534034
Patrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal, Heinrich Küttler, Mike Lewis, Wen-tau Yih, Tim Rocktäschel, Sebastian Riedel, Douwe Kiela, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", arXiv:2005.11401, enviat el 22 de maig de 2020, revisat el 12 d'abril de 2021. arxiv.org/abs/2005.11401
Mrinank Sharma et al. (Anthropic), "Towards Understanding Sycophancy in Language Models", arXiv:2310.13548, enviat el 20 d'octubre de 2023. arxiv.org/abs/2310.13548
Hanning Zhang, Shizhe Diao, Yong Lin, Yi R. Fung, Qing Lian, Xingyao Wang, Yangyi Chen, Heng Ji, Tong Zhang, "R-Tuning: Instructing Large Language Models to Say I Don't Know", arXiv:2311.09677, NAACL 2024. arxiv.org/abs/2311.09677
Nelson F. Liu, Tianyi Zhang, Percy Liang, "Evaluating Verifiability in Generative Search Engines", arXiv:2304.09848, enviat el 19 d'abril de 2023. arxiv.org/abs/2304.09848
Vectara Hallucination Leaderboard, avaluat amb HHEM-2.3, darrera actualització l'11 de maig de 2026. github.com/vectara/hallucination-leaderboard
Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn, Yarin Gal, "Detecting hallucinations in large language models using semantic entropy", Nature, 2024;630(8017):625-630. pubmed.ncbi.nlm.nih.gov/38898292
Jennifer M. Talarico, David C. Rubin, "Confidence, not consistency, characterizes flashbulb memories", Psychological Science, 2003;14(5):455-461. pubmed.ncbi.nlm.nih.gov/12930476
Has trobat un error en aquesta pàgina, o una font que hem llegit malament? Explica'ns-ho a través de la pàgina de contacte i corregirem la pàgina i deixarem constància del canvi a la propera revisió.
Darrera revisió: 30 de juliol de 2026. Les citacions de recerca i el comportament del producte es van tornar a comprovar en aquesta data. Propera revisió prevista el 28 d'octubre de 2026 (cicle de 90 dies). Les xifres de les proves de referència es mouen, de manera que les xifres de taxa d'al·lucinació de dalt es tornen a verificar a cada revisió, i també cada afirmació sobre el que fa el producte.