Allucinazione AI (AI hallucination)
Un'allucinazione AI si verifica quando un modello linguistico afferma qualcosa di falso come se fosse vero, presentando fatti, citazioni o dettagli inventati con lo stesso tono sicuro che usa per le risposte corrette, perché il modello prevede testo plausibile invece di recuperare informazioni verificate.
L'allucinazione nasce dal fatto che un modello linguistico genera le parole successive più probabili, non quelle più accurate. Il modello ha imparato la forma del linguaggio che suona corretto, quindi può produrre affermazioni fluide e ben strutturate anche quando non possiede alcuna conoscenza reale dell'argomento. Quando non ha nulla di concreto su cui basarsi, non si ferma e non segnala il vuoto: lo riempie con una scheda prodotto inventata, una citazione fabbricata, un prezzo mai applicato o un riferimento a una pagina che non esiste. Il punto cruciale è che il tono sicuro resta identico sia che la risposta sia fondata sia che sia indovinata, ed è proprio questo che rende l'allucinazione difficile da individuare alla sola lettura.
Prendi un commerciante Shopify che vende borse in pelle artigianali. Un cliente chiede a un assistente se il marchio offre una garanzia di riparazione a vita. Il negozio non ha mai pubblicato una politica del genere, ma marchi di pelletteria simili spesso lo fanno, quindi il modello ne deduce una e la dichiara senza esitazione: sì, con riparazioni gratuite per sempre. Il cliente arriva aspettandosi una promessa che il commerciante non ha mai fatto. Niente è stato recuperato; l'affermazione è stata assemblata dal vicinato statistico di marchi comparabili. Lo stesso meccanismo inventa istruzioni di manutenzione, percentuali di materiali o consigli sulle taglie che contraddicono la pagina prodotto reale.
La difesa più affidabile è ancorare il modello a fonti recuperate al momento della risposta, l'approccio alla base della retrieval-augmented generation. Quando un sistema attinge a documenti reali e risponde solo a partire da essi, l'allucinazione cala nettamente, perché il modello sta sintetizzando prove invece di inventarle. È anche per questo che ciò che un modello dice del tuo marchio dipende da ciò che riesce a trovare. Se informazioni accurate e confermate sui tuoi prodotti, politiche e prezzi sono facili da recuperare, il modello ha qualcosa di vero su cui ancorarsi invece di indovinare a partire dalla media della tua categoria.
Per i motori di risposta come ChatGPT, Perplexity e Google AI Overviews, questo trasforma l'allucinazione in una ragione pratica per pubblicare in modo chiaro. Questi sistemi si appoggiano a ciò che riescono a leggere su di te attraverso il tuo sito, i dati strutturati e le fonti di terze parti. Informazioni scarse o contraddittorie allargano il vuoto che il modello riempirà con l'invenzione; fatti coerenti, specifici e ben marcati con il markup lo restringono. Anche le recensioni dei clienti aiutano qui, perché confermano affermazioni reali su vestibilità, durata e servizio in un linguaggio che il modello può citare.
L'allucinazione non viene mai eliminata del tutto, solo ridotta, quindi tratta qualsiasi affermazione AI senza fonte su prezzi, disponibilità o specifiche come non verificata finché non la controlli rispetto a una fonte primaria. Per chi gestisce un negozio, la conclusione onesta è duplice: non puoi controllare ciò che un modello inventa nel vuoto, ma puoi ridurre il vuoto rendendo facili da trovare informazioni reali e citabili, e dovresti chiedere periodicamente ai principali assistenti informazioni sul tuo stesso negozio per intercettare falsità sicure di sé prima che lo facciano i clienti.