Qualche mese fa un avvocato americano ha citato sentenze inventate in tribunale. La fonte era ChatGPT. L'IA aveva generato nomi di cause giudiziarie che non esistevano, con date precise e numeri di fascicolo verosimili. Il giudice non se n'era accorto subito. Questa non è una storia anomala: accade tutti i giorni, a chiunque chieda dati all'intelligenza artificiale senza fare controlli.
Il fenomeno ha un nome: allucinazione. Non significa che l'IA mente consapevolmente. Significa che il sistema, quando non ha informazione certa, continua comunque a produrre parole che rispecchiano la struttura di una risposta plausibile. Un fiume di coerenza costruito dal nulla.
Primo trucco: interroga fonti pubbliche parallele
Se chiedi una cifra, una data, un numero di legge o il nome di uno studioso, controlla subito su una fonte indipendente. Non affidarti alla memoria. Apri una scheda nuova.
Per dati sanitari, usa l'Istituto Superiore di Sanità o ISSalute. Per dati agricoli, l'ISMEA. Per statistiche generali, l'ISTAT. Per normative europee, l'EFSA.
Il controllo non deve essere lungo: basta una ricerca rapida con la frase o il numero che l'IA ha dato. Se la fonte ufficiale non lo menziona, o dice qualcosa di diverso, l'IA ha probabilmente allucinato. Fine della storia.
Questo metodo funziona perché le fonti pubbliche sono verificabili, citate spesso, facilmente rintracciabili con parole chiave. L'IA ha memoria tagli dai dati pubblici durante il training. Se una fonte reale non contiene il dato, l'IA probabilmente l'ha costruito combinando pattern di linguaggio plausibile.
Secondo trucco: fai domande di coerenza interna
L'intelligenza artificiale è affidabile con la logica semplice. Se chiedi al sistema di spiegare perché una cosa è vera, spesso si contraddice quando non conosce la risposta.
Tecnica: dopo che l'IA ha fornito un dato, chiedi il contrario. "Perché questa affermazione è sbagliata?" oppure "Mi cita tre esperti che non sono d'accordo con quello che hai appena scritto."
Se l'IA cita esperti che poi non trovi da nessuna parte, anche cercando su Wikipedia o su articoli di quotidiani autorevoli, il dato era inventato. Se cita persone reali ma le attribuisce posizioni che non hanno mai sostenuto pubblicamente, l'IA ha fatto una connessione falsa.
Un terzo livello: chiedi all'IA stessa di fornire i link alle fonti che cita. Molti sistemi di IA contemporanei non possono farlo direttamente. Se non può darti i link, è perché probabilmente sta assemblando frasi senza avere fonti reali dietro.
Terzo trucco: varia la formulazione della stessa domanda
Poni la medesima domanda in tre modi diversi, a distanza di tempo. Se l'IA ti dà risposte contraddittorie, almeno una delle tre è falsa. Forse tutte e tre.
Esempio: "Quanti abitanti ha la città di Brescia?" seguito da "Qual è la popolazione di Brescia?" e poi "Quante persone vivono a Brescia?"
Domande identiche nel significato ma con parole diverse spesso innescano percorsi di generazione diversi. Se le tre risposte non coincidono esattamente, la dispersione è spia di instabilità. Non è una prova formale di falsità, ma di incertezza. E l'incertezza dell'IA è il campanello d'allarme che devi sfruttare.
Questo test funziona perché l'intelligenza artificiale non memorizza risposte prefissate. Ogni volta che elabora una domanda, ricrea la risposta da zero, combinando probabilità di parole successive. Se il sistema è incerto, le probabilità slittano leggermente, e la risposta cambia.
Perché accade e come proteggersi
L'IA non inventa per stanchezza o negligenza. Inventa perché il suo meccanismo interno non sa distinguere tra "so la risposta" e "non so la risposta". In entrambi i casi produce parole. La differenza è che quando sa, le parole corrispondono a pattern veri nei dati di addestramento. Quando non sa, produce comunque pattern che suonano plausibili.
Nessun controllo interno dell'IA le impedisce di farlo. Il sistema non ha accesso a Wikipedia mentre scrive, non ha un meccanismo di verifica integrato, non sa se sta allucinando.
Per proteggerti, non affidare mai un dato critico a una sola risposta di IA. Non copiare numeri, nomi, date senza controllo. Usa l'IA per il brainstorming, per la struttura, per le idee. Per i fatti verifica sempre.
Chi lavora con ricerca o comunicazione impara presto: l'intelligenza artificiale è uno strumento di ideazione veloce. Non è una fonte. Finché non avrà accesso in tempo reale a database verificati e la capacità di ammettere "non lo so", la responsabilità del controllo rimane interamente tua.
