Se hai aperto un giornale negli ultimi due anni, prima o poi ti sarà capitato di leggere che l'intelligenza artificiale «ha le allucinazioni». È una di quelle espressioni che suonano subito strane: come può una macchina avere allucinazioni? Eppure il termine si è imposto in tutti gli articoli, le conferenze, persino nei libretti di istruzioni delle app. Vale la pena capire cosa vuol dire davvero, perché spiega molto di quello che l'AI fa — e di quello che non sa fare.
Una parola presa in prestito
Allucinazione, nel linguaggio medico, è quando una persona vede o sente qualcosa che non c'è. Gli informatici l'hanno presa in prestito per descrivere un fenomeno parallelo: quando un'intelligenza artificiale risponde a una domanda inventando di sana pianta dati, citazioni, nomi, date o fatti che non esistono.
Non sta mentendo nel senso umano del termine. Non c'è cattiveria, né intenzione di ingannare. Semplicemente non sa di non sapere — e produce comunque una risposta, perché è quello per cui è stata addestrata. Una macchina che dovesse rispondere «non lo so» a metà delle domande sarebbe stata considerata, fino a poco fa, un fallimento di progettazione.
Un esempio concreto
Chiedi a un assistente AI: «Chi ha scritto il romanzo "Le notti bianche del cuore"?». Quel romanzo non esiste. Una persona ti risponderebbe «mai sentito». Un'intelligenza artificiale, soprattutto le versioni più vecchie, può rispondere con sicurezza: «È un romanzo di Italo Calvino del 1962». Detto con un tono talmente convincente che, se non controlli, ci credi.
Questa è un'allucinazione. Non c'è alcuna malafede: l'AI ha messo insieme parole che suonavano plausibili — Italo Calvino è uno scrittore italiano famoso, il 1962 è un anno credibile, "le notti bianche" è un titolo che richiama un romanzo di Dostoevskij — e ha sfornato la risposta. Senza accorgersi che il libro che le hai chiesto non esiste.
Perché succede
Gli assistenti AI non «sanno» le cose nel modo in cui le sappiamo noi. Non hanno una memoria nel senso umano. Funzionano calcolando, parola dopo parola, quale sia la parola più probabile da scrivere dopo quella precedente, sulla base dei miliardi di testi su cui sono stati allenati. Quando la domanda riguarda un fatto raro, oscuro o inesistente, il modello continua a calcolare probabilità — e produce qualcosa che somiglia a una risposta corretta, anche se è inventato.
Come difendersi
Tre regole pratiche, semplici:
- Verifica i nomi. Se l'AI cita un libro, un autore, una sentenza, un articolo scientifico, controllalo con una ricerca su Google. Bastano dieci secondi.
- Diffida delle date e dei numeri. Le date di nascita, i prezzi storici, le percentuali precise sono il terreno dove le allucinazioni si annidano più spesso.
- Chiedi le fonti. Dopo una risposta sicura su un fatto specifico, scrivi «da dove hai preso questa informazione?». Se l'AI esita, riformula, o ti dà fonti che non esistono, è un campanello d'allarme.
La buona notizia
I modelli più recenti hanno imparato a dire «non lo so» molto più spesso di prima. Claude in particolare è abbastanza bravo a dichiarare quando un argomento esce dalle sue conoscenze. Ma il rischio resta, soprattutto quando fai domande molto specifiche. La regola d'oro è semplice: tratta una risposta AI come un suggerimento di un collega informato, non come la verità rivelata. Da lì in poi, verifica.
Le allucinazioni dell'AI, in fondo, ci ricordano una cosa antica: nessuna fonte di informazione è infallibile. Era vero per i giornali, è vero per Wikipedia, ed è vero anche per la macchina più intelligente del momento.
