Allucinazioni
Quando l'IA risponde con totale sicurezza… e se lo sta inventando.
L'analogia
Tutti abbiamo quell'amico che non dice mai «non lo so»: se gli chiedi qualcosa che ignora, improvvisa una risposta convincente senza battere ciglio. I modelli fanno lo stesso: sono progettati per continuare il testo in modo plausibile, non per tacere quando hanno dubbi.
Nel dettaglio
Un'allucinazione è un output falso ma verosimile: il modello genera il testo più probabile secondo i suoi schemi, senza verificare i fatti su alcuna fonte. Succede soprattutto con dati specifici (date, cifre, citazioni, URL) e temi poco rappresentati nell'addestramento. Si mitiga con il RAG, con istruzioni come «se non sei sicuro, dillo» e verificando ciò che conta.
Un esempio
Chiedi cinque articoli scientifici su un tema e il modello ti restituisce titoli, autori e anni perfettamente formattati… di articoli che non esistono. Verifica sempre le fonti.