Hallucinations
Quand l'IA répond avec un aplomb total… en inventant tout.
L'analogie
Nous avons tous cet ami qui ne dit jamais « je ne sais pas » : posez-lui une question dont il ignore la réponse, et il improvisera une explication convaincante sans sourciller. Les modèles font pareil : ils sont conçus pour poursuivre le texte de façon plausible, pas pour se taire en cas de doute.
En détail
Une hallucination est une sortie fausse mais vraisemblable : le modèle génère le texte le plus probable selon ses schémas, sans vérifier les faits auprès d'aucune source. Cela arrive surtout avec des données précises (dates, chiffres, citations, URL) et des sujets peu représentés dans l'entraînement. On l'atténue avec le RAG, des consignes comme « dis-le si tu n'es pas sûr » et en vérifiant ce qui compte.
Un exemple
Vous demandez cinq articles scientifiques sur un sujet et le modèle vous renvoie des titres, auteurs et années parfaitement formatés… d'articles qui n'existent pas. Vérifiez toujours les références.