Halluzinationen
Wenn die KI mit voller Überzeugung antwortet … und alles erfindet.
Der Vergleich
Wir alle kennen diesen Freund, der nie „weiß ich nicht“ sagt: Frag ihn etwas, wovon er keine Ahnung hat, und er improvisiert ohne Zögern eine überzeugende Antwort. Modelle machen es genauso – sie sind darauf ausgelegt, Text plausibel fortzusetzen, nicht darauf, bei Unsicherheit zu schweigen.
Im Detail
Eine Halluzination ist eine falsche, aber plausibel klingende Ausgabe: Das Modell erzeugt den laut seinen Mustern wahrscheinlichsten Text, ohne Fakten gegen eine Quelle zu prüfen. Besonders häufig passiert das bei konkreten Angaben (Daten, Zahlen, Zitate, URLs) und im Training unterrepräsentierten Themen. Abhilfe schaffen RAG, Anweisungen wie „sag es, wenn du unsicher bist“ und das Prüfen wichtiger Angaben.
Ein Beispiel
Du bittest um fünf wissenschaftliche Artikel zu einem Thema, und das Modell liefert perfekt formatierte Titel, Autoren und Jahreszahlen … von Artikeln, die es nicht gibt. Prüfe Quellenangaben immer nach.