Halluzination
Überzeugend formulierte, sachlich falsche Aussage eines KI-Modells
Eine Halluzination beschreibt eine plausibel klingende, aber sachlich falsche Aussage eines Sprachmodells.[2] Die Forschung unterscheidet dabei zwei Kategorien: direkte Widersprüche zu vorliegenden Quellen und Behauptungen ohne nachweisbare Grundlage.[1] Als Hauptursache für dieses Phänomen benennt OpenAI gängige Trainings- und Bewertungsmethoden. Diese Verfahren honorieren das Erraten von Antworten stärker als das transparente Eingestehen von Unsicherheit.[2] Selbst bei optimaler Quellenbasis lässt sich das Problem nicht vollständig ausschließen; unter idealen Bedingungen verbleibt eine Fehlerrate von 1.8%.[3]
Was sind Halluzinationen?
Eine Halluzination bezeichnet eine plausibel klingende, aber sachlich falsche Aussage eines Sprachmodells, die das System mit hoher Sicherheit präsentiert.[2]
Die Forschung unterscheidet zwei Formen: Intrinsische Halluzinationen widersprechen der zugrunde liegenden Quelle direkt. Extrinsische Halluzinationen hingegen fügen Informationen hinzu, die sich anhand der Quelle weder bestätigen noch widerlegen lassen.[1]
Wie entstehen Halluzinationen?
Die Halluzinationen von KI-Systemen sind auf sechs zentrale Ursachen zurückzuführen:[1][2]
Halluzinationen messen
Die folgenden Kennzahlen helfen dabei, die Zuverlässigkeit moderner KI-Modelle messbar zu machen.[2][3]
Halluzinationen im GEO-Kontext
Halluzinationen können die Sichtbarkeit und Darstellung von Inhalten in generativen Suchsystemen maßgeblich beeinträchtigen. Besonders häufig treten sie bei Informationen auf, die im Netz nur spärlich oder widersprüchlich dokumentiert sind, da den Modellen in diesen Fällen verlässliche Bezugspunkte fehlen.[2] Wer im Netz kaum oder uneinheitlich auffindbar ist, läuft somit Gefahr, fehlerhaft dargestellt zu werden.
Wie häufig Halluzinationen auftreten, zeigt eine Untersuchung des Tow Centers. Bei acht getesteten KI-Modellen enthielten mehr als 60% der Antworten erfundene oder faktisch falsche Aussagen. Die Fehlerquote lag bei Perplexity bei 37% und bei Grok 3 bei 94%.[7]
Erschwerend kommt hinzu, dass die Systeme fehlerhafte Ausgaben mit hoher Überzeugungskraft präsentieren. So ordnete ChatGPT in einer Analyse 134 Artikel falsch zu, zeigte sich dabei jedoch nur in 15 Fällen unsicher und verweigerte keine einzige Antwort.[7]
Die realen Konsequenzen von KI-Fehlern verdeutlicht auch die von dem Forscher Damien Charlotin aufgebaute AI Hallucination Cases Database: Sie registriert mittlerweile mehr als 2.000 Verfahren, in denen Parteien vor Gericht auf erfundene Quellenangaben und halluzinierte Inhalte vertrauten.[6]
KI-Halluzinationen vermeiden
Die folgenden sechs Optimierungen unterstützen dich dabei, von KI-Systemen korrekt wiedergegeben zu werden.[2][7]
Bezug zu anderen Begriffen
Halluzinationen stehen in Zusammenhang mit weiteren Begriffen aus dem Bereich der Generative Engine Optimization (GEO).
Häufig gestellte Fragen
Was ist eine Halluzination?+
Eine Halluzination ist eine Aussage eines Sprachmodells, welche zwar plausibel und überzeugend klingt, aber sachlich falsch ist oder sich anhand der verfügbaren Quellen nicht belegen lässt. Sie entsteht, wenn ein Modell eine Antwort erzeugt, obgleich ihm die dafür notwendigen Informationen fehlen oder die vorhandenen Informationen nicht eindeutig ausreichen.
Warum halluzinieren KI-Modelle?+
KI-Modelle neigen zu Halluzinationen, weil sie wahrscheinliche Wortfolgen erzeugen und nicht zuverlässig zwischen Wissen und Unwissen unterscheiden. Fehlen Informationen oder sind sie widersprüchlich, kann das Modell dennoch eine plausible Antwort erzeugen, statt seine Unsicherheit offenzulegen. Trainings- und Bewertungsverfahren können diese Tendenz verstärken, wenn sie vollständige Antworten stärker belohnen als das Eingestehen fehlender Informationen. Halluzinationen sind daher keine bewussten Falschaussagen, sondern eine Folge der Funktionsweise von Sprachmodellen.
Sind ChatGPT-Antworten falsch?+
ChatGPT-Antworten sind nicht grundsätzlich falsch, können jedoch fehlerhafte oder unvollständige Informationen enthalten. Insbesondere bei komplexen, aktuellen oder wenig bekannten Themen ordnet das System Zusammenhänge gelegentlich falsch ein oder formuliert unzutreffende Sachverhalte in überzeugender Weise. Aus diesem Grund empfiehlt sich stets eine Überprüfung wichtiger Aussagen anhand verlässlicher Quellen, namentlich bei wissenschaftlichen, rechtlichen oder medizinischen Fragen.
Wie kann man KI-Halluzinationen vermeiden?+
KI-Halluzinationen lassen sich nicht vollständig vermeiden, aber deutlich reduzieren, indem man KI-Systeme mit verlässlichen und möglichst aktuellen Quellen versorgt, deren Antworten auf diese Quellen begrenzt und Aussagen durch Quellenangaben oder zusätzliche Prüfungen verifiziert. Klare Prompts können das Modell zudem anweisen, Unsicherheiten ausdrücklich zu kennzeichnen und keine Informationen zu erfinden, sofern die Datenlage nicht ausreicht. Besonders bei faktischen oder sensiblen Inhalten sollte die Ausgabe anschließend von einer Person oder anhand der Originalquellen überprüft werden.
Welche Beispiele gibt es für KI-Halluzinationen?+
Typische Beispiele für KI-Halluzinationen umfassen erfundene Fakten, nicht existente Quellen sowie falsch zugeordnete Informationen. So kann ein Sprachmodell beispielsweise ein nie ergangenes Gerichtsurteil anführen, eine wissenschaftliche Studie samt erfundenem Titel und Autor nennen oder einer realen Person eine niemals getätigte Aussage zuschreiben. Ebenso erweisen sich scheinbar korrekte Antworten oft als Halluzinationen, sobald das System fehlende Informationen durch erfundene Details ersetzt.
Alle Quellen wurden im September 2026 abgerufen und auf inhaltliche Plausibilität geprüft.
Kontakt
Unverbindliche Erstberatung buchen