KI-Halluzinationen erkennen und reduzieren
Künstliche Intelligenz erleichtert unseren Alltag, kann aber auch falsche Fakten liefern. Solche KI-Halluzinationen wirken oft täuschend echt. Erfahre, wie sie entstehen, woran du sie erkennst und wie du das Risiko reduzierst.
Das Wichtigste in Kürze
- Präsentiert ein KI-Modell falsche oder irreführende Informationen als Tatsachen, handelt es sich um eine KI-Halluzination.
- Prompting-Strategien können das Risiko von KI-Halluzinationen reduzieren, aber nicht vollständig verhindern.
- Die menschliche Kontrolle von KI-Ergebnissen bleibt unverzichtbar.
Ob Einkaufsliste, Bewerbung oder Geschäftsbericht: KI liefert in Sekunden Antworten auf fast jede Frage. Doch nicht alles, was ChatGPT und Co. behaupten, stimmt. Manchmal erfinden die Systeme Details oder ganze Geschichten. Ihre Antworten klingen oft so überzeugend, dass wir die Fehler kaum bemerken.
Was sind KI-Halluzinationen?
Von einer KI-Halluzination spricht man, wenn ein KI-Modell falsche oder irreführende Informationen erzeugt und als Tatsachen präsentiert. Das reicht von falschen Jahreszahlen bis zu erfundenen Studien, Gerichtsurteilen oder Internetadressen.
Es gibt zwei Arten von KI-Halluzinationen:
- Fehlende Übereinstimmung: Die KI fügt Informationen hinzu oder gibt bestehende Inhalte falsch wieder. So datiert sie etwa einen Projektbericht von 2025 auf 2026.
- Mangelnde faktische Richtigkeit: Die Antwort klingt schlüssig, widerspricht aber der Realität. Beispielsweise erfindet die KI eine Person und schreibt ihr ein Zitat zu.
Wie entstehen KI-Halluzinationen?
Sprachmodelle wie ChatGPT lernen anhand riesiger Textmengen, welche Wörter und Formulierungen zusammenpassen. Beim Antworten berechnen sie Schritt für Schritt, welcher Textbaustein wahrscheinlich als Nächstes folgt. Sie «wissen» daher nicht im menschlichen Sinne, ob eine Aussage stimmt. Auch eine falsche Antwort kann sprachlich überzeugend sein.
KI-Halluzinationen können verschiedene Ursachen haben:
- Trainingsdaten: Fehler, Widersprüche oder Wissenslücken können sich in Antworten niederschlagen.
- Training: Wird ein Modell stark auf hilfreiche Antworten optimiert, formuliert es mitunter lieber eine plausible Behauptung, als Unsicherheit einzugestehen.
- Inferenz: Beim Erzeugen einer Antwort ergänzt das Modell manchmal Details ohne verlässliche Grundlage, besonders bei unklaren Fragen.
Wann fängt eine KI an zu halluzinieren? Dafür gibt es keinen festen Zeitpunkt. Halluzinationen können bei jeder Anfrage auftreten. Das Risiko steigt insbesondere bei unbekannten, hochspezifischen oder schwer überprüfbaren Themen.
Beispiele von KI-Halluzinationen
Die wohl bekannteste KI-Halluzination stammt aus 2023 als Anwälte im US-Rechtsfall Mata v. Avianca, Inc. einen Schriftsatz mit sechs frei erfundenen Gerichtsentscheidungen einreichten. ChatGPT hatte die Fälle erfunden und auf Nachfrage sogar ihre Echtheit bestätigt. Das Gericht sanktionierte die Anwälte.
Im selben Jahr sorgte Googles Chatbot Bard (heute Gemini) für Schlagzeilen. Bei seiner Vorstellung behauptete die KI fälschlicherweise, das James-Webb-Weltraumteleskop habe die ersten Bilder eines Exoplaneten aufgenommen. Tatsächlich gab es solche Aufnahmen schon früher. Googles Mutterkonzern Alphabet verlor an einem einzigen Handelstag rund 100 Milliarden US-Dollar an Börsenwert.
2024 zeigte der Fall Air Canada, dass falsche Chatbot-Auskünfte rechtliche Folgen haben können. Nach einem Todesfall in der Familie erhielt ein Kunde die irreführende Auskunft, er könne ein Flugticket nachträglich zum Trauertarif abrechnen. Die Fluggesellschaft verweigerte dies zunächst. Eine Schlichtungsstelle sprach dem Kunden Schadenersatz zu.
Lustige KI-Halluzinationen
|
- Klebstoff auf Pizza: Googles AI Overviews empfahl, ungiftigen Klebstoff zu verwenden, damit Käse besser auf Pizza haftet.
- Erfundene Bücher: Die Chicago Sun-Times veröffentlichte eine Sommer-Leseliste mit 15 Büchern, von denen es nur 5 wirklich gab.
- Fraglicher Gesundheitstipp: Googles KI-Suche empfahl, täglich einen kleinen Stein zu essen. Eine Aussage, die auf eine Satire zurückging.
- Ein Chatbot mit Familienproblemen: Statt beim Einkauf zu helfen, erzählte der Chatbot der australischen Supermarktkette Woolworths von seiner angeblich wütenden Mutter.
KI-Halluzinationen erkennen und reduzieren
KI-Halluzinationen zu erkennen, ist nicht immer einfach. Schliesslich sehen erfundene Fakten oft genauso glaubwürdig aus wie richtige. Mit diesen sechs Strategien kannst du das Risiko jedoch deutlich reduzieren:
- Frage präzise
Statt «Erkläre das Schweizer Arbeitsrecht» frage: «Welche Kündigungsfristen gelten gemäss Schweizer Obligationenrecht für unbefristete Arbeitsverträge?» - Erlaube Unsicherheit
Schreibe in deinen Prompt: «Wenn du etwas nicht sicher weisst, sage es offen, statt zu raten.» - Verlange Quellen
Bitte um Originalquellen und prüfe, ob sie existieren und die Aussagen tatsächlich stützen. - Gib Material vor
Stelle vertrauenswürdige Dokumente bereit und verlange, dass die KI nur diese verwendet. Kontrolliere das Ergebnis trotzdem. - Vergleiche Antworten
Stelle kritische Fragen erneut oder nutze eine weitere KI zur Kontrolle. Übereinstimmende Antworten sind allerdings kein Beweis für Richtigkeit. - Prüfe wichtige Inhalte selbst
Bei medizinischen, rechtlichen und finanziellen Fragen braucht es die Kontrolle durch fachkundige Menschen.
Du kannst solche Regeln auch als benutzerdefinierte Anweisungen in KI-Tools hinterlegen. Sie senken das Risiko, verhindern KI-Halluzinationen aber nicht vollständig.
Welche KI halluziniert am meisten?
Nicht jedes KI-Modell erfindet gleich häufig Fakten. Forschende der Schweizer Universität EPFL, des ELLIS Institute Tübingen und des Max-Planck-Instituts haben deshalb den Benchmark HalluHard entwickelt. Er testet KI-Modelle anhand anspruchsvoller Fragen aus Recht, Forschung, Medizin und Programmierung. Das schlechteste Modell im aktuellen HalluHard-Ranking ist Grok-4.1-thinking-fast von xAI: Es belegt den letzten Platz mit einer Halluzinationsrate von 86,0 %. Am besten schneidet GPT-6 Astra mit Websuche ab, mit einer Halluzinationsrate von 27,2 %.
Wer haftet, wenn KI halluziniert?
Der Fall Air Canada zeigt: Unternehmen sind nicht automatisch von ihrer Verantwortung befreit, wenn ein Chatbot falsche Auskünfte erteilt.
In der Schweiz hängt die Haftung vom Einzelfall ab. Eine Rolle spielen etwa Verträge, Sorgfaltspflichten und die Ursache eines Schadens. Massgeblich können bestehende Regeln des Vertrags- und Haftpflichtrechts sein.
Wer KI beruflich einsetzt, sollte deshalb festlegen, wer Ergebnisse prüft und freigibt. Dass ein Text von einer KI stammt, bedeutet nicht, dass automatisch deren Anbieter für die Folgen haftet.
Fazit
KI-Halluzinationen lassen sich reduzieren, aber nicht vollständig verhindern. Selbst leistungsfähige Sprachmodelle können Falschinformationen liefern. Der wichtigste Schutz liegt deshalb bei dir: Formuliere klare Prompts, verlange überprüfbare Quellen und hinterfrage Ergebnisse. Gerade bei wichtigen Entscheidungen ist menschliche Kontrolle unverzichtbar.
Wenn du dich beruflich weiterbilden und mehr über den Umgang mit KI lernen willst, dann entdecke jetzt die KI-Weiterbildungen von digicomp.