Referenzblatt · druckbar

Halluzinationen kompakt

Plausibel, aber falsch: Ursachen, Risikozonen und Gegenmittel auf einer Seite.

Drei Ursachen

  1. Daten: Zufällige Einzelfakten lassen sich nicht aus Mustern ableiten. Fehlt der Fakt, rät das Modell in plausibler Form.
  2. Bewertung: Tests, die nur Treffer zählen, belohnen Raten statt «Weiss nicht», wie Multiple Choice ohne Abzug.
  3. Mechanismus: Grundeinstellung ist Zurückhaltung. Vertrautheit löst die Bremse, eine Fehlzündung führt zur Halluzination.

OpenAI 2025 · Anthropic 2025

Risikozonen

Höheres RisikoGeringeres Risiko
Namen, Zahlen, DatenGängige Erklärungen
Quellen, Zitate, SeitenzahlenÜbersetzen, Umformulieren
Lokales, NischenwissenMaterial im Chat
Aktuelles (nach Trainingsende)Struktur, Feedback zu Text
HalbbekanntesGrammatik, Rechtschreibung

Gegenmittel

  1. Erlaubnis geben: «Wenn du unsicher bist, sag es.»
  2. Material mitgeben und darauf beschränken.
  3. Wörtliche Belege verlangen und prüfen.
  4. Mehrfach fragen: Streuung ist ein Warnsignal.
  5. Einzelfakten an zweiter Quelle prüfen.

Anthropic: Reduce hallucinations. Senkt das Risiko, beseitigt es nicht.

Zahlen zum Merken

  • 55 % / 18 % erfundene Literaturangaben bei GPT-3.5 / GPT-4 (2023, Walters & Wilder)
  • 24 % richtig, 75 % falsch bei o4-mini im SimpleQA-Test, gegenüber 22 % richtig, 26 % falsch und 52 % «weiss nicht» bei gpt-5-thinking-mini (OpenAI)
  • ⅓ Punkt Abzug: Ab hier lohnt sich Raten bei vier Optionen nicht mehr