Grundlagen
Halluzinationen
Als Halluzination bezeichnet man eine überzeugend formulierte, aber falsche KI-Ausgabe. Sie entsteht, weil Sprachmodelle wahrscheinliche Fortsetzungen berechnen statt geprüfte Fakten abzurufen. Quellen, RAG und menschliche Prüfung reduzieren das Risiko.
Warum Halluzinationen entstehen
Ein Sprachmodell erzeugt Text, der statistisch plausibel ist. Ist die richtige Antwort nicht eindeutig aus dem Training ableitbar, „füllt“ das Modell die Lücke mit etwas Wahrscheinlichem – das kann falsch sein, klingt aber sicher. Häufig betroffen sind Zahlen, Zitate, Quellen und Detailfakten.
Was hilft
- Quellen anbinden (RAG) und Belege ausgeben lassen
- Nachfragen, ob Aussagen belegt sind, und um Quellen bitten
- Wichtige Fakten prüfen – besonders bei Recht, Medizin, Finanzen
- Klare Prompts mit Kontext und Grenzen (siehe Prompt-Builder)
Faustregel: Je wichtiger die Aussage, desto mehr Prüfung. KI liefert Entwürfe – die Verantwortung bleibt beim Menschen.
Quellen und weiterführende Informationen
- NIST: AI RMF – Trustworthiness. Standard/Behörde · abgerufen am 06.08.2026
Häufige Fragen
Kann man Halluzinationen ganz abschalten?
Nein. Man kann sie durch Quellenanbindung, klare Prompts und Prüfung deutlich reduzieren, aber nicht vollständig ausschließen.