Eine Halluzination ist eine flüssige, plausibel klingende, aber falsche Aussage — kein Bug, sondern Folge davon, dass das Modell die wahrscheinlichste Fortsetzung erzeugt.
Was bedeutet Halluzination?
Das Modell erzeugt eine flüssige, plausibel klingende, aber falsche Aussage — erfundene Quellen, falsche Zahlen, nie existierende Gerichtsurteile. Kein Bug, sondern eine Konsequenz des Funktionsprinzips: Das Modell erzeugt die wahrscheinlichste Fortsetzung, es gleicht nicht gegen eine Wahrheitsdatenbank ab.
Abgrenzung — worauf es ankommt
Halluzination ≠ veraltetes Wissen (das ist der Knowledge Cutoff) und ≠ Missverständnis des Prompts. Gegenmittel: Grounding — das Modell auf mitgelieferte Quellen verpflichten (RAG, Websuche) und Quellenangaben verlangen; dazu Temperatur senken und Prüfschritte einbauen. Reduzieren ja, eliminieren nein.
Beispiel aus der Praxis
Der berühmte Anwaltsfall 2023: ChatGPT erfand Präzedenzurteile samt Aktenzeichen, der Anwalt reichte sie ungeprüft bei Gericht ein.
Halluzination in Ihrem Unternehmen nutzen?
Von der Theorie in die Praxis: Wir zeigen Ihnen den passenden Weg — pragmatisch, DSGVO-konform und messbar.
Kostenlos · unverbindlich