Was ist Halluzination?
Hallucination
A. Was ist Halluzination
Wenn eine KI Inhalte erzeugt, die sachlich falsch sind, aber plausibel klingen. Wichtige Informationen sollten Sie stets anhand von Primärquellen überprüfen.
Eine Halluzination liegt vor, wenn eine generative KI nicht existierende Fakten, Quellen oder Zahlen so ausgibt, als wären sie korrekt. Sie kann aufgrund der Funktionsweise von LLMs auftreten – sie erzeugen „das wahrscheinlichste nächste Wort“.
Zu den Gegenmaßnahmen gehören die Nutzung von KI-Suche mit Quellenangaben, Retrieval-Augmented Generation (RAG) und die Aufforderung an das Modell im Prompt, seine Belege anzugeben. Auch auf dieser Website beruhen die Zahlen auf öffentlichen Daten mit klar angegebenen Quellen und Erhebungsdaten.