Halluzination
Eine Halluzination ist eine plausibel wirkende KI-Ausgabe, deren Aussage oder Bezug zu den Quellen nicht stimmt.
So funktioniert Halluzination.
Gemeint sind etwa eine erfundene Quelle, ein falsches Detail oder eine Schlussfolgerung, die der Ausgangstext nicht hergibt.
Die Grenze des Begriffs.
Auch Quellenzugriff und ein weiterer Modellcheck können Fehler übersehen. Bei wichtigen Aussagen ist unabhängige Prüfung erforderlich.