Typische Fälle: erfundene Gerichtsurteile, falsche Quellenangaben, Statistiken, die nie erhoben wurden, oder Firmennamen, die es nicht gibt. Das Risiko steigt bei Nischenthemen, aktuellen Ereignissen nach dem Trainings-Stichtag und bei sehr spezifischen Zahlen – genau dort, wo im Trainingsmaterial wenig oder widersprüchliche Daten vorkamen. Ein Large Language Model erkennt selbst nicht, ob es gerade rät.
Für Unternehmen ist das ein reales Risiko, sobald KI-generierte Texte ungeprüft online gehen: eine erfundene Zertifizierung im Über-uns-Text, eine falsche Öffnungszeit, ein Produktversprechen, das es nicht gibt. Google bewertet Inhalte mit erkennbaren Falschaussagen negativ, und rechtlich haftet das Unternehmen, nicht das Modell. Ein Wiener Onlineshop, der Produktbeschreibungen per ChatGPT erstellt, sollte jede technische Spezifikation gegen das echte Datenblatt prüfen.
Eindämmen lässt sich das Problem, nicht eliminieren: RAG bindet das Modell an geprüfte Quellen statt an sein Training, klare Prompts mit "nenne nur Fakten aus dem bereitgestellten Text" senken die Quote, und ein Mensch mit Fachwissen liest vor Veröffentlichung gegen. Wer KI-Content ungeprüft übernimmt, produziert im schlimmsten Fall AI Slop mit Falschinformationen statt brauchbarem Text.
