Ein KI-Tool liefert im Entwurf eine Zahl, die plausibel klingt: “37 Prozent der Unternehmen setzen bereits auf KI-Content.” Klingt seriös, hat eine Quelle im Fußnotenstil. Die Quelle existiert nicht. So beginnt der Alltag jedes Teams, das KI-Texte veröffentlicht, ohne sie zu prüfen.
Wie oft KI-Texte tatsächlich danebenliegen
Die Zahlen sind größer, als die meisten schätzen würden. Die European Broadcasting Union hat im Oktober 2025 Antworten von ChatGPT, Copilot, Gemini und Perplexity systematisch geprüft. Ergebnis: 45 Prozent der Antworten enthielten signifikante Mängel bei Genauigkeit, Kontext oder der Trennung von Fakt und Meinung, 81 Prozent wiesen irgendeinen Fehler auf, und in 31 Prozent der Fälle waren die genannten Quellen schlicht falsch.
Zum Vergleich: Eine frühere Runde derselben Untersuchung lag noch bei rund 50 Prozent fehlerhafter Antworten, die aktuelle bei etwa 37 Prozent im Nachrichtenkontext. Die Modelle werden besser, aber die Fehlerquote bleibt hoch genug, dass ungeprüfte Veröffentlichung ein Risiko ist, kein Kavaliersdelikt. Eine Erhebung von Dataiku unter deutschen Datenverantwortlichen bestätigt die Konsequenz: 76 Prozent berichteten für das vergangene Jahr von geschäftlichen Problemen, die auf KI-Halluzinationen zurückgingen.
Die Fehlerquote hängt stark von der Aufgabe ab
Hier lohnt eine Differenzierung, die in der öffentlichen Debatte oft untergeht. Der Vectara-Benchmark, der prüft, wie oft Modelle beim Zusammenfassen vorgegebener Dokumente Inhalte erfinden, zeigt bei den besten Modellen Halluzinationsraten von 0,6 bis 1,9 Prozent. Das ist eine enge, gut kontrollierbare Aufgabe: Das Modell bekommt einen Text und soll ihn zusammenfassen, nicht neues Weltwissen abrufen.
Ganz anders sieht es bei freien Wissensfragen aus. Nach internen Tests von OpenAI, die 2025 öffentlich wurden, lag das Modell GPT-o3 bei Fragen zu öffentlichen Personen in etwa einem Drittel der Fälle daneben, mehr als doppelt so häufig wie sein Vorgänger o1. Bei allgemeinen Wissensfragen kam das kleinere Modell o4-mini auf Fehlerraten von bis zu 80 Prozent. Meine Einschätzung dazu: Die Zahl selbst ist weniger wichtig als das Muster dahinter. Je freier ein Modell aus seinem trainierten Weltwissen schöpfen muss, statt einen vorgegebenen Text zu verarbeiten, desto höher das Risiko. Für Blog-Content bedeutet das: Recherche mit belegten Quellen und ein Modell, das daraus zusammenfasst, ist strukturell sicherer als ein Modell, das frei aus dem Gedächtnis behauptet.
Ein Faktencheck-Workflow für KI-Content in fünf Schritten
Ein praktikabler Ablauf muss nicht aufwendig sein, er muss nur konsequent laufen.
- Quellenbasis vor dem Schreiben festlegen. Recherche geschieht über eine feste, protokollierbare Quelle, nicht über freie Modell-Improvisation. Jede Aussage bekommt eine nachvollziehbare Herkunft, bevor der Text entsteht.
- Quellenpflicht im Prompt erzwingen. Das Modell wird angewiesen, jede Tatsachenbehauptung mit einer Quelle zu versehen oder sie explizit als unsicher zu kennzeichnen, statt zu raten.
- Cross-Check jeder Zahl. Prozentwerte, Zeiträume und Beträge werden gegen die Originalquelle geprüft, nicht gegen die Zusammenfassung des Modells. Typische Fehler sind vertauschte Jahre oder eine falsche Bezugsgröße.
- Jede externe URL technisch verifizieren. Ein einfacher Statuscode-Check reicht, um erfundene oder tote Links vor der Veröffentlichung herauszufiltern.
- Freigabe mit klarer Verantwortung. Version, Datum und die tatsächlich genutzten Hauptquellen werden dokumentiert, damit spätere Korrekturen nachvollziehbar bleiben.
Ein konkretes Beispiel aus der eigenen Praxis: Die Redaktionsroutine hinter diesem Magazin lässt vor jeder Veröffentlichung sämtliche externen Quellen-URLs per automatisiertem Statuscode-Check prüfen, nur Antworten mit Statuscode 200 werden verwendet. Jede harte Zahl im Fließtext braucht eine Quelle im Quellen-Block am Ende des Artikels, sonst wird sie gestrichen oder weich formuliert. Das ersetzt keine inhaltliche Prüfung durch einen Menschen, filtert aber tote oder frei erfundene Links zuverlässig heraus, bevor sie online gehen.
Technische Absicherung: RAG, Whitelists und Prompt-Regeln
Retrieval-Augmented Generation, kurz RAG, ist der wirksamste technische Hebel gegen Halluzinationen. Statt aus freiem Weltwissen zu schreiben, greift das Modell auf konkret angegebene Dokumente zu, etwa eine Studie, eine interne Wissensdatenbank oder recherchierte Quellenausschnitte. Fakten kommen dann aus einem Index, nicht aus statistischer Wahrscheinlichkeit.
Zusätzlich hilft eine Quellenwhitelist: eine Redaktion legt fest, welche Portale, Studien und Behördenseiten uneingeschränkt zitierfähig sind, welche eine Zusatzprüfung brauchen und welche gar nicht infrage kommen. Das nimmt jede einzelne Entscheidung aus dem Zeitdruck der Tagesarbeit heraus. Wer zusätzlich E-E-A-T-Signale und technisches SEO sauber umsetzt, verstärkt den Effekt: Suchmaschinen und KI-Systeme bewerten Autorenschaft und Quellentransparenz zunehmend als Qualitätsmerkmal, nicht nur Leser.
Der Faktencheck ist damit auch eine Sichtbarkeitsfrage. Wie Content überhaupt in KI-Antworten landet, hängt stark davon ab, ob ein Modell Ihren Artikel als verlässliche Quelle einstuft. Fehlerhafte oder unbelegte Zahlen wirken in die andere Richtung: Sie senken die Wahrscheinlichkeit einer Zitierung, weil Modelle zunehmend selbst versuchen, Aussagen gegenzuprüfen. Wer regelmäßig misst, ob der eigene Blog in ChatGPT und Co. auftaucht, kann diesen Zusammenhang über die Zeit beobachten.
Was das für die Redaktionsplanung bedeutet
Nicht jeder Text braucht denselben Aufwand. Ein interner Entwurf oder eine Brainstorming-Liste verträgt einen einfachen Review. Ein veröffentlichter Artikel mit Studienzahlen, Rechtsaussagen oder Preisangaben braucht den vollen Fünf-Schritte-Workflow und im Zweifel eine zweite Person, die gegenliest. Diese Risikostufung lohnt sich, weil sie verhindert, dass strenge Prüfprozesse den gesamten Content-Betrieb ausbremsen, während sie dort greifen, wo ein Fehler tatsächlich teuer würde.
Am Ende bleibt eine nüchterne Erkenntnis: KI-Halluzinationen sind laut aktueller Forschung mathematisch nicht vollständig zu vermeiden, wohl aber durch redaktionelle Prozesse verlässlich einzudämmen. Der Aufwand dafür ist überschaubar, wenn er von Anfang an Teil des Workflows ist, statt nachträglich draufgesetzt zu werden.
Ein Punkt wird dabei oft übersehen: Faktencheck ist keine einmalige Aufgabe am Textende, sondern ein Filter, der an mehreren Stellen greift. Schon bei der Recherche entscheidet sich, ob überhaupt belastbares Material vorliegt, aus dem ein Modell schöpfen kann. Wer das Modell erst nach dem Schreiben kontrolliert, prüft im Grunde die falsche Phase. Die Korrektur kommt dann zu spät, um strukturelle Fehler wie eine verwechselte Studie oder eine falsche Bezugsgröße günstig zu beheben, weil der gesamte Absatz oft neu formuliert werden muss.
Sinnvoll ist deshalb ein kurzer Realitätscheck vor jedem größeren KI-Content-Projekt: Welche Aussagen im geplanten Text sind faktenkritisch, welche nicht? Für unternehmensinterne Blogbeiträge über Prozesse oder Meinungen ist das Risiko gering. Sobald Wettbewerbsvergleiche, Marktzahlen oder Studienzitate im Spiel sind, steigt der Prüfaufwand automatisch, und genau dafür sollte der Fünf-Schritte-Workflow von Anfang an eingeplant sein, nicht als Nachgedanke.
Quellen & Referenzen
- Tagesschau: Wie KI-Halluzination in Studien landet, mit Zahlen zur EBU-Studie und zur Dataiku-Erhebung. tagesschau.de
- Heise: KI und die Halluzinationen, Einordnung der EBU-Studie zu Fehlerquoten bei Chatbot-Antworten. heise.de
- ZDFheute: ChatGPT und Co, interne OpenAI-Tests zu Fehlerraten bei GPT-o3 und o4-mini. zdfheute.de
- Deutscher Bundestag, Wissenschaftlicher Dienst: Bias und Halluzinationen von KI-Systemen, inklusive Vectara-Benchmark-Daten. bundestag.de
- Fraunhofer IESE: Halluzinationen generativer KI, technische Gegenmaßnahmen wie RAG und Prompting-Techniken. iese.fraunhofer.de
Häufige Fragen
Wie häufig erfinden KI-Modelle tatsächlich Fakten oder Quellen?
Eine Untersuchung der European Broadcasting Union aus dem Herbst 2025 fand bei 45 Prozent der geprüften Chatbot-Antworten signifikante inhaltliche Mängel, 81 Prozent enthielten irgendeine Form von Fehler, und in 31 Prozent der Fälle waren die genannten Quellen falsch. Die Quote schwankt stark je nach Modell und Aufgabe, ist aber in keinem Fall vernachlässigbar.
Reicht ein einzelner Redakteur als Kontrolle für KI-Content?
Für unkritische Inhalte wie Brainstorming oder interne Notizen genügt ein einfacher Review. Für veröffentlichten Content mit Zahlen, Studien oder Rechtsaussagen empfiehlt sich ein Zwei-Stufen-Check: eine fachliche Prüfung der Fakten und eine separate redaktionelle Prüfung von Ton und Quellenangaben.
Was ist der einfachste erste Schritt, um Halluzinationen im eigenen KI-Content zu reduzieren?
Jede Zahl und jede Studie, die ein KI-Tool nennt, bekommt vor der Veröffentlichung eine geprüfte Quelle im Text. Findet sich keine echte Quelle, wird die Aussage weich formuliert oder gestrichen. Dieser eine Schritt fängt den Großteil der problematischen Fälle ab, ganz ohne zusätzliches Tooling.
Transparenz: Dieser Beitrag wurde KI-gestützt erstellt (Recherche, Entwurf, Bild) und vor der Veröffentlichung redaktionell geprüft und freigegeben. Die redaktionelle Verantwortung trägt Arno Hoffrichter. So arbeiten wir mit KI.
Recherche, Text, Bild: automatisiert. Prüfung und Freigabe: redaktionell. Genau das baut die Blog Machine auch für Ihre Website, ab 4 Artikeln pro Monat.