KI-gestützte Fake-News-Erkennung

Das echte Ausmaß des Problems

Eine Studie des MIT Media Lab (2018, Vosoughi et al., Science) zeigt: Falsche Nachrichten verbreiten sich auf Twitter sechsmal schneller als wahre — und erreichen bis zu 20-mal mehr Menschen. Diese Asymmetrie hat sich seitdem nicht verbessert. Neue Plattformen (TikTok, Telegram, WhatsApp-Gruppen) haben die Verbreitungsgeschwindigkeit weiter erhöht.

Für Redaktionen, die Faktencheck-Arbeit leisten, ist das ein strukturelles Problem: Die manuelle Prüfkapazität kann mit der Verbreitungsgeschwindigkeit nicht Schritt halten. Ein erfahrener Faktenchecker benötigt für einen gründlichen Check 2 bis 4 Stunden — er prüft Quellen, kontaktiert Experten, verifiziert Bilder und Audio, baut Kontext nach. In dieser Zeit hat eine falsche Behauptung bereits Zehntausende Shares gesammelt.

Das Reuters Institute Digital News Report 2023 zeigt: 46 Prozent der deutschen Nachrichtennutzer sorgen sich “sehr” oder “extrem” um Desinformation im Internet. Gleichzeitig sind die Faktencheck-Ressourcen begrenzt: Correctiv, dpa Faktencheck und einige wenige andere Dienste decken Deutschland ab — aber nicht flächendeckend und nicht in Echtzeit. Regionale Desinformation landet oft gar nicht auf dem Faktencheck-Radar.

Ein zweites Problem betrifft Deepfakes und KI-generierte Bilder: Seit 2023 sind synthetische Bilder und Videos von hoher Qualität für nahezu jeden produzierbar. Der EU AI Act (Art. 50) schreibt ab 2026 für kommerzielle Deepfake-Inhalte eine Kennzeichnungspflicht vor — aber durchgesetzt wird sie nicht automatisch. Der Pressekodex (Ziffer 2, Richtlinie 2.1) verpflichtet Redaktionen zur Quellenprüfung — das schließt die Prüfung auf KI-generierte Bilder ein.

Mit vs. ohne KI — ein ehrlicher Vergleich

Wichtiger Vorbehalt: KI trifft kein Wahrheitsurteil. Kein System entscheidet zuverlässig, ob eine Behauptung wahr oder falsch ist — das erfordert menschliches Urteil, Kontextwissen und Quellennetzwerke. Die Rolle der KI ist Priorisierung, Vorrecherche und Unterstützung — nicht Entscheidung.

Einschätzung auf einen Blick

Zeitersparnis — mittel (3/5) KI-Unterstützung reduziert den manuellen Aufwand pro Faktencheck erheblich — von 3 Stunden auf 45–90 Minuten. Das ist real, aber kein Quantensprung wie bei der Transkription. Die zeitintensivste Faktencheck-Arbeit — Expertengespräche, Originaldokumentprüfung, Kontextualisierung — bleibt menschlich.

Kosteneinsparung — niedrig (2/5) Ein vollständiges KI-Monitoring-System ist teuer: 500–2.000 Euro/Monat für Social-Media-Monitoring plus 10.000–30.000 Euro Entwicklungsaufwand. Der Nutzen entsteht über mehr Output mit gleichen Ressourcen — schwer in Euro zu isolieren. Für kleine Faktencheck-Teams ist der Einstieg mit Perplexity und Claude (38 Euro/Monat) sehr günstig; ein vollständiges System ist ein erheblicher Invest.

Schnelle Umsetzung — mittel (3/5) Einfache KI-Unterstützung (Perplexity für Gegenprüfungen, Claude für Inhaltsanalyse) ist in einer Woche einsatzbereit. Ein vollständiges Monitoring-System mit automatischer Priorisierung braucht 3–6 Monate und erhebliche Entwicklungsressourcen. Mittelfeldposition wegen der zweigeteilten Einstiegsmöglichkeit.

ROI-Sicherheit — niedrig (2/5) Der Nutzen von Faktencheck-Arbeit ist schwer in Geld zu messen — er ist gesellschaftlicher Wert, nicht direkt monetarisierbar. Die Zeit- und Kapazitätssteigerung ist messbar, aber der wirtschaftliche ROI für eine Redaktion ist indirekt. Daher niedrige ROI-Sicherheit im Vergleich zu operationalen Anwendungsfällen.

Skalierbarkeit — hoch (4/5) KI-basierte Faktencheck-Systeme lernen mit jedem geprüften Fall dazu. Eine Claim-Datenbank, die wächst, macht Doppel-Prüfungen überflüssig. Ein Klassifikationsmodell, das auf mehr Fällen trainiert, wird präziser. Gut skalierend im Vergleich zu anderen Medienanwendungsfällen.

Richtwerte — stark abhängig von Faktencheck-Volumen, Themengebiet und Verbreitungskanälen.

Was KI-gestützte Faktencheck-Unterstützung konkret macht

Vier Einsatzebenen mit unterschiedlicher Komplexität:

Ebene 1 — Monitoring (komplex, automatisiert): KI-Systeme überwachen kontinuierlich Social-Media-Plattformen, Telegram-Gruppen und alternative Nachrichtenquellen auf viral gehende Inhalte. Sie identifizieren Beiträge, die schnell geteilt werden und gleichzeitig Desinformationsmerkmale aufweisen: fehlende Quellenangaben, bekannte Desinformationsquellen als Ursprung, alte Bilder in neuem Kontext, ungewöhnlich emotionale Sprache.

Ebene 2 — Priorisierung (mittel-komplex): Erkannte Kandidaten werden nach Priorität bewertet — Reichweite, Schadenpotenzial, Überprüfbarkeit. Faktenchecker sehen zuerst die Fälle, die am meisten Aufmerksamkeit bekommen und am dringendsten geprüft werden müssen. Das ist der entscheidende Effizienzgewinn.

Ebene 3 — Vorrecherche (einfach, sofort nutzbar): Für priorisierte Fälle automatische Vorrecherche: Reverse-Image-Search für verdächtige Bilder, Quellenprüfung gegen bekannte Fake-Domains, Vergleich mit bereits geprüften Behauptungen in Claim-Datenbanken.

Ebene 4 — Inhaltliche Analyse (einfach, sofort nutzbar): Claude oder ChatGPT zur Strukturierung eines verdächtigen Textes: Welche Behauptungen sind überprüfbar? Welche Aussagen sind unbelegter Natur? Das hilft beim Fokussieren des manuellen Checks.

Konkrete Werkzeuge — was wann passt

Perplexity für schnelle Gegenprüfungen: Eine verdächtige Behauptung in Perplexity eingeben und sofort sehen, was seriöse Quellen dazu sagen. Das ist keine automatisierte Lösung, aber ein effizienter manueller Schritt. Kostenloser Plan verfügbar; Pro: 20 Euro/Monat.

Claude für die inhaltliche Analyse längerer Desinformationstexte: Verdächtige Artikel oder Threads einpflegen und fragen: “Welche Behauptungen in diesem Text sind überprüfbar? Welche klingen wie unbelegte Aussagen?” Claude hilft beim Strukturieren des Checks. Pro-Plan: 18 Euro/Monat.

ChatGPT mit Websuche für aktuelle Gegenfakten: Wenn eine Behauptung kurz zuvor in seriösen Medien aufgetaucht ist, findet ChatGPT mit Internetanbindung schnell bestätigende oder widerlegende Quellen. 20 Euro/Monat.

ClaimBuster (kostenlos, idir.uta.edu/claimbuster): Spezialisiertes Faktencheck-Tool aus der Forschung — identifiziert in Texten “check-worthy claims”, also faktenüberprüfbare Aussagen mit hohem Aufmerksamkeitspotenzial. Gut als erste Filterebene.

Für Vollsysteme: Talkwalker, Brandwatch oder spezialisierte Desinformations-Monitoring-Dienste (500–2.000 Euro/Monat). Für überregionale Redaktionen oder spezialisierte Faktencheck-Teams der skalierbare Ansatz — aber erhebliche Investition.

Datenschutz und Datenhaltung

Fake-News-Erkennung bewegt sich an einer datenschutzrechtlich sensiblen Grenze, sobald Artikeltexte über echte Personen oder politische Meinungen verarbeitet werden.

Art. 5(1)(d) DSGVO — Richtigkeit: Wenn KI-Werkzeuge automatisch Inhalte über reale Personen analysieren und eine Falschinformation-Einschätzung ausgeben, muss diese Einschätzung selbst der Sorgfaltspflicht standhalten. Eine fehlerhafte KI-Klassifikation, die eine wahre Aussage als falsch kennzeichnet, kann zu einem DSGVO-Auskunftsanspruch oder Gegendarstellungsrecht führen.

Art. 9 DSGVO — Besondere Kategorien: Wenn Artikel politische Meinungen, Gesundheitsinformationen oder religiöse Überzeugungen konkreter Personen analysiert werden — etwa bei der Prüfung von Politiker-Aussagen oder Impfstoff-Desinformation — greift der erhöhte Schutz für besondere Datenkategorien. Solche Analysen erfordern entweder eine ausdrückliche Einwilligung oder stützen sich auf Art. 9 Abs. 2 lit. e (öffentlich zugängliche Daten) in Verbindung mit dem presserechtlichen Privileg.

§ 22 KUG / Art. 85 DSGVO — Presseprivileg: Redaktionelle Werkzeuge, die Artikeltexte über namentlich genannte Personen verarbeiten, können sich auf das journalistische Privileg berufen — aber nur, wenn die Verarbeitung dem redaktionellen Zweck dient und kein Profiling stattfindet.

AVV-Pflicht: Sobald Artikeltexte mit Personenbezug an externe KI-Dienste (Claude, ChatGPT, Perplexity) übermittelt werden, ist ein Auftragsverarbeitungsvertrag Pflicht. Alle genannten Anbieter stellen AVV-Muster bereit.

EU AI Act Art. 50: Systeme, die automatisiert bestimmen, ob ein Inhalt “falsch” oder “irreführend” ist und diese Einschätzung öffentlich kommunizieren, fallen unter Transparenzpflichten. Das finale Urteil muss nachweislich von einem Menschen verantwortet werden.

Empfehlung: Artikeltexte zur Analyse ausschließlich in EU-gehosteten Systemen verarbeiten. Kein automatisches Personenprofiling auf Basis von Faktencheck-Ergebnissen.

Rechtliche Besonderheiten

Faktencheck-Arbeit berührt mehrere Rechtsbereiche, die im Zusammenhang mit KI relevant werden:

EU AI Act (Art. 50): Ab 2026 müssen synthetische Medieninhalte (Deepfakes, KI-generierte Bilder und Videos) für kommerzielle Zwecke gekennzeichnet sein. Faktencheck-Redaktionen müssen KI-generierte Bilder als solche erkennen und benennen können.

Pressekodex Ziffer 2: Redaktionen sind zur sorgfältigen Quellenprüfung verpflichtet. KI-Tools, die bei der Quellenprüfung eingesetzt werden, entbinden nicht von dieser Verpflichtung — sie unterstützen sie. Das Urteil über Verlässlichkeit einer Quelle bleibt menschlich.

Unterlassungsansprüche: Wer eine Behauptung als “falsch” kennzeichnet, setzt sich dem Risiko von Unterlassungsklagen aus, wenn die Faktenbewertung angefochten wird. KI-generierte Wahrheitsurteile — falls sie jemals standardmäßig eingesetzt würden — wären in diesem Kontext rechtlich problematisch. Kein Faktencheck-Urteil darf automatisiert getroffen werden.

Was es kostet — realistisch gerechnet

Einstieg (manuelle Unterstützung mit KI-Recherche-Tools):

• Perplexity Pro: 20 Euro/Monat
• Claude Pro: 18 Euro/Monat
• Zeitersparnis pro Check: ca. 45–60 Minuten
• Bei 5 Checks/Woche: 15–20 Stunden Zeitersparnis monatlich
• Gesamt: 38 Euro/Monat

Vollständige KI-Monitoring-Lösung:

• Social-Media-Monitoring-Tool: 500–2.000 Euro/Monat
• Custom-NLP-Integration für Desinformationserkennung: 10.000–30.000 Euro einmalig
• Laufende Modellpflege: 500–1.500 Euro/Monat
• Für: überregionale Redaktionen oder dedizierte Faktencheck-Dienste mit Vollzeitteam

ROI-Beispiel: Kleines Faktencheck-Team (3 Personen), aktuell 4 Checks/Woche. Mit KI-Unterstützung bei Recherche und Priorisierung: 6–8 Checks/Woche — 50–100 Prozent mehr Output ohne zusätzliches Personal (Schätzwert aus Praxisberichten). Bei 38 Euro/Monat Toolkosten ist das ein außerordentlich günstiger Kapazitätszuwachs.

Drei typische Einstiegsfehler

Fehler 1: KI-Vorrecherche ohne eigene Prüfung übernehmen Das ist der Fehler, der Glaubwürdigkeit kostet. Wenn eine KI-gestützte Vorrecherche eine Behauptung als “wahrscheinlich falsch” klassifiziert und der Faktenchecker diese Klassifikation übernimmt, ohne eigene Prüfung, ist der Faktencheck wertlos — oder schlimmer: fehlerhaft. KI-Ausgaben sind Input für den menschlichen Prüfprozess, nie das Ergebnis.

Fehler 2: Zu viele Alerts ohne klare Triage-Regeln Ein Social-Media-Monitoring-System ohne gut kalibrierte Filter produziert Hunderte von Alerts täglich. Ohne klare Triage-Regeln (“was landet im schnellen Check, was im gründlichen Check, was ignorieren wir?”) überfordert das das Team stärker als kein System. Die Kalibrierung ist der aufwendigste Teil der Einführung.

Fehler 3: KI-System als Ersatz für Quellennetzwerke verstehen Ein Faktencheck-System ist nur so stark wie der Zugang zu verlässlichen Primärquellen: Behörden, Experten, Originaldokumente. KI beschleunigt den Weg zu diesen Quellen — aber sie ersetzt sie nicht. Teams, die in KI investieren, ohne gleichzeitig ihre Experten-Netzwerke zu pflegen, gewinnen Geschwindigkeit, verlieren aber Tiefe.

Was mit der Einführung wirklich passiert

Faktencheck-Teams berichten übereinstimmend: Das größte Problem nach der Einführung von KI-Tools ist nicht die Technik, sondern die Qualitätskontrolle der KI-Vorrecherche. Wenn das Team beginnt, KI-Suchergebnisse und -Zusammenfassungen ohne vollständige eigene Prüfung zu akzeptieren, untergräbt das die journalistische Sorgfalt — genau das, was Faktencheck-Arbeit auszeichnen sollte.

Bewährt hat sich ein explizites Protokoll: KI-Ausgaben werden als “unverified input” markiert. Jede KI-Behauptung, die in einem Faktencheck erscheint, bekommt eine eigenständige Quelle. Der Faktenchecker dokumentiert, was er selbst geprüft hat — nicht, was die KI vorgeschlagen hat.

Ein zweites Problem: Deepfake-Erkennung entwickelt sich schneller als Erkennungstools Schritt halten können. Ein Bild, das im Januar 2025 als “KI-generiert” erkennbar war, kann im Januar 2026 von einem besseren Modell stammen, das erkennbar echter aussieht. Tools zur KI-Bilderkennung sind kein Allheilmittel — sie sind ein Hinweis, kein Beweis.

Realistischer Zeitplan mit Risikohinweisen

Häufige Einwände — und was dahintersteckt

„KI erkennt Desinformation nicht zuverlässig.” Das stimmt. Kein KI-System trifft verlässliche Wahrheitsurteile — das erfordert menschliches Urteil, Kontextwissen und Quellennetzwerke. Die Rolle der KI in diesem Workflow ist Priorisierung und Vorrecherche — nicht Entscheidung. KI filtert den Informationsstrom auf die prüfwürdigen Fälle und reduziert den manuellen Aufwand pro Fall. Das Urteil bleibt beim Faktenchecker.

„Wir sind keine Faktencheck-Organisation.” Jede Redaktion, die über Desinformationsthemen berichtet, profitiert von besseren Erkennungstools. Auch ohne eigenes Faktencheck-Programm: Wenn du verdächtige Inhalte erkennst, bevor du darüber berichtest, schützt du dich vor dem Weiterverbreiten von Falschinformationen. Das ist Qualitätssicherung, keine Spezialisierung.

„Das ist ein Problem für Plattformen, nicht für Redaktionen.” Plattformen haben eine Mitverantwortung — das stimmt. Aber Redaktionen sind die einzige Institution mit dem Auftrag und der Kapazität, faktische Prüfungen vorzunehmen. Wenn Redaktionen Desinformation nicht prüfen, weil “das die Plattformen tun sollten”, entsteht ein strukturelles Vakuum, das sich historisch als gefährlich erwiesen hat.

Woran du merkst, dass das zu dir passt

Deine Redaktion betreibt aktiv Faktencheck-Arbeit oder berichtet über Themen mit hohem Desinformationsrisiko (Wahlen, Gesundheit, Konfliktregionen). Du hast das Gefühl, dass manuelle Priorisierung zu langsam ist und wichtige Fälle durchrutschen. Du möchtest mehr Checks in weniger Zeit ohne Qualitätsverlust.

Diese Lösung passt nicht zu dir, wenn:

• Deine Redaktion betreibt keine systematische Faktencheck-Arbeit und hat keine dafür ausgebildeten Personen — ohne Faktencheck-Kompetenz hilft ein KI-Tool nicht
• Dein Fokus liegt auf Themengebieten mit sehr niedrigem Desinformationsrisiko (Kulturberichterstattung, nicht-politische Lokalnachrichten)
• Du erwartest, dass KI selbstständig Fakten prüft und Urteile fällt — das ist technisch und ethisch nicht vertretbar

Das kannst du heute noch tun

Nimm einen aktuellen Faktencheck, den du gerade bearbeitest, und stelle die zentrale Behauptung in Perplexity: “Was sagen seriöse Quellen zu dieser Behauptung: [BEHAUPTUNG]?” Vergleiche das Ergebnis mit deiner manuellen Recherche. Dann lass Claude den verdächtigen Text analysieren: “Welche Aussagen in diesem Text sind überprüfbar?”

Quellen & Methodik

• Vosoughi et al. (2018): “The spread of true and false news online”, Science, doi.org/10.1126/science.aap9559 — MIT Media Lab Studie zu Verbreitungsgeschwindigkeit.
• Reuters Institute Digital News Report 2023: Desinformations-Sorgen und Medienkompetenz in Deutschland, reutersinstitute.politics.ox.ac.uk.
• EU AI Act (2024): Art. 50 zu synthetischen Medien und Kennzeichnungspflicht, EUR-Lex.
• Pressekodex des Deutschen Presserats: Ziffer 2 zur Sorgfaltspflicht, presserat.de.
• Correctiv: Erfahrungsberichte aus dem deutschen Faktencheck-Betrieb, correctiv.org.