KI-gestützte Fake-News-Erkennung

Das echte Ausmaß des Problems

Eine Studie des MIT (2018, Vosoughi et al., Science) zu Twitter-Daten der Jahre 2006 bis 2017 zeigt: Wahre Meldungen brauchen rund sechsmal so lange wie falsche, um 1.500 Menschen zu erreichen. Eine Weiterleitungskette von zehn Stufen erreichen falsche Meldungen rund 20-mal schneller, und sie werden mit 70 Prozent höherer Wahrscheinlichkeit weitergeleitet. Dass sich diese Asymmetrie seitdem verbessert hätte, dafür gibt es keinen Anhaltspunkt. Neue Plattformen (TikTok, Telegram, WhatsApp-Gruppen) haben die Verbreitungsgeschwindigkeit weiter erhöht.

Für Redaktionen, die Faktencheck-Arbeit leisten, ist das ein strukturelles Problem: Die manuelle Prüfkapazität kann mit der Verbreitungsgeschwindigkeit nicht Schritt halten. Ein erfahrener Faktenchecker benötigt für einen gründlichen Check 2 bis 4 Stunden, er prüft Quellen, kontaktiert Experten, verifiziert Bilder und Audio, baut Kontext nach. In dieser Zeit hat eine falsche Behauptung bereits Zehntausende Shares gesammelt.

Die Faktencheck-Ressourcen sind begrenzt: Correctiv, dpa Faktencheck und einige wenige andere Dienste decken Deutschland ab, aber nicht flächendeckend und nicht in Echtzeit. Regionale Desinformation landet oft gar nicht auf dem Faktencheck-Radar.

Ein zweites Problem betrifft Deepfakes und KI-generierte Bilder: Seit 2023 sind synthetische Bilder und Videos von hoher Qualität für nahezu jeden produzierbar. Seit dem 2. August 2026 verlangt Art. 50 Abs. 4 der KI-Verordnung, dass Betreiber Deepfakes als künstlich erzeugt oder manipuliert offenlegen, und zwar jeder, der ein KI-System beruflich nutzt, nicht nur für kommerzielle Zwecke. Wer eine Fälschung in Umlauf bringen will, hält sich daran nicht. Der Pressekodex (Ziffer 2, Sorgfalt) verpflichtet Redaktionen zur Quellenprüfung, das schließt die Prüfung auf KI-generierte Bilder ein.

Mit vs. ohne KI, ein ehrlicher Vergleich

Wichtiger Vorbehalt: KI trifft kein Wahrheitsurteil. Kein System entscheidet zuverlässig, ob eine Behauptung wahr oder falsch ist, das erfordert menschliches Urteil, Kontextwissen und Quellennetzwerke. Die Rolle der KI ist Priorisierung, Vorrecherche und Unterstützung, nicht Entscheidung.

Einschätzung auf einen Blick

Zeitersparnis, mittel (3/5) KI-Unterstützung spart pro Faktencheck rund 45 bis 60 Minuten, bei einem Check von drei Stunden ein Viertel bis ein Drittel. Das ist real, aber kein Quantensprung wie bei der Transkription. Die zeitintensivste Faktencheck-Arbeit, Expertengespräche, Originaldokumentprüfung, Kontextualisierung, bleibt menschlich.

Kosteneinsparung, niedrig (2/5) Ein vollständiges KI-Monitoring-System ist teuer: rund 750 US-Dollar bis 3.000 Euro im Monat für Social-Media-Monitoring plus 10.000–30.000 Euro Entwicklungsaufwand. Der Nutzen entsteht über mehr Output mit gleichen Ressourcen, schwer in Euro zu isolieren.

Für kleine Faktencheck-Teams ist der Einstieg mit Perplexity und Claude (20 US-Dollar plus 20 Euro im Monat) sehr günstig; ein vollständiges System ist ein erheblicher Invest.

Schnelle Umsetzung, mittel (3/5) Einfache KI-Unterstützung (Perplexity für Gegenprüfungen, Claude für Inhaltsanalyse) ist in einer Woche einsatzbereit. Ein vollständiges Monitoring-System mit automatischer Priorisierung braucht 3–6 Monate und erhebliche Entwicklungsressourcen. Mittelfeldposition wegen der zweigeteilten Einstiegsmöglichkeit.

ROI-Sicherheit, niedrig (2/5) Der Nutzen von Faktencheck-Arbeit ist schwer in Geld zu messen, er ist gesellschaftlicher Wert, nicht direkt monetarisierbar. Die Zeit- und Kapazitätssteigerung ist messbar, aber der wirtschaftliche ROI für eine Redaktion ist indirekt. Daher niedrige ROI-Sicherheit im Vergleich zu operationalen Anwendungsfällen.

Skalierbarkeit, hoch (4/5) KI-basierte Faktencheck-Systeme lernen mit jedem geprüften Fall dazu. Eine Claim-Datenbank, die wächst, macht Doppel-Prüfungen überflüssig. Ein Klassifikationsmodell, das auf mehr Fällen trainiert, wird präziser. Gut skalierend im Vergleich zu anderen Medienanwendungsfällen.

Richtwerte, stark abhängig von Faktencheck-Volumen, Themengebiet und Verbreitungskanälen.

Was KI-gestützte Faktencheck-Unterstützung konkret macht

Vier Einsatzebenen mit unterschiedlicher Komplexität:

Ebene 1, Monitoring (komplex, automatisiert): KI-Systeme überwachen kontinuierlich Social-Media-Plattformen, Telegram-Gruppen und alternative Nachrichtenquellen auf viral gehende Inhalte. Sie identifizieren Beiträge, die schnell geteilt werden und gleichzeitig Desinformationsmerkmale aufweisen: fehlende Quellenangaben, bekannte Desinformationsquellen als Ursprung, alte Bilder in neuem Kontext, ungewöhnlich emotionale Sprache.

Ebene 2, Priorisierung (mittel-komplex): Erkannte Kandidaten werden nach Priorität bewertet, Reichweite, Schadenpotenzial, Überprüfbarkeit. Faktenchecker sehen zuerst die Fälle, die am meisten Aufmerksamkeit bekommen und am dringendsten geprüft werden müssen. Das ist der entscheidende Effizienzgewinn.

Ebene 3, Vorrecherche (einfach, sofort nutzbar): Für priorisierte Fälle automatische Vorrecherche: Reverse-Image-Search für verdächtige Bilder, Quellenprüfung gegen bekannte Fake-Domains, Vergleich mit bereits geprüften Behauptungen in Claim-Datenbanken.

Ebene 4, Inhaltliche Analyse (einfach, sofort nutzbar): Claude oder ChatGPT zur Strukturierung eines verdächtigen Textes: Welche Behauptungen sind überprüfbar? Welche Aussagen sind unbelegter Natur? Das hilft beim Fokussieren des manuellen Checks.

Konkrete Werkzeuge, was wann passt

Perplexity für schnelle Gegenprüfungen: Eine verdächtige Behauptung in Perplexity eingeben und sofort sehen, was seriöse Quellen dazu sagen. Das ist keine automatisierte Lösung, aber ein effizienter manueller Schritt. Kostenloser Plan verfügbar; Pro: 20 US-Dollar im Monat.

Claude für die inhaltliche Analyse längerer Desinformationstexte: Verdächtige Artikel oder Threads einpflegen und fragen: “Welche Behauptungen in diesem Text sind überprüfbar? Welche klingen wie unbelegte Aussagen?” Claude hilft beim Strukturieren des Checks. Pro-Plan: 20 Euro/Monat.

ChatGPT mit Websuche für aktuelle Gegenfakten: Wenn eine Behauptung kurz zuvor in seriösen Medien aufgetaucht ist, findet ChatGPT mit Internetanbindung schnell bestätigende oder widerlegende Quellen. Plus: 23 Euro/Monat.

ClaimBuster (kostenlos, idir.uta.edu/claimbuster): Spezialisiertes Faktencheck-Tool aus der Forschung, identifiziert in Texten “check-worthy claims”, also faktenüberprüfbare Aussagen mit hohem Aufmerksamkeitspotenzial. Gut als erste Filterebene.

Für Vollsysteme, laut unseren Toolseiten:

• Talkwalker : typischerweise ab ca. 9.000 US-Dollar im Jahr
• Brandwatch : Einstieg typisch 800 bis 1.500 Euro im Monat, Enterprise 2.000 bis 3.000 Euro
• spezialisierte Desinformations-Monitoring-Dienste

Für überregionale Redaktionen oder spezialisierte Faktencheck-Teams der skalierbare Ansatz, aber erhebliche Investition.

Datenschutz und Datenhaltung

Fake-News-Erkennung bewegt sich an einer datenschutzrechtlich sensiblen Grenze, sobald Texte über echte Personen oder politische Meinungen verarbeitet werden.

Art. 85 DSGVO, Medienprivileg: Für Verarbeitung zu journalistischen Zwecken nehmen die Landespressegesetze und der Medienstaatsvertrag Redaktionen von den meisten DSGVO-Pflichten aus, auch von den Erlaubnistatbeständen der Art. 6 und 9. Bestehen bleiben im Kern Datengeheimnis und Datensicherheit. Das Privileg trägt aber nur, solange die Verarbeitung dem redaktionellen Zweck dient. Ein Monitoring, das dauerhaft Profile einzelner Accounts oder Personen anlegt, ist kein Faktencheck mehr.

Richtigkeit ist Presserecht, nicht Datenschutz: Eine fehlerhafte KI-Klassifikation, die eine wahre Aussage als falsch kennzeichnet und veröffentlicht wird, trifft dich über Gegendarstellung, Unterlassung und Pressekodex Ziffer 3 (Richtigstellung), siehe unten.

Consumer-Tarife und AVV: Für Claude Pro, ChatGPT Plus und Perplexity Pro gibt es keinen Auftragsverarbeitungsvertrag, den bieten die Anbieter erst in Team-, Business- oder Enterprise-Tarifen an. Für öffentlich kursierende Behauptungen ist das unkritisch, sie sind ohnehin öffentlich. Nicht öffentliche Hinweise, Informantenmaterial und eigene Rechercheunterlagen gehören dagegen nicht in Consumer-Tarife, schon wegen des Quellenschutzes (Pressekodex Ziffer 5).

EU AI Act Art. 50 Abs. 4: Ein Klassifikator, der intern prüfwürdige Fälle sortiert, löst keine Kennzeichnungspflicht aus. Anders der veröffentlichte Faktencheck: Lässt du seinen Text von KI erzeugen, musst du seit dem 2. August 2026 offenlegen, dass er künstlich erzeugt wurde, es sei denn, er wurde menschlich geprüft oder redaktionell kontrolliert und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung. Ein Faktencheck, den ein Mensch prüft und verantwortet, ist davon ausgenommen.

Empfehlung: Öffentliche Behauptungen dürfen in die genannten Tools, nicht öffentliches Material nicht. Kein automatisches Personenprofiling auf Basis von Faktencheck-Ergebnissen.

Rechtliche Besonderheiten

Faktencheck-Arbeit berührt mehrere Rechtsbereiche, die im Zusammenhang mit KI relevant werden:

EU AI Act (Art. 50 Abs. 4): Seit dem 2. August 2026 müssen Betreiber, die mit KI Deepfakes erzeugen oder manipulieren, das offenlegen, gemeint sind Bild-, Ton- und Videoinhalte, die echten Personen, Orten oder Ereignissen ähneln und fälschlich echt wirken. Für Faktencheck-Redaktionen heißt das zweierlei: Wer selbst ein KI-Bild zur Illustration nutzt, das echt wirken könnte, kennzeichnet es. Und wer eine Fälschung prüft, kann sich nicht darauf verlassen, dass ihr Urheber sie gekennzeichnet hat.

Pressekodex Ziffer 2 und Präambel: Redaktionen sind zur sorgfältigen Quellenprüfung verpflichtet. KI-Tools, die bei der Quellenprüfung eingesetzt werden, entbinden nicht von dieser Verpflichtung, sie unterstützen sie. Seit der Fassung vom 19. März 2025 stellt die Präambel ausdrücklich klar, dass die presseethische Verantwortung auch für künstlich generierte Inhalte gilt. Das Urteil über Verlässlichkeit einer Quelle bleibt menschlich.

Unterlassungsansprüche: Wer eine Behauptung als “falsch” kennzeichnet, setzt sich dem Risiko von Unterlassungsklagen aus, wenn die Faktenbewertung angefochten wird. KI-generierte Wahrheitsurteile, falls sie jemals standardmäßig eingesetzt würden, wären in diesem Kontext rechtlich problematisch. Kein Faktencheck-Urteil darf automatisiert getroffen werden.

Was es kostet, realistisch gerechnet

Einstieg (manuelle Unterstützung mit KI-Recherche-Tools):

• Perplexity Pro: 20 US-Dollar im Monat
• Claude Pro: 20 Euro/Monat
• Zeitersparnis pro Check: ca. 45–60 Minuten
• Bei 5 Checks/Woche: 5 mal 45 bis 60 Minuten, knapp 4 bis 5 Stunden in der Woche, rund 16 bis 21 Stunden im Monat
• Gesamt: rund 40 Euro/Monat, je nach Dollarkurs

Vollständige KI-Monitoring-Lösung:

• Social-Media-Monitoring-Tool: rund 750 US-Dollar bis 3.000 Euro/Monat
• Custom-NLP-Integration für Desinformationserkennung: 10.000–30.000 Euro einmalig
• Laufende Modellpflege: 500–1.500 Euro/Monat
• Für: überregionale Redaktionen oder dedizierte Faktencheck-Dienste mit Vollzeitteam

ROI-Beispiel: Kleines Faktencheck-Team (3 Personen), aktuell 4 Checks/Woche zu je rund drei Stunden. Spart KI je Check 45 bis 60 Minuten, werden in der Woche 3 bis 4 Stunden frei, und ein Check dauert dann gut zwei Stunden. Das reicht für ein bis zwei zusätzliche Checks, also 5 bis 6 statt 4, 25 bis 50 Prozent mehr Output ohne zusätzliches Personal. Das setzt voraus, dass genug prüfwürdige Fälle warten, was in Wahlkampf- und Krisenlagen praktisch immer so ist. Geld spart das nicht, es ist Kapazität. Bei rund 40 Euro/Monat Toolkosten ist sie außerordentlich günstig, wenn Pro-Lizenzen für zwei oder drei Personen dazukommen, entsprechend das Zwei- oder Dreifache.

Drei typische Einstiegsfehler

Fehler 1: KI-Vorrecherche ohne eigene Prüfung übernehmen Das ist der Fehler, der Glaubwürdigkeit kostet. Wenn eine KI-gestützte Vorrecherche eine Behauptung als “wahrscheinlich falsch” klassifiziert und der Faktenchecker diese Klassifikation übernimmt, ohne eigene Prüfung, ist der Faktencheck wertlos, oder schlimmer: fehlerhaft. KI-Ausgaben sind Input für den menschlichen Prüfprozess, nie das Ergebnis.

Fehler 2: Zu viele Alerts ohne klare Triage-Regeln Ein Social-Media-Monitoring-System ohne gut kalibrierte Filter produziert Hunderte von Alerts täglich. Ohne klare Triage-Regeln (“was landet im schnellen Check, was im gründlichen Check, was ignorieren wir?”) überfordert das das Team stärker als kein System. Die Kalibrierung ist der aufwendigste Teil der Einführung.

Fehler 3: KI-System als Ersatz für Quellennetzwerke verstehen Ein Faktencheck-System ist nur so stark wie der Zugang zu verlässlichen Primärquellen: Behörden, Experten, Originaldokumente. KI beschleunigt den Weg zu diesen Quellen, aber sie ersetzt sie nicht. Teams, die in KI investieren, ohne gleichzeitig ihre Experten-Netzwerke zu pflegen, gewinnen Geschwindigkeit, verlieren aber Tiefe.

Was mit der Einführung wirklich passiert

Faktencheck-Teams berichten übereinstimmend: Das größte Problem nach der Einführung von KI-Tools ist nicht die Technik, sondern die Qualitätskontrolle der KI-Vorrecherche. Wenn das Team beginnt, KI-Suchergebnisse und -Zusammenfassungen ohne vollständige eigene Prüfung zu akzeptieren, untergräbt das die journalistische Sorgfalt, genau das, was Faktencheck-Arbeit auszeichnen sollte.

Bewährt hat sich ein explizites Protokoll: KI-Ausgaben werden als “unverified input” markiert. Jede KI-Behauptung, die in einem Faktencheck erscheint, bekommt eine eigenständige Quelle. Der Faktenchecker dokumentiert, was er selbst geprüft hat, nicht, was die KI vorgeschlagen hat.

Ein zweites Problem: Deepfake-Erkennung entwickelt sich schneller als Erkennungstools Schritt halten können. Ein Bild, das im Januar 2025 als “KI-generiert” erkennbar war, kann im Januar 2026 von einem besseren Modell stammen, das erkennbar echter aussieht. Tools zur KI-Bilderkennung sind kein Allheilmittel, sie sind ein Hinweis, kein Beweis.

Realistischer Zeitplan mit Risikohinweisen

Häufige Einwände, und was dahintersteckt

„KI erkennt Desinformation nicht zuverlässig.” Das stimmt. Kein KI-System trifft verlässliche Wahrheitsurteile, das erfordert menschliches Urteil, Kontextwissen und Quellennetzwerke. Die Rolle der KI in diesem Workflow ist Priorisierung und Vorrecherche, nicht Entscheidung. KI filtert den Informationsstrom auf die prüfwürdigen Fälle und reduziert den manuellen Aufwand pro Fall. Das Urteil bleibt beim Faktenchecker.

„Wir sind keine Faktencheck-Organisation.” Jede Redaktion, die über Desinformationsthemen berichtet, profitiert von besseren Erkennungstools. Auch ohne eigenes Faktencheck-Programm: Wenn du verdächtige Inhalte erkennst, bevor du darüber berichtest, schützt du dich vor dem Weiterverbreiten von Falschinformationen. Das ist Qualitätssicherung, keine Spezialisierung.

„Das ist ein Problem für Plattformen, nicht für Redaktionen.” Plattformen haben eine Mitverantwortung, das stimmt. Aber Redaktionen sind die einzige Institution mit dem Auftrag und der Kapazität, faktische Prüfungen vorzunehmen. Wenn Redaktionen Desinformation nicht prüfen, weil “das die Plattformen tun sollten”, entsteht ein strukturelles Vakuum, das sich historisch als gefährlich erwiesen hat.

Woran du merkst, dass das zu dir passt

Deine Redaktion betreibt aktiv Faktencheck-Arbeit oder berichtet über Themen mit hohem Desinformationsrisiko (Wahlen, Gesundheit, Konfliktregionen). Du hast das Gefühl, dass manuelle Priorisierung zu langsam ist und wichtige Fälle durchrutschen. Du möchtest mehr Checks in weniger Zeit ohne Qualitätsverlust.

Diese Lösung passt nicht zu dir, wenn:

• Deine Redaktion betreibt keine systematische Faktencheck-Arbeit und hat keine dafür ausgebildeten Personen, ohne Faktencheck-Kompetenz hilft ein KI-Tool nicht
• Dein Fokus liegt auf Themengebieten mit sehr niedrigem Desinformationsrisiko (Kulturberichterstattung, nicht-politische Lokalnachrichten)
• Du erwartest, dass KI selbstständig Fakten prüft und Urteile fällt, das ist technisch und ethisch nicht vertretbar

Das kannst du heute noch tun

Nimm einen aktuellen Faktencheck, den du gerade bearbeitest, und stelle die zentrale Behauptung in Perplexity : “Was sagen seriöse Quellen zu dieser Behauptung: [BEHAUPTUNG]?” Vergleiche das Ergebnis mit deiner manuellen Recherche. Dann lass Claude den verdächtigen Text analysieren: “Welche Aussagen in diesem Text sind überprüfbar?”

Quellen & Methodik

• Vosoughi et al. (2018): “The spread of true and false news online”, Science, doi.org/10.1126/science.aap9559. Zusammenfassung mit den Kennzahlen (sechsmal so lange bis 1.500 Menschen, 20-mal schneller bis Kaskadentiefe 10, 70 Prozent höhere Weiterleitungswahrscheinlichkeit): news.mit.edu.
• KI-Verordnung (EU) 2024/1689: Art. 50 Abs. 4 (Offenlegung von Deepfakes und von KI-Texten zu Angelegenheiten von öffentlichem Interesse), Art. 3 Nr. 60 (Begriff Deepfake), anwendbar seit 2. August 2026, EUR-Lex.
• Pressekodex des Deutschen Presserats: Präambel, Ziffer 2 (Sorgfalt), Ziffer 3 (Richtigstellung), Ziffer 5 (Berufsgeheimnis), Fassung vom 19. März 2025, presserat.de.
• Tool-Preise: Unsere Toolseiten zu Perplexity, Claude, ChatGPT, Talkwalker und Brandwatch, Stand September 2026.
• Correctiv: Erfahrungsberichte aus dem deutschen Faktencheck-Betrieb, correctiv.org.