Moderation API

Kurzfazit

Moderation API ist die ernstzunehmende europäische Antwort auf Content-Moderation-as-a-Service. Das in Kopenhagen ansässige Unternehmen bietet über 20 vorgefertigte Detektoren für Toxizität, Hate Speech, NSFW, Spam und PII in einer einzigen REST-API — und das multi-modal für Text, Bild, Video und Audio. Für Medienhäuser, Marktplätze und Communities, die nach der Perspective-API-Abkündigung Ende 2026 einen Nachfolger suchen, ist Moderation API einer der wenigen Kandidaten mit echtem EU-Sitz und DSA-Fokus. Schwächen liegen im engen Free-Tier, dem deutlichen Preissprung zwischen den Tarifen und der Tatsache, dass AVV und EU-Region erst im Enterprise-Plan ab 799 USD/Monat verfügbar sind — wer DSGVO-konform arbeiten will, muss diese Stufe einplanen.

Für wen ist Moderation API?

Medienhäuser und Verlage: Wer Kommentarbereiche unter Artikeln moderiert, kennt das Problem: manuelle Moderation skaliert nicht, automatisierte Filter erzeugen False Positives, und ab DSA-Status (VLOP/VLOSE) werden dokumentierte Pipelines Pflicht. Moderation API liefert eine Backend-Lösung, die sich in vorhandene CMS- und Kommentar-Stacks einklinken lässt — und durch den EU-Sitz Vertrauen bei Datenschutz-Audits schafft.

Online-Marktplätze und Plattformen: Listings, Produktbeschreibungen, Nutzer-Profile, Chat-Nachrichten — wer User-Generated-Content in mehreren Modalitäten verarbeitet, bekommt mit Moderation API ein einheitliches API-Frontend statt drei verschiedener Anbieter für Text, Bild und Video. Custom Models ermöglichen es zusätzlich, plattformspezifische Regeln (z. B. „verbotene Produktkategorien”) zu trainieren.

Trust-&-Safety-Teams: Wer ein dediziertes Team für Moderation hat, profitiert vom integrierten Dashboard, User-Level-Moderation, AI-enforced Guidelines (Regeln in Klartext statt Code) und dem Adaptive Learning aus menschlichen Reviews. Die Plattform versucht bewusst, nicht nur Detektion zu liefern, sondern den ganzen Workflow inklusive Eskalation und Compliance-Dokumentation.

Entwicklerteams mit Perspective-API-Erbe: Google hat die Perspective API für Ende 2026 abgekündigt. Wer eine bestehende Integration hat, muss migrieren — und Moderation API positioniert sich explizit als Drop-in-Ersatz mit vergleichbarer REST-Logik. Der Aufwand bleibt überschaubar, sofern die existierende Codebasis sauber abstrahiert ist.

Weniger geeignet für: Einzelpersonen oder kleine Communities ohne Entwicklerteam (es gibt keine fertige UI-Lösung), Foren mit weniger als 100 Nachrichten im Monat (Free-Tier reicht, größerer Plan nicht gerechtfertigt) und Unternehmen mit strikten DSGVO-Anforderungen, die kein Budget für den Enterprise-Plan haben — denn AVV und EU-Region gibt es erst dort.

Preise im Detail

Plan	Preis	Was du bekommst
Hobby	0 USD	100 Nachrichten/Monat, Dashboard, User-Level-Moderation, AI-enforced Guidelines, 5 Custom-Wordlists, niedrige Rate-Limits
Basic	79 USD/Monat	10.000 Nachrichten/Monat, 20+ vorgefertigte Policies, Sentiment-Analyse, bis zu 5 AI Guidelines, 3 Teammitglieder, 2 Projekte, E-Mail-Support
Growth	249 USD/Monat	100.000 Nachrichten/Monat, alle Policies, höhere Rate-Limits, bis zu 10 AI Guidelines, 2 Custom Models, 5 Teammitglieder, 4 Projekte, Priority Support
Enterprise	799 USD/Monat	1 Mio. Nachrichten/Monat, alles aus Growth + Custom-Server-Regionen (EU wählbar), 4 Custom Models, 15 AI Guidelines, 10 Teammitglieder, 8 Projekte, SAML-SSO, Dedicated Support, DPA/AVV

Einordnung: Der Hobby-Plan mit 100 Nachrichten/Monat ist reines Probierniveau — ernsthafte Communities sind in wenigen Tagen durch. Basic für 79 USD ist der Einstieg für ernsthafte Nutzung, aber Achtung: AVV und EU-Region gibt es hier nicht. Wer DSGVO-konform arbeitet, muss direkt Enterprise einplanen — und 799 USD/Monat sind eine andere Liga als die Einstiegspreise klassischer SaaS-Tools. Growth ist sinnvoll für mittelgroße Plattformen mit ~50–80K Nachrichten monatlich, die bewusst auf eine eigene EU-Region verzichten können (z. B. weil sie ohnehin nur englischsprachige Nutzer mit US-Hintergrund haben). Der Sprung von Basic auf Growth (+170 USD) ist deutlich, der Sprung Growth → Enterprise (+550 USD) noch deutlicher — Volumenplanung lohnt sich.

Stärken im Detail

EU-Sitz und DSA-Fokus von Grund auf. Moderation API ist in Kopenhagen gegründet und positioniert sich explizit als europäischer Anbieter mit GDPR-, DSA- und CCPA-Konformität. Das ist im Markt für Content-Moderation eine Seltenheit — die meisten Konkurrenten (Perspective API, OpenAI Moderation, AWS Comprehend, Hive) sitzen in den USA. Für DSA-pflichtige Plattformen, die ihre Moderationspipeline dokumentieren und auditieren müssen, ist der EU-Ursprung ein echter Vorteil bei Behördenfragen.

Multi-Modal in einer API. Text, Bild, Video und Audio werden über dieselbe API moderiert. Das spart Integration, vereinfacht Abrechnung und Logging und reduziert Compliance-Aufwand erheblich. Wer für Video separat AWS Rekognition, für Text Perspective API und für Audio noch einen dritten Anbieter zusammenstückeln müsste, bekommt hier ein konsolidiertes Frontend. Gerade Marktplätze mit User-Profilen (Bild + Beschreibung + Chat) profitieren.

20+ vorgefertigte Detektoren und Custom Models. Statt einer einzigen „Toxicity”-Skala wie bei Perspective API liefert Moderation API spezialisierte Klassifikatoren — Hate Speech, Harassment, Phishing, PII-Detection, Spam, NSFW, Sentiment, Sprach-Identifikation. Ab Growth lassen sich zwei eigene Modelle trainieren (z. B. „plattformspezifische Regeln”), ab Enterprise sind es vier. Adaptive Learning aus den menschlichen Reviews verbessert die Modelle auf dem eigenen Datenbestand laufend — ein interessanter Hebel gegenüber statischen API-Anbietern.

AI-enforced Guidelines in Klartext. Statt Regex oder klassischer Regel-Engines beschreibt man Regeln in natürlicher Sprache („Verbiete Werbung für Krypto-Tokens unter 1 Mrd. USD Marktkapitalisierung”) und das System wendet sie an. Das senkt die Einstiegshürde für Trust-&-Safety-Teams ohne starke Engineering-Ressourcen erheblich — und macht Regeln auditierbar, weil sie als Text dokumentiert sind.

Performance und globale Erreichbarkeit. 10 globale Regionen, 99,99 % Uptime-SLA und sub-350ms p95-Antwortzeit sind solide Werte für Echtzeit-Moderation in Chat- und Kommentar-Systemen. Für Live-Streams oder Marketplaces mit hohem Durchsatz ist das relevant — manche Konkurrenten liegen deutlich darüber.

Etablierte Referenzkunden. Disney, Zapier, HubSpot, Nextdoor und Skillshare sind dokumentierte Kunden. Das schafft Vertrauen, dass die Plattform auf Enterprise-Skalierung ausgelegt ist und nicht nach drei Jahren wieder verschwindet — ein berechtigtes Risiko bei kleinen Trust-&-Safety-Anbietern.

Drop-in-Migration für Perspective-API-Nutzer. Wer eine bestehende Perspective-Integration hat, kann mit überschaubarem Aufwand wechseln: REST-Logik ist ähnlich, die Klassifikations-Outputs lassen sich auf vergleichbare Score-Strukturen mappen. Für Medienhäuser mit Kommentar-Sektion ist das oft der pragmatischste Pfad weg von Google.

Schwächen ehrlich betrachtet

AVV und EU-Region nur im Enterprise-Plan. Das ist die größte Einschränkung. Wer DSGVO-strikt arbeiten will (Anwälte, Banken, Behörden, Gesundheit), kommt nicht um den Enterprise-Plan herum — und der kostet 799 USD/Monat. Für viele KMU ist das die falsche Größenordnung. Basic und Growth eignen sich strenggenommen nur für Nicht-EU-Nutzergruppen oder solche, wo die Inhalts-Moderation keine personenbezogenen Daten berührt. Das limitiert die Zielgruppe in Deutschland spürbar.

Free-Tier ist reines Showroom-Niveau. 100 Nachrichten/Monat reichen für Tests, aber jede ernsthafte Community ist binnen Stunden durch. Der nächste Schritt kostet sofort 79 USD — eine Zwischenstufe für Hobbyisten oder kleine Foren fehlt. Wer eine Familien-Community oder einen kleinen Discord moderiert, ist hier falsch.

Keine deutsche Dokumentation oder Support. Die Plattform ist konsequent englisch — Docs, Dashboard, Support, Marketing. Für entwicklerlastige Teams ist das kein Hindernis, aber Trust-&-Safety-Manager, die kein technisches Englisch beherrschen, stoßen schnell an Grenzen. Bei einem dänischen Anbieter überrascht das ein wenig — Skandinavier setzen auf Englisch als lingua franca, deutsche Mittelständler tun das oft nicht.

Weniger öffentliche Benchmarks als die großen Anbieter. Perspective API, OpenAI Moderation und AWS Comprehend haben veröffentlichte Evaluationen auf Standard-Datensätzen. Moderation API gibt Kundenzahlen und Performance-SLAs an, aber kaum vergleichbare Genauigkeits-Benchmarks pro Sprache und Domäne. Wer seriös vergleichen will, muss eigene Stichproben fahren — bei Free-Tier-Limits (100 Nachrichten) ist das mühsam, ein echter Pilotversuch wird schnell kostenpflichtig.

Preissprünge sind hart. 0 → 79 → 249 → 799 USD/Monat. Es gibt keinen 19-USD-Einstieg für Bastler und keinen 400-USD-Mittelweg für mittelgroße Plattformen, die DSGVO-konform wollen ohne Enterprise zu sein. Die Preisstruktur wirkt eher US-üblich als europäisch — viele DACH-Kunden würden hier vermutlich flexiblere Staffeln bevorzugen.

Kein deutscher Detektor mit dokumentierter Genauigkeit. Die Plattform unterstützt 120+ Sprachen, aber spezifische Genauigkeits-Benchmarks für deutschsprachige Hate-Speech-Detektion fehlen öffentlich. Wer auf deutschem Content (z. B. lokale Communities oder Foren) moderiert, muss das selbst testen — und sollte mit ähnlichen Ergebnissen wie bei Perspective API rechnen, das in deutschen Inhalten bekanntlich uneinheitlich performt.

Alternativen im Vergleich

Wenn du…	…nimm stattdessen
Auf bestehender ChatGPT/OpenAI-Stack aufbaust	ChatGPT (mit Moderation-Endpoint)
Eine breite KI-Plattform mit Moderation als Modul brauchst	Claude oder OpenAI APIs
Ein deutsches Foundation-Modell für sensible Inhalte willst	Aleph Alpha

Erwähnenswert ohne eigene Tool-Seite: Googles Perspective API ist der Klassiker, wird aber Ende 2026 abgekündigt — bestehende Nutzer müssen ohnehin migrieren. OpenAI Moderation Endpoint ist kostenlos und in jeden OpenAI-API-Account integriert, beschränkt sich aber auf Text und liefert weniger Detektor-Vielfalt. AWS Comprehend und Google Cloud Natural Language decken Toxizitäts-Klassifikation ab, sind aber Multi-Modal nur durch Kombination mit Rekognition/Vision möglich. Hive Moderation ist der etablierte US-Wettbewerber mit starkem Multi-Modal-Fokus, aber ohne EU-Anbieter-Vorteil. Microsoft Content Safety (Teil von Azure AI) bietet seit 2024 eine vergleichbare API und EU-Hosting über Azure-Regionen — für Unternehmen, die ohnehin auf Microsoft-Stack laufen, oft die pragmatischere Wahl. Moderation API hat im europäischen Markt einen klaren USP: dänischer Anbieter, DSA-Fokus, Multi-Modal in einer API. Wer EU-Hosting als harte Anforderung hat, sollte hier oder bei Azure Content Safety landen.

So steigst du ein

Schritt 1: Use Case definieren und Testdaten vorbereiten. Bevor du den Free-Tier anzapfst, sammle 50–100 echte Beispielnachrichten aus deinem System — Kommentare, die ihr aktuell schwer einordnen könnt, Spam-Verdachtsfälle, mehrsprachige Inhalte. Damit testest du gezielt, ob die vorgefertigten Detektoren liefern, was du brauchst. Pauschale „Toxicity”-Scores sagen wenig — sieh dir die Verteilung deiner eigenen Inhalte an.

Schritt 2: Free-Tier mit echtem Sample messen. Registriere dich auf moderationapi.com, melde dich am Dashboard an und schicke deine Testdaten durch. Prüfe die Klassifikationen manuell: Wo gibt es False Positives (harmlose Kommentare werden geblockt), wo False Negatives (Probleme werden übersehen)? 100 Nachrichten reichen für eine erste Tendenz, aber nicht für saubere Precision/Recall-Statistik — plane gegebenenfalls einen Tag Basic-Plan ein.

Schritt 3: Datenschutz-Pfad klären — direkt mit Sales. Wenn ihr in der EU operiert und personenbezogene Daten verarbeitet (Username, Profilbilder, IP-Adressen in Logs), kontaktiere Sales direkt, um AVV-Verfügbarkeit und Custom-Server-Regionen zu klären. Diese Optionen sind nur im Enterprise-Plan dokumentiert — manchmal lässt sich aber bei größerem Volumen ein Custom-Tarif aushandeln. Plant auch eine Datenschutz-Folgenabschätzung ein, bevor ihr produktiv geht.

Schritt 4: Integration sauber abstrahieren. Egal ob ihr von Perspective API migriert oder neu integriert: kapselt den API-Aufruf in einem eigenen Service, der die Klassifikations-Scores auf eure interne Moderations-Logik mappt. So bleibt der Anbieterwechsel später eine überschaubare Refactoring-Aufgabe — wichtig, falls ein Konkurrent (oder die nächste OpenAI-Generation) plötzlich bessere Ergebnisse für eure Sprachen liefert.

Ein konkretes Beispiel

Ein regionaler Verlag aus Stuttgart betreibt ein Lokalnachrichten-Portal mit etwa 15.000 Kommentaren pro Monat unter den Artikeln. Die Redaktion moderiert bisher manuell mit zwei Teilzeitkräften — das funktioniert grundsätzlich, aber an Sonntagen und nachts stehen problematische Kommentare oft stundenlang sichtbar. Nach Ankündigung der Perspective-API-Abkündigung evaluiert das Tech-Team Moderation API als Backend-Pre-Filter: Jeder neue Kommentar wird automatisch durch Toxicity-, Hate-Speech- und Spam-Detektoren geschickt. Kommentare mit Score über 0,85 werden direkt auf „Pending Review” gesetzt, Score über 0,95 automatisch versteckt — die Redaktion sieht morgens nur die wenigen Grenzfälle. Ergebnis nach drei Monaten: problematische Kommentare verschwinden im Schnitt nach 8 Minuten statt 6 Stunden, die Moderationszeit der Redaktion sinkt um ~60 %. Der Verlag wählt den Growth-Plan (249 USD/Monat, 100K Nachrichten reichen mit Puffer) und stellt aus DSGVO-Gründen direkt eine AVV-Anfrage — die Bestätigung erfolgt im Rahmen einer Sondervereinbarung, da Enterprise vom Volumen her nicht gerechtfertigt wäre. Pilot-Aufwand: ein Sprint für die API-Integration, eine Woche Tuning der Score-Grenzen, danach läuft das System unauffällig im Hintergrund.

DSGVO & Datenschutz

• Datenhosting: Standardmäßig über 10 globale Regionen verteilt; Custom-Server-Regionen (z. B. exklusiv EU) erst ab Enterprise-Plan wählbar. Anbieter ist Moderation API ApS mit Sitz in Kopenhagen, Dänemark — also EU-Wirtschaftsraum.
• Datennutzung: Eingaben werden zur Klassifikation verarbeitet. Adaptive Learning aus menschlichen Reviews ist konfigurierbar — wer kein Modell-Tuning auf eigenen Daten will, sollte das im Dashboard deaktivieren oder vertraglich ausschließen lassen.
• Auftragsverarbeitung (AVV/DPA): Nur im Enterprise-Plan standardmäßig verfügbar. Für Basic und Growth muss ein AVV individuell verhandelt werden — falls überhaupt zugänglich. Das ist die größte Einschränkung für DSGVO-Use-Cases.
• Compliance-Frameworks: Der Anbieter wirbt mit GDPR-, DSA- und CCPA-Konformität. Konkrete Zertifizierungen (ISO 27001, SOC 2) sind nicht prominent ausgewiesen — bei Enterprise-Verhandlungen explizit erfragen.
• Aufbewahrung: Standardretention nicht öffentlich dokumentiert. Bei Enterprise lassen sich Retention-Policies vertraglich vereinbaren.
• Empfehlung für Unternehmen: Für DSGVO-strikte Branchen (Recht, Gesundheit, Finanzen) ist Moderation API nur über den Enterprise-Plan mit AVV und Custom-EU-Region eine saubere Lösung. Für weniger sensible Use-Cases (öffentliche Kommentarbereiche, Marktplätze ohne PII-Verarbeitung) ist Basic/Growth pragmatisch, sollte aber durch eine Datenschutz-Folgenabschätzung abgesichert werden. Der dänische Firmensitz ist ein Vorteil gegenüber US-Anbietern, ersetzt aber keinen AVV.

Gut kombiniert mit

• ChatGPT — für komplexere Edge-Case-Klassifikationen, die die vorgefertigten Detektoren nicht abdecken. Moderation API liefert die First-Line-Pre-Filterung, ein LLM-Aufruf an ChatGPT übernimmt nur die Grenzfälle mit individueller Begründung. Spart Kosten und schafft auditierbare Entscheidungen.
• Claude — wenn die Moderationsentscheidung mit natürlichsprachlicher Begründung dokumentiert werden soll, eignet sich Claude für die nachgelagerte Erklärungs-Generierung. Beispiel: Moderation API erkennt Toxicity, Claude formuliert die Begründung für den Nutzer („Dein Kommentar enthält Beleidigungen gegen Person XY — bitte umformulieren”).
• Eigenes Audit-Logging — jede Klassifikations-Entscheidung sollte intern protokolliert werden, mit Score, Modell-Version und Reviewer-Action. DSA-pflichtige Plattformen brauchen das für regulatorische Reports, und es schafft die Datengrundlage, um Detektoren später gezielt nachzutrainieren oder Anbieter zu wechseln.

Unser Testurteil

Moderation API verdient 4 von 5 Sternen. Die Plattform ist eine der wenigen ernsthaften europäischen Alternativen im Content-Moderation-Markt — multi-modal, breite Detektoren-Palette, dänischer Sitz, klarer DSA-Fokus. Für Medienhäuser, Marktplätze und Communities mit Entwicklerteam und Compliance-Anforderungen ist das eine sehr gute Wahl. Den fünften Stern verliert die Plattform durch die strukturelle DSGVO-Schwäche im günstigeren Segment (AVV nur in Enterprise), den harten Preissprung zwischen Basic und Growth, fehlende deutsche Dokumentation und kaum öffentliche Benchmarks für deutschsprachige Inhalte. Wer die budget-bedingten Einschränkungen akzeptieren kann, bekommt aktuell eine der wenigen DSGVO-tauglichen Optionen am Markt — und einen plausiblen Migrationspfad weg von Perspective API.

Was wir bemerkt haben

• Mai 2026 — Bei genauerem Hinsehen liegen die tatsächlichen Einstiegspreise deutlich höher als ursprünglich notiert. Der Basic-Plan kostet 79 USD/Monat (nicht 29 USD), Growth 249 USD und Enterprise 799 USD. Die Preisstruktur hat sich offenbar in den letzten Iterationen verschoben oder wurde initial nicht korrekt erfasst — Pilotbudgets entsprechend planen.
• 2026 — Der EU Digital Services Act (DSA) ist seit Februar 2024 für VLOPs/VLOSEs in Kraft, seit 2025 in voller Breite. Moderation API positioniert sich aggressiv als DSA-konformer Anbieter — das ist ein klarer Marketing-Hebel gegenüber US-Konkurrenten, die DSA-Anforderungen oft nur indirekt erfüllen.
• Ende 2026 — Google kündigt die Perspective API endgültig ab. Damit entsteht ein konkreter Migrationsdruck für Medienhäuser und Communities, die Perspective bisher kostenlos genutzt haben. Moderation API positioniert sich explizit als Drop-in-Nachfolger — die Migration bleibt aber kostenpflichtig, was den Markt für bezahlte Moderations-APIs spürbar belebt.
• 2025/26 — Der Trend zu multi-modaler Moderation aus einer Hand hat sich verschärft. Auch Microsoft (Azure Content Safety) und OpenAI haben ihre Angebote ausgebaut — Moderation API muss seine USPs (dänischer Sitz, breiteres Detektoren-Portfolio, Custom Models) klar herausarbeiten, um nicht zwischen den Hyperscaler-Angeboten zerrieben zu werden.