KI-Inhaltsmoderation für Medien: der Leitfaden 2026

Kurz gesagt: Mit KI-Inhaltsmoderation sorgen Medien, Redaktionen und Marken dafür, dass offene Diskussionen auch bei großen Mengen sicher und rechtskonform bleiben: Machine-Learning-Klassifikatoren bewerten jeden Beitrag auf Toxizität, Hassrede, Spam und illegale Inhalte und geben ihn dann frei, entfernen ihn oder leiten ihn an einen Menschen weiter. Kein seriöses Medium moderiert vollständig von Hand (bei großen Mengen nicht zu schaffen) oder vollständig automatisch (bei mehrdeutigen Inhalten zu fehleranfällig). Das Modell, das 2026 funktioniert, ist hybrid: Die KI entscheidet rund 95 Prozent der Inhalte auf der Website und in den sozialen Netzwerken automatisch und leitet die unklaren 5 Prozent an Ihr Moderationsteam weiter. Gut umgesetzt, schützt die Moderation Ihre Marke, erfüllt DSA und DSGVO und sorgt dafür, dass sich das Mitdiskutieren lohnt. Dieser Leitfaden erklärt, was Moderation ist, vergleicht die Ansätze, zeigt, wie KI-Moderation technisch funktioniert und wie das Hybridmodell in der Praxis aussieht, behandelt die Moderation in sozialen Netzwerken und die Vorgaben des EU-Rechts und hilft bei Auswahl und Einführung einer Lösung.

Was Inhaltsmoderation ist und warum sie entscheidend ist

Inhaltsmoderation ist der Prozess, nutzergenerierte Inhalte zu prüfen und zu entscheiden, ob sie veröffentlicht werden dürfen, entfernt werden müssen oder eine menschliche Entscheidung benötigen. Für ein Medium umfasst das Artikelkommentare, Antworten, Beiträge zu strukturierten Debatten, Forenposts und die Kommentare auf Ihren Social-Media-Kanälen. Die Aufgabe besteht darin, echte, wertvolle Diskussion durchzulassen und zugleich Spam, Belästigung, Hassrede und illegales Material draußen zu halten.

Moderation ist kein nettes Extra, sondern aus vier konkreten Gründen entscheidend:

• Markensicherheit. Ihr Kommentarbereich erscheint unter Ihrem Titel. Beleidigende, hasserfüllte oder betrügerische Inhalte neben Ihren Artikeln färben auf Ihre Marke ab. Siehe Markensicherheit.
• Rechtskonformität. In der EU verpflichtet der Digital Services Act jeden, der Inhalte von Nutzern speichert und veröffentlicht, unter anderem zu begründeten Löschungen und zu Transparenzberichten. Unmoderierte Inhalte sind ein rechtliches Risiko, nicht nur eines für den Ruf.
• Publikumsbindung. Ein toxischer Kommentarbereich vertreibt genau die Leserinnen und Leser, die Sie am dringendsten brauchen: nachdenkliche Kommentatoren, die zu treuen, registrierten und zahlenden Lesern werden. Ein höflicher Umgangston bindet.
• Qualität der Debatte. Moderation entscheidet, ob ein Kommentarbereich lesenswert ist oder verkommt. Ziel ist keine Zensur, sondern ein Umfeld, in dem sich ehrliche Beiträge gegen die lautesten Stimmen durchsetzen.

Die Herausforderung ist die Menge. Eine einzige Regionalzeitung kommt schnell auf weit über hunderttausend Kommentare im Jahr – weit mehr, als ein Team in Echtzeit lesen kann. Genau dieses Problem löst KI-Moderation.

Die Ansätze: wann und durch wen

Bei jeder Moderation stellen sich zwei voneinander unabhängige Fragen. Erstens: Wann werden Inhalte geprüft? Zweitens: Wer oder was prüft sie?

Wann: Vorab-, Nach- oder Echtzeitmoderation

• Vorabmoderation hält jeden Beitrag in einer Warteschlange zurück, bis er freigegeben ist. Nie erscheint etwas Ungeprüftes – das ist die sicherste Variante. Doch die Diskussion läuft dann nur so schnell wie Ihre Prüfer, und das Live-Gefühl geht verloren.
• Nachmoderation veröffentlicht Inhalte sofort und prüft sie im Nachhinein. Die Diskussion bleibt lebendig und schnell, aber problematische Inhalte sind eine Zeit lang sichtbar, bis jemand sie bemerkt.
• Echtzeitmoderation bewertet jeden Beitrag in dem Moment, in dem er abgeschickt wird. Eindeutig unbedenkliche Inhalte erscheinen sofort, eindeutig missbräuchliche werden sofort blockiert, und nur wirklich unklare Inhalte werden zurückgehalten. Dieses Modell wollen die meisten Medien: Es verbindet die Sicherheit der Vorabmoderation für die riskante Minderheit mit dem Tempo der Nachmoderation für alles andere.

Wer: Mensch, KI oder beide

• Vollständig manuell. Menschen lesen alles. Das ermöglicht feine Abwägungen, stößt bei großen Mengen aber an Grenzen: Die Kosten steigen mit jedem Beitrag, Nacht- und Wochenendzeiten bleiben unbesetzt, und Moderatoren brennen aus, weil sie ständig Beleidigungen lesen.
• Vollständig KI. Maschinen entscheiden alles, ohne dass ein Mensch beteiligt ist. Das bewältigt beliebige Mengen, führt aber bei mehrdeutigen Fällen (Ironie, Kontext, grenzwertige politische Äußerungen) zu Fehlurteilen – genau dort, wo Fehler am meisten schaden.
• Hybrid (KI plus Human-in-the-Loop). Die KI entscheidet die eindeutigen Fälle in Sekundenbruchteilen und leitet die unklare Minderheit an menschliche Moderatoren weiter. So verbindet sich die Leistungsfähigkeit der Automatisierung mit menschlichem Urteilsvermögen – und genau darauf setzen immer mehr seriöse Medien.

Die Ansätze im Vergleich

Ansatz	Tempo	Auch bei großen Mengen	Genauigkeit bei mehrdeutigen Inhalten	Hauptkosten	Am besten für
Vorabmoderation, manuell	Am langsamsten	Nein	Hoch	Personal	Sehr kleine, besonders heikle Bereiche
Nachmoderation, manuell	Schnell veröffentlicht	Nein	Hoch	Personal	Kleine Communities
Vollständig KI, Echtzeit	Am schnellsten	Ja	Am schwächsten	Software	Große Mengen mit geringem Risiko
Hybrid, Echtzeit	Schnell	Ja	Hoch	Software-Pauschale + kleines Team	Die meisten Medien und Redaktionen

Im Folgenden geht es vor allem um das hybride Echtzeitmodell: Für jedes Medium, das unter EU-Recht große Mengen an Beiträgen bewältigen muss, ist es der einzige Ansatz, der zugleich schnell, genau und bezahlbar ist.

Wie KI-Moderation technisch funktioniert

KI-Moderation ist keine Blackbox, die einfach Ja oder Nein sagt. Sie arbeitet in mehreren Stufen – und wer diese Stufen versteht, kann sie gezielt einstellen.

1. Klassifikation. Jeder Beitrag durchläuft Machine-Learning-Klassifikatoren, die bestimmte Arten schädlicher Inhalte erkennen. Die Kernkategorien sind Toxizitätserkennung, Hassrede-Erkennung, Spam-Erkennung und illegale Inhalte. Jeder Klassifikator liefert einen Wert, der angibt, wie sicher sich das Modell ist, dass der Inhalt in diese Kategorie gehört.

2. Schwellenwerte. Diese Werte werden mit einstellbaren Schwellenwerten verglichen. Inhalte deutlich unter dem Toxizitäts-Schwellenwert werden automatisch freigegeben, Inhalte deutlich darüber automatisch abgelehnt. Inhalte nahe am Schwellenwert, bei denen das Modell unsicher ist, gehen an einen Menschen. Wer einen Schwellenwert verschiebt, tauscht Fehlalarme gegen übersehene Verstöße oder umgekehrt – das ist die zentrale Stellschraube jeder Moderation.

3. Fehlalarme und übersehene Verstöße. Ein Fehlalarm (falsch positiv) ist ein unbedenklicher Beitrag, der fälschlich entfernt wird. Das frustriert gute Kommentatoren, und bei einer Entfernung haben sie Anspruch auf eine Begründung. Ein übersehener Verstoß (falsch negativ) ist ein schädlicher Beitrag, der fälschlich veröffentlicht wird – ein Risiko für Marke und Rechtskonformität. Kein Klassifikator vermeidet beides vollständig. Deshalb gehen die unklaren Fälle an Menschen, statt die Maschine zu einer Entscheidung zu zwingen.

4. Listen. Zusätzlich zum statistischen Klassifikator gibt es Listen mit festen Regeln, die das Medium selbst pflegt. Eine Sperrliste enthält Begriffe, bei denen ein Beitrag automatisch abgelehnt wird – mit einem standardisierten Grund. Eine Liste verdächtiger Wörter enthält Begriffe, deren Bedeutung vom Zusammenhang abhängt (zum Beispiel Opfer); solche Beiträge gehen an Ihr Moderationsteam, statt direkt abgelehnt zu werden. Mit diesen Listen legen Sie für jeden Titel eigene Regeln fest, die das allgemeine Modell nicht kennen kann.

Der Klassifikator von Logora wurde mit rund 45.000 annotierten Beispielen aus echten Kommentarbereichen von Medien trainiert, und die Plattform hat seit 2019 mehr als 50 Millionen Beiträge verarbeitet. Diese Datenbasis sorgt dafür, dass das Modell weiß, wie Leser von Nachrichtenseiten tatsächlich schreiben. Die Moderation läuft über OpenModeration; alle Daten bleiben dabei in der EU.

Das Hybridmodell in der Praxis

So sieht das Hybridmodell im Alltag auf der Website eines Mediums aus.

Jeder Beitrag durchläuft drei nachvollziehbare Stufen: erstens die Sperrliste und die Liste verdächtiger Wörter, die das Medium festlegt; zweitens den KI-Klassifikator, der unbedenkliche Fälle automatisch freigibt und eindeutige Verstöße automatisch ablehnt; drittens die Moderationswarteschlange für alles Unklare.

Ist alles gut eingestellt, entscheidet die KI rund 95 Prozent der eingehenden Beiträge auf Ihrer Website automatisch. Die übrigen 5 Prozent landen in der Warteschlange für Ihr Team – jeweils mit Toxizitätswert, Begründung des Modells, Artikelkontext und Historie der Nutzerin oder des Nutzers. So hat der Moderator alles, was er braucht, um in Sekunden statt Minuten zu entscheiden. Mit Tastaturkürzeln (freigeben, überspringen, mit Grund ablehnen) und Mehrfachauswahl arbeitet er viele Beiträge schnell ab, und Entscheidungen werden gespeichert: Wer einen Beitrag erneut öffnet, sieht die vorherige Bewertung.

Lehnt ein Moderator (oder die KI) einen Beitrag ab, wird ein Grund aus einer kleinen, festen Liste gewählt. Logora verwendet sechs DSA-konforme Ablehnungsgründe: Unhöflichkeit, unangemessene Sprache, persönlicher Angriff oder Hass, Unverständlichkeit, themenfremd oder Werbung sowie Wiederholung. Ein fester Katalog von Gründen ist keine Bürokratie: Erst er macht jede Entscheidung überprüfbar und liefert die Grundlage für die weiter unten beschriebenen DSA-Begründungen und Transparenzberichte. Jeder abgelehnte Beitrag bleibt für seinen Autor samt Grund sichtbar – das ist fair und zugleich eine rechtliche Anforderung. Wiederholungstäter können für einen Tag, eine Woche, einen Monat oder dauerhaft gesperrt werden; der Grund steht dann in ihrem Profil. Das ist transparenter als heimliches Shadow Banning.

Die Warteschlange kann Ihr eigenes Redaktionsteam bearbeiten, oder Sie überlassen das den Moderatoren des Anbieters, die sie mehrmals täglich prüfen, abgestimmt auf Ihren Traffic. In beiden Fällen legt Ihr Team die Regeln und Ablehnungsgründe fest.

Moderation in Ihren Social-Media-Kanälen

Dieselbe KI, die Ihre Website moderiert, kann auch die Kommentare in Ihren Social-Media-Kanälen moderieren: Instagram, YouTube und Facebook. Dort ist das Ziel ein anderes: Es geht vor allem darum, sehr große Mengen an illegalen Inhalten, Betrug und unsinnigem Spam herauszufiltern, nicht um redaktionelle Ansprüche an den Umgangston. Auch hier lassen sich mit OpenModeration rund 95 Prozent automatisch entscheiden. Jeder freigegebene oder abgelehnte Beitrag bleibt in Ihrem Admin-Bereich sichtbar, und Sie können jede Entscheidung korrigieren.

Für Medien mit großer Reichweite in sozialen Netzwerken ist das wichtig: Die Kommentare unter Ihren Instagram- und YouTube-Beiträgen fallen genauso auf Ihre Marke zurück wie die Kommentare auf Ihrer Website. Mehr dazu unter Social-Media-Moderation; spezialisierte Tools vergleichen Sie unter Alternativen zu Bodyguard und Alternativen zu Checkstep.

Konformität: DSA, DSGVO und EU-Hosting

Die meisten Ihrer regulatorischen Pflichten betreffen die Moderation, denn hier werden Nutzerinhalte entfernt oder eingeschränkt. Behandeln Sie Konformität als Kernanforderung, nicht als Zusatz.

DSA. Der Digital Services Act legt konkrete Pflichten für jeden fest, der Inhalte von Nutzern speichert und veröffentlicht:

• Artikel 17 (Begründung): Wenn Sie einen Beitrag entfernen oder einschränken, müssen Sie der betroffenen Person einen klaren, konkreten Grund nennen. Ihr System sollte diese Begründung bei jeder Entscheidung automatisch erzeugen – egal ob die KI oder ein Mensch entschieden hat. Siehe Begründung.
• Artikel 24 (Transparenzberichte): Sie müssen regelmäßig Transparenzberichte über Ihre Moderation veröffentlichen. Ihr System sollte sie als exportierbare Berichte erstellen.

Der feste Katalog von Ablehnungsgründen macht beides möglich: Weil jede Entscheidung einen der sechs standardisierten Gründe trägt, entstehen Begründungen und Transparenzberichte nebenbei aus der normalen Moderation statt als zusätzliche Handarbeit. Alle Pflichten im Überblick finden Sie in der DSA-Konformitätsübersicht.

DSGVO. Moderation verarbeitet personenbezogene Daten (die Inhalte, die Menschen schreiben, und oft ihre Identität). Sie sind der Verantwortliche; Ihr Moderationsanbieter sollte Ihr Auftragsverarbeiter nach DSGVO Artikel 28 sein, geregelt durch einen unterzeichneten Auftragsverarbeitungsvertrag. Prüfen Sie genau, womit der Anbieter sein Geld verdient: Werbefinanzierte Modelle, die Leserdaten zu Geld machen, passen schlecht dazu.

EU-Hosting. Wo die Moderationsdaten physisch gespeichert sind, entscheidet über Ihr Risiko bei der Datenübermittlung. Eine in den USA gehostete Moderation kann für EU-Medien ein Übermittlungsrisiko im Sinne von Schrems II bedeuten; mit Hosting in der EU entfällt es. Logora hostet in der EU bei OVH in Frankreich, ohne Datenübermittlung in die USA, moderiert mit OpenModeration und ist Ihr Auftragsverarbeiter nach Artikel 28 – ohne Werbung und ohne Weiterverkauf von Leserdaten. Mehr dazu auf der Lösungsseite zur Konformität.

Wie Sie eine KI-Moderationslösung auswählen

Prüfen Sie diese Kriterien, ungefähr in der Reihenfolge ihrer Bedeutung:

1. Von Grund auf hybrid. Verbindet das Tool einen KI-Klassifikator mit einer echten Warteschlange für Ihr Team samt Tastaturkürzeln – oder setzt es nur auf KI (zu viele Fehlurteile) oder nur auf Handarbeit (bei großen Mengen nicht zu schaffen)? Ein echter Human-in-the-Loop-Ablauf ist die Mindestanforderung.
2. DSA-Konformität. Begründungen bei jeder Entfernung, ein fester Katalog von Gründen und exportierbare Transparenzberichte. Fehlt das, kaufen Sie ein Tool, mit dem Sie den DSA nicht erfüllen.
3. DSGVO und EU-Hosting. Auftragsverarbeitung nach Artikel 28, Hosting in der EU (damit entfällt das Schrems-II-Risiko) und kein Weiterverkauf von Leserdaten.
4. Mehrsprachigkeit. Moderation direkt in den Sprachen, in denen Ihr Publikum schreibt – kein Modell, das vor allem für Englisch gebaut ist und in anderen Sprachen schwächelt.
5. Einstellbarkeit. Anpassbare Schwellenwerte, Sperrliste und Liste verdächtiger Wörter, Regeln für jeden Titel und die Möglichkeit, Entscheidungen des Modells jederzeit zu korrigieren.
6. Transparenz gegenüber Nutzern. Abgelehnte Beiträge bleiben für ihren Autor samt Grund sichtbar, statt stillschweigend zu verschwinden oder per Shadow Banning versteckt zu werden.
7. Organisation. Können Sie die Warteschlange selbst bearbeiten, sie abgeben oder beides kombinieren?

Diese Fehler sollten Sie vermeiden:

• Zu glauben, vollständige Automatisierung reiche aus. Für redaktionelle Inhalte reicht sie nicht. Gerade bei den mehrdeutigen Fällen richten automatische Fehlurteile den größten Schaden an.
• Den DSA zu ignorieren, bis eine Prüfung ansteht. Begründungen und Transparenzberichte in ein Tool nachzurüsten, das nicht dafür gebaut ist, ist mühsam. Verlangen Sie sie von Anfang an.
• Für ein mehrsprachiges Publikum ein Tool zu wählen, das vor allem Englisch kann. In schlecht unterstützten Sprachen bricht die Qualität der Moderation ein – und genau dort rutschen die schlimmsten Inhalte durch.
• US-Hosting zu akzeptieren, ohne das Übermittlungsrisiko zu prüfen. Das kann unbemerkt zu einem DSGVO-Verstoß führen.

Sie wissen nicht genau, wo Ihr Kommentarbereich heute steht? Der kostenlose Kommentar-Check zeigt, wie Ihre Moderation und Ihr Engagement heute abschneiden. Einen Vergleich der Moderations- und Engagement-Tools nach Anbietern und Kategorien finden Sie in der Übersicht der Alternativen; wie Kommentare, Moderation und Login zusammenspielen, erklärt der vollständige Leitfaden zu Kommentarsystemen.

Moderation einrichten und einführen

Sobald Sie sich für einen Ansatz entschieden haben, folgt die Einführung einer klaren Reihenfolge. Legen Sie zuerst Ihre Richtlinie und Ihren festen Katalog von Ablehnungsgründen fest, denn alles Weitere (die Kategorien der KI, die Begründungen, die Transparenzberichte) baut darauf auf. Entscheiden Sie dann zwischen Vorab-, Nach- und Echtzeitprüfung, mit Echtzeit als Standard. Aktivieren Sie den KI-Klassifikator und stellen Sie die Schwellenwerte zunächst vorsichtig ein, sodass er die eindeutigen Fälle automatisch entscheidet und den Rest weiterleitet – Ziel sind rund 95 Prozent automatische Entscheidungen auf Ihrer Website. Legen Sie Ihre Sperrliste und Ihre Liste verdächtiger Wörter an, um eigene Regeln für jeden Titel festzulegen. Richten Sie die Warteschlange für Ihr Team ein, mit Wert, Begründung, Kontext und Nutzerhistorie zu jedem Beitrag sowie Tastaturkürzeln und Mehrfachauswahl. Richten Sie die DSA-Protokollierung so ein, dass jede Entscheidung eine Begründung erzeugt und in die Transparenzberichte einfließt. Starten Sie dann mit einem Teil der Inhalte, beobachten Sie Fehlalarme und übersehene Verstöße und justieren Sie nach.

Technisch fügt sich die Moderation in Ihre bestehenden Kommentare ein: dasselbe Login, dieselben Daten, dieselbe KI-Moderation. Sie kaufen kein separates Moderationsprodukt, das nachträglich an ein separates Kommentarprodukt angebaut wird – Moderation und Diskussion laufen über dasselbe System.

Die Kurzfassung

KI-Inhaltsmoderation für Medien ist ein mehrstufiges System, das offene Diskussionen auch bei großen Mengen sicher, höflich und rechtskonform hält. Rein manuelle Moderation ist bei großen Mengen nicht zu schaffen, rein automatische macht zu viele Fehlurteile. Deshalb funktioniert das hybride Modell: Die KI entscheidet rund 95 Prozent der Inhalte auf der Website und in den sozialen Netzwerken automatisch und leitet die unklaren 5 Prozent an menschliche Moderatoren weiter. Technisch bewerten Klassifikatoren die Inhalte auf Toxizität, Hassrede, Spam und illegales Material, Schwellenwerte entscheiden über Freigabe, Ablehnung oder Weiterleitung, und selbst gepflegte Listen bilden Ihre eigenen Regeln ab. Sorgen Sie für Konformität (DSA-Begründungen und Transparenzberichte, DSGVO Artikel 28, EU-Hosting) – dann haben Sie eine Moderation, die Ihre Marke schützt, die Aufsicht zufriedenstellt und dafür sorgt, dass sich das Mitdiskutieren lohnt.

Nächste Schritte: Prüfen Sie Ihren Stand mit dem Kommentar-Check, sehen Sie sich KI-Moderation und Social-Media-Moderation an und lesen Sie mehr zu Konformität und DSA.

Häufig gestellte Fragen

Was ist KI-Inhaltsmoderation? KI-Inhaltsmoderation ist der Einsatz von Machine-Learning-Klassifikatoren, um nutzergenerierte Inhalte (Kommentare, Antworten, Debattenbeiträge, Social-Media-Nachrichten) automatisch zu prüfen: Darf ein Beitrag erscheinen, muss er entfernt werden, oder sollte ein Mensch ihn ansehen? Die KI bewertet Inhalte auf Toxizität, Hassrede, Spam und illegales Material und entscheidet dann anhand von Schwellenwerten, ob sie freigibt, ablehnt oder an einen Menschen weiterleitet. In der Praxis erzielt ein Hybridmodell aus KI und menschlichen Moderatoren die besten Ergebnisse – besser als jede der beiden Seiten allein.

Lässt sich Inhaltsmoderation vollständig automatisieren? Nicht verantwortungsvoll, zumindest nicht auf redaktionellen Seiten. Die KI meistert die eindeutigen Fälle hervorragend, aber ein nennenswerter Teil der Inhalte ist wirklich mehrdeutig: Ironie, Wörter, deren Sinn vom Kontext abhängt, grenzwertige politische Äußerungen und koordinierte Angriffe. Praxistauglich ist das hybride Modell: Die KI entscheidet rund 95 Prozent der Inhalte auf der Website und in den sozialen Netzwerken automatisch und leitet die unklaren 5 Prozent an Ihr Moderationsteam weiter.

Was ist der Unterschied zwischen Vorabmoderation, Nachmoderation und Echtzeitmoderation? Bei der Vorabmoderation wird jeder Beitrag zurückgehalten, bis er freigegeben ist: Nichts erscheint ungeprüft, aber die Diskussion wird langsamer. Bei der Nachmoderation wird sofort veröffentlicht und erst danach geprüft: Die Diskussion bleibt lebendig, problematische Inhalte sind aber kurzzeitig sichtbar. Echtzeit-Moderation mit KI verbindet das Beste aus beidem: Beiträge werden beim Absenden sofort bewertet, unbedenkliche sofort veröffentlicht, eindeutig missbräuchliche blockiert, und nur unklare Fälle werden für einen Menschen zurückgehalten.

Wie entscheidet KI-Moderation tatsächlich, was entfernt wird? Jeder Beitrag durchläuft Klassifikatoren, die für Kategorien wie Toxizität, Hassrede, Spam und illegale Inhalte jeweils einen Wert liefern. Diese Werte werden mit einstellbaren Schwellenwerten verglichen. Ist sich das Modell sicher, dass ein Beitrag unbedenklich ist, wird er automatisch freigegeben; eindeutige Verstöße werden automatisch abgelehnt und der Grund protokolliert; alles dazwischen geht an Ihr Moderationsteam. Listen, die das Medium selbst pflegt, ergänzen das um feste Regeln: Eine Sperrliste lehnt verbotene Begriffe automatisch ab, eine Liste verdächtiger Wörter leitet kontextabhängige Begriffe an einen Menschen weiter, statt sie direkt abzulehnen.

Ist KI-Inhaltsmoderation DSA-konform? Sie kann es sein – doch die Konformität hängt vom Anbieter und von den Abläufen ab, nicht von der KI allein. Nach dem Digital Services Act benötigt jede Entfernung eine Begründung (Artikel 17), und Plattformen müssen regelmäßige Transparenzberichte veröffentlichen (Artikel 24). Ein konformes System protokolliert für jede Entscheidung einen konkreten Ablehnungsgrund, teilt ihn der betroffenen Person samt Hinweis auf Rechtsbehelfe mit und exportiert Transparenzberichte. Logora bietet sechs standardisierte DSA-Ablehnungsgründe und protokolliert jede automatische und menschliche Entscheidung.

Funktioniert KI-Moderation auch in anderen Sprachen als Englisch? Sie sollte es – und für europäische Medien muss sie es. Viele Moderations-Tools sind vor allem auf Englisch ausgelegt und werden in anderen Sprachen deutlich schlechter. Ein medientaugliches System moderiert jede Sprache, in der Ihr Publikum schreibt, direkt in dieser Sprache. Logora moderiert direkt auf Französisch, Deutsch, Italienisch, Spanisch, Portugiesisch und Englisch.

Wo werden die Moderationsdaten gehostet, und warum ist das wichtig? Wo Moderationsdaten physisch gespeichert sind, entscheidet nach der DSGVO über Ihr Risiko bei der Datenübermittlung. Eine in den USA gehostete Moderation kann für EU-Medien ein Übermittlungsrisiko im Sinne von Schrems II bedeuten; mit Hosting in der EU entfällt es. Logora moderiert mit OpenModeration, hostet in der EU bei OVH in Frankreich und ist Ihr Auftragsverarbeiter nach Artikel 28 – ohne Werbung und ohne Weiterverkauf von Leserdaten.

Worin unterscheidet sich die Moderation von Kommentaren in sozialen Netzwerken und auf der eigenen Website? In sozialen Netzwerken (Instagram, YouTube, Facebook) geht es vor allem darum, große Mengen an illegalen Inhalten, Betrug und unsinnigem Spam herauszufiltern; rund 95 Prozent lassen sich automatisch entscheiden. Auf der eigenen Website gelten höhere redaktionelle Ansprüche, etwa an Höflichkeit und Themenbezug. Auch hier werden rund 95 Prozent automatisch entschieden, die übrigen 5 Prozent prüft ein Mensch. Dieselbe KI kann beides übernehmen, mit unterschiedlichen Schwellenwerten und Regeln.