KI-Inhaltsmoderation für Medien: der Leitfaden 2026

Kurz gesagt: KI-Inhaltsmoderation ist die Art, wie Medien, Redaktionen und Marken offene Konversation in großem Maßstab sicher und legal halten, indem sie Machine-Learning-Klassifikatoren einsetzen, um jeden Beitrag auf Toxizität, Hassrede, Spam und illegale Inhalte zu bewerten und ihn dann freizugeben, zu entfernen oder zu eskalieren. Kein ernsthaftes Medium betreibt dies vollständig manuell (das skaliert nicht) oder vollständig automatisiert (es macht zu viele Fehler bei mehrdeutigen Inhalten). Das Modell, das 2026 funktioniert, ist hybrid: Die KI bearbeitet rund 85 Prozent der On-Site-Inhalte automatisch und leitet die mehrdeutigen 15 Prozent an eine menschliche Warteschlange weiter, während Social-Media-Kanäle bis auf rund 95 Prozent automatisiert werden können. Richtig gemacht, schützt die Moderation Ihre Marke, erfüllt DSA und DSGVO und hält Ihren Kommentarraum so, dass die Beteiligung lohnt. Dieser Leitfaden behandelt, was Moderation ist, die Ansätze im Vergleich, wie KI-Moderation unter der Haube funktioniert, das Hybridmodell in der Praxis, die Social-Media-Moderation, EU-Konformität sowie die Auswahl und Einbindung einer Lösung.

Was ist Inhaltsmoderation, und warum sie entscheidend ist

Inhaltsmoderation ist der Prozess, nutzergenerierte Inhalte zu prüfen und zu entscheiden, ob sie veröffentlicht werden dürfen, entfernt werden müssen oder eine menschliche Entscheidung benötigen. Für ein Medium umfasst das Artikelkommentare, Antworten, Beiträge zu strukturierten Debatten, Forenposts und die Kommentare auf Ihren Social-Media-Kanälen. Die Aufgabe besteht darin, echte, wertvolle Diskussion durchzulassen und zugleich Spam, Belästigung, Hassrede und illegales Material draußen zu halten.

Es ist keine optionale Nettigkeit. Moderation ist aus vier konkreten Gründen entscheidend:

• Markensicherheit. Ihr Kommentarraum steht unter Ihrem Titel. Missbräuchliche, hasserfüllte oder betrügerische Inhalte neben Ihrem Journalismus schaden Ihrer Marke durch Assoziation. Siehe Markensicherheit.
• Rechtskonformität. In der EU erlegt der Digital Services Act jedem, der Nutzerinhalte hostet, echte Pflichten auf, darunter begründete Entfernungen und Transparenzberichterstattung. Unmoderierte Inhalte sind eine rechtliche Belastung, nicht nur eine für den Ruf.
• Publikumsbindung. Ein toxischer Kommentarbereich vertreibt genau die Leserinnen und Leser, die Sie am meisten wollen: die nachdenklichen Beitragenden, die zu treuem, registriertem, zahlendem Publikum werden. Höflichkeit ist ein Bindungshebel.
• Qualität der Debatte. Moderation macht den Unterschied zwischen einem lesenswerten Kommentar-Thread und einer Müllhalde. Das Ziel ist keine Zensur, sondern ein Raum, in dem sich Beteiligung in gutem Glauben gegen die lautesten Stimmen durchsetzt.

Die Herausforderung ist das Volumen. Eine einzelne Regionalzeitung kann weit über hunderttausend Kommentare im Jahr erzeugen, weit mehr, als jedes menschliche Team in Echtzeit lesen kann. Das ist das Problem, das KI-Moderation lösen soll.

Die Ansätze: wann und durch wen

In jedem Moderations-Setup stecken zwei unabhängige Fragen. Erstens: Wann werden Inhalte geprüft? Zweitens: Wer oder was prüft sie?

Wann: Vorabmoderation vs. Nachmoderation vs. Echtzeit

• Vorabmoderation hält jeden Beitrag in einer Warteschlange zurück, bis er freigegeben ist. Nichts Ungeprüftes erscheint je, was die sicherste Option ist, aber sie verlangsamt die Konversation auf das Tempo Ihrer Prüfer und nimmt einem Thread das Live-Gefühl.
• Nachmoderation veröffentlicht Inhalte sofort und prüft sie im Nachhinein. Die Konversation bleibt lebendig und schnell, aber schlechte Inhalte sind für ein Zeitfenster sichtbar, bevor sie jemand auffängt.
• Echtzeitmoderation bewertet jeden Beitrag in dem Moment, in dem er eingereicht wird. Klar unbedenkliche Inhalte werden sofort veröffentlicht, klar missbräuchliche Inhalte werden sofort blockiert, und nur wirklich mehrdeutige Inhalte werden zurückgehalten. Das ist das Modell, das die meisten Medien wollen, weil es die Sicherheit der Vorabmoderation für die riskante Minderheit und die Geschwindigkeit der Nachmoderation für alles andere bietet.

Wer: vollständig manuell vs. vollständig KI vs. hybrid

• Vollständig manuell. Menschen lesen alles. Das liefert Nuance, skaliert aber nicht: Die Kosten wachsen linear mit dem Volumen, Randzeiten bleiben unabgedeckt, und Moderatoren brennen aus, weil sie Missbrauch lesen.
• Vollständig KI. Maschinen entscheiden alles ohne Menschen im Prozess. Das skaliert unbegrenzt, macht aber selbstbewusste Fehler bei den mehrdeutigen Fällen (Ironie, Kontext, grenzwertige politische Äußerungen), genau dort, wo Fehler am schädlichsten sind.
• Hybrid (KI plus Human-in-the-Loop). Die KI bearbeitet die eindeutigen Fälle in Maschinengeschwindigkeit und leitet die mehrdeutige Minderheit an menschliche Moderatoren weiter. Das verbindet die Skalierbarkeit der Automatisierung mit dem Urteilsvermögen von Menschen, und es ist der Ansatz, auf den ernsthafte Medien konvergieren.

Die Ansätze im Vergleich

Ansatz	Geschwindigkeit	Skaliert mit Volumen	Genauigkeit bei mehrdeutigen Inhalten	Kostentreiber	Am besten für
Vorabmoderation, manuell	Am langsamsten	Nein	Hoch	Personal	Winzige, sehr risikoreiche Räume
Nachmoderation, manuell	Schnell veröffentlicht	Nein	Hoch	Personal	Kleine Communities
Vollständig KI, Echtzeit	Am schnellsten	Ja	Am schwächsten	Software	Filterung bei hohem Volumen, geringem Risiko
Hybrid, Echtzeit	Schnell	Ja	Hoch	Pauschale Software + kleines Team	Die meisten Medien und Redaktionen

Der Rest dieses Leitfadens konzentriert sich auf das hybride Echtzeitmodell, denn für jedes Medium, das unter EU-Recht in großem Maßstab arbeitet, ist es der einzige Ansatz, der zugleich schnell, genau und bezahlbar ist.

Wie KI-Moderation unter der Haube funktioniert

KI-Moderation ist keine Blackbox, die einfach Ja oder Nein sagt. Sie ist eine geschichtete Pipeline, und das Verständnis der Schichten ist das, was Ihnen erlaubt, sie abzustimmen.

1. Klassifikation. Jeder Beitrag durchläuft Machine-Learning-Klassifikatoren, die bestimmte Arten von Schaden erkennen. Die Kernkategorien sind Toxizitätserkennung, Hassrede-Erkennung, Spam-Erkennung und illegale Inhalte. Jeder Klassifikator gibt einen Score zurück, eine Zahl, die ausdrückt, wie sicher das Modell ist, dass der Inhalt in diese Kategorie gehört.

2. Schwellenwerte. Diese Scores werden mit konfigurierbaren Schwellenwerten verglichen. Inhalte deutlich unter dem Toxizitäts-Schwellenwert werden automatisch freigegeben. Inhalte deutlich darüber werden automatisch abgelehnt. Inhalte nahe dem Schwellenwert, wo das Modell unsicher ist, werden an einen Menschen eskaliert. Einen Schwellenwert zu verschieben, tauscht Falsch-Positive gegen Falsch-Negative, was die zentrale Abstimmungsentscheidung in jedem Moderations-Setup ist.

3. Falsch-Positive und Falsch-Negative. Ein Falsch-Positiv ist unbedenklicher Inhalt, der fälschlich entfernt wird; das frustriert gute Beitragende und schuldet ihnen, wenn es eine Entfernung ist, eine Begründung. Ein Falsch-Negativ ist schädlicher Inhalt, der fälschlich veröffentlicht wird; das ist das Markensicherheits- und Konformitätsrisiko. Kein Klassifikator beseitigt beides, weshalb das mehrdeutige Band genau an Menschen weitergeleitet wird, statt in ein automatisiertes Urteil gezwungen zu werden.

4. Listen. Über dem statistischen Klassifikator sitzt eine deterministische Ebene vom Medium bearbeitbarer Listen. Eine Sperrliste enthält Begriffe, die jeden Beitrag, der sie enthält, automatisch ablehnen, mit einem standardisierten Grund versehen. Eine Liste verdächtiger Wörter enthält kontextabhängige Begriffe, deren Bedeutung von der Verwendung abhängt (ein Wort wie Opfer zum Beispiel), und leitet den Beitrag an eine menschliche Warteschlange weiter, statt ihn direkt abzulehnen. Listen ermöglichen es Ihnen, titelspezifische Regeln zu kodieren, die das allgemeine Modell nicht kennen würde.

Der Klassifikator von Logora ist auf rund 45.000 annotierten Beispielen trainiert, die aus echten Kommentarströmen von Medien stammen, und die übergeordnete Plattform hat seit 2019 mehr als 50 Millionen Beiträge verarbeitet, was der Korpus ist, der das Modell daran verankert, wie echtes Redaktionspublikum tatsächlich schreibt. Die Moderation läuft auf europäischer KI, unter anderem Mistral, wobei die gesamte Pipeline innerhalb der EU gehalten wird.

Das Hybridmodell in der Praxis

So sieht das Hybridmodell operativ aus, auf der Website eines Mediums.

Jeder Beitrag durchläuft drei prüfbare Stufen. Erstens die vom Medium definierte Sperrliste und Liste verdächtiger Wörter. Zweitens den KI-Klassifikator, der unbedenkliche Fälle automatisch freigibt und klare Verstöße automatisch ablehnt. Drittens die menschliche Moderations-Warteschlange für alles Mehrdeutige.

In einem abgestimmten Einsatz bearbeitet die KI rund 85 Prozent der eingehenden On-Site-Inhalte automatisch. Die verbleibenden 15 Prozent landen in der menschlichen Warteschlange, wo jeder Beitrag mit seinem Toxizitäts-Score, der Begründung des Modells, dem Artikelkontext und der Historie der Nutzerin oder des Nutzers ankommt, sodass der Moderator alles Nötige hat, um in Sekunden statt Minuten zu entscheiden. Tastaturkürzel (annehmen, überspringen, mit Grund ablehnen) und Mehrfachauswahl lassen einen Moderator einen Stapel schnell abarbeiten, und Entscheidungen bleiben erhalten, sodass das erneute Öffnen eines Beitrags die vorherige Bewertung zeigt.

Wenn ein Moderator (oder die KI) Inhalte ablehnt, wählt er aus einem kleinen, festen Satz von Gründen. Logora verwendet sechs DSA-konforme Ablehnungsgründe: Unhöflichkeit, unangemessene Sprache, persönlicher Angriff oder Hass, Unverständlichkeit, themenfremd oder Werbung sowie Wiederholung. Ein fester Gründesatz ist keine Bürokratie; er ist das, was jede Entscheidung prüfbar macht und die unten beschriebenen DSA-Begründungen und Transparenzberichte speist. Jeder abgelehnte Beitrag bleibt für seinen Autor mit dem Grund sichtbar, was sowohl fair gegenüber der beitragenden Person als auch eine Konformitätsanforderung ist. Wiederholungstäter können für einen Tag, eine Woche, einen Monat oder dauerhaft gesperrt werden, wobei der Grund auf ihrem Profil ausgewiesen wird, was transparenter ist als stilles Shadow-Banning.

Sie können die menschliche Warteschlange mit Ihrem eigenen Redaktionsteam betreiben oder sie an die Moderatoren des Anbieters delegieren, die die Warteschlange mehrmals täglich in einem auf Ihren Traffic abgestimmten Rhythmus prüfen. So oder so besitzt Ihr Team die Regeln und die Ablehnungslabels.

Die Moderation Ihrer Social-Media-Kanäle

Dieselbe KI-Pipeline, die Ihre Website moderiert, kann die Kommentare auf Ihren Social-Media-Kanälen moderieren: Instagram, YouTube und Facebook. Das Ziel ist dort ein anderes. Bei der Social-Media-Moderation geht es vor allem darum, illegale Inhalte, Betrug und unleserlichen Spam bei sehr hohem Volumen zu filtern, statt einen redaktionellen Höflichkeitsmaßstab durchzusetzen. Weil der Maßstab enger und das Volumen höher ist, geht die Automatisierung weiter: Rund 95 Prozent der Social-Media-Moderation lassen sich automatisieren, unter Verwendung der Mistral-Moderationsdienste, wobei jeder angenommene oder abgelehnte Beitrag weiterhin in Ihrer Administration sichtbar und überstimmbar bleibt.

Für Medien mit großer markeneigener Social-Präsenz ist das wichtig: Die Kommentare unter Ihren Instagram- und YouTube-Beiträgen stehen genauso unter Ihrer Marke wie die Kommentare auf Ihrer Seite. Das vollständige Bild finden Sie unter Social-Media-Moderation, und vergleichen Sie die dedizierten Tools unter Alternativen zu Bodyguard und Alternativen zu Checkstep.

Konformität: DSA, DSGVO und EU-Hosting

In der Moderation steckt der Großteil Ihrer regulatorischen Pflichten, denn Moderation ist der Akt, Nutzerinhalte zu entfernen oder einzuschränken. Behandeln Sie Konformität als Kernanforderung, nicht als Zusatz.

DSA. Der Digital Services Act legt konkrete Pflichten für jeden fest, der Nutzerinhalte hostet:

• Artikel 17 (Begründung): Wenn Sie einen Beitrag entfernen oder einschränken, müssen Sie der betroffenen Person einen klaren, konkreten Grund nennen. Ihr System sollte diese für jede Entscheidung automatisch erzeugen, automatisiert oder menschlich. Siehe Begründung.
• Artikel 24 (Transparenzberichterstattung): Sie müssen regelmäßige Transparenzberichte über Ihre Moderationsaktivität veröffentlichen. Ihr System sollte diese als exportierbare Berichte erstellen.

Der feste Ablehnungsgründe-Satz ist das, was beides funktionieren lässt: Weil jede Entscheidung einen der sechs standardisierten Gründe trägt, sind die Begründungen und die Transparenzberichte ein Nebenprodukt der normalen Moderation statt eines separaten manuellen Aufwands. Die vollständige Pflichtenkarte finden Sie in der DSA-Konformitätsübersicht.

DSGVO. Eine Moderationspipeline verarbeitet personenbezogene Daten (die Inhalte, die Menschen schreiben, und oft ihre Identität). Sie sind der Verantwortliche; Ihr Moderationsanbieter sollte Ihr Auftragsverarbeiter gemäß DSGVO Artikel 28 sein, geregelt durch einen unterzeichneten Auftragsverarbeitungsvertrag. Prüfen Sie genau, wie der Anbieter Geld verdient: Werbefinanzierte Modelle, die Leserdaten monetarisieren, passen dazu schlecht.

EU-Hosting. Wo die Moderationsdaten physisch liegen, bestimmt Ihr Übermittlungsrisiko. Eine in den USA gehostete Pipeline kann für EU-Medien ein Schrems-II-Übermittlungsrisiko schaffen. Hosting in der EU beseitigt es. Logora hostet in der EU, auf OVH in Frankreich, ohne transatlantischen Datenfluss, betreibt die Moderation auf europäischer KI einschließlich Mistral und agiert als Ihr Auftragsverarbeiter gemäß Artikel 28, ohne Werbung und ohne Weiterverkauf von Leserdaten. Das vollständige Bild finden Sie auf der Konformitäts-Lösungsseite.

Wie Sie eine KI-Moderationslösung auswählen

Arbeiten Sie diese Kriterien etwa in dieser Gewichtungsreihenfolge ab:

1. Hybrid by Design. Kombiniert das Tool einen KI-Klassifikator mit einer echten menschlichen Warteschlange und Kurzbefehlen, oder ist es KI-only (zu viele selbstbewusste Fehler) oder manuell-only (skaliert nicht)? Ein echter Human-in-the-Loop-Workflow ist die Grundlinie.
2. DSA-Bereitschaft. Begründungen bei jeder Entfernung, ein fester Gründesatz und exportierbare Transparenzberichte. Ohne diese kaufen Sie ein Tool, das Sie nicht konform lässt.
3. DSGVO und EU-Hosting. Auftragsverarbeiter-Verhältnis gemäß Artikel 28, EU-Hosting zur Beseitigung des Schrems-II-Risikos und kein Weiterverkauf von Leserdaten.
4. Mehrsprachige Abdeckung. Native Moderation in den Sprachen, in denen Ihr Publikum schreibt, nicht ein englisch-zuerst-Modell, das anderswo nachlässt.
5. Abstimmbarkeit. Bearbeitbare Schwellenwerte, Sperrliste und Liste verdächtiger Wörter, Regeln pro Titel und die Fähigkeit, das Modell in Echtzeit zu überstimmen.
6. Transparenz gegenüber Nutzern. Abgelehnte Beiträge für ihren Autor mit dem Grund sichtbar, statt stiller Entfernung oder Shadow-Banning.
7. Betriebsmodell. Können Sie die Warteschlange intern betreiben, sie delegieren oder beides?

Häufige Fehler, die es zu vermeiden gilt:

• Glauben, vollständige Automatisierung reiche aus. Sie reicht für redaktionelle Inhalte nicht. Die mehrdeutigen Fälle sind genau dort, wo automatisierte Fehler am meisten schaden.
• Den DSA bis zu einem Audit ignorieren. Begründungen und Transparenzberichte einem Tool nachzurüsten, das nicht dafür gebaut wurde, ist schmerzhaft. Fordern Sie sie von Anfang an.
• Ein englisch-zuerst-Tool für ein mehrsprachiges Publikum wählen. Die Moderationsqualität bricht bei schlecht unterstützten Sprachen zusammen, und genau dort rutschen die schlimmsten Inhalte durch.
• US-Hosting ohne Prüfung des Übermittlungsrisikos akzeptieren. Es kann Sie still in einen DSGVO-Verstoß bringen.

Nicht sicher, wo Ihr Kommentarraum heute steht? Führen Sie den kostenlosen Kommentarbereich-Gesundheitscheck durch, um Ihr aktuelles Moderations- und Engagement-Setup zu vergleichen. Für einen namentlichen, Kategorie-für-Kategorie-Vergleich von Moderations- und Engagement-Tools siehe den Alternativen-Hub, und für das umfassendere Bild, wie Kommentare, Moderation und Identität zusammenpassen, lesen Sie den kompletten Leitfaden zu Kommentarsystemen.

Moderation aufbauen und einbinden

Sobald Sie einen Ansatz gewählt haben, folgt die Einbindung einer klaren Reihenfolge. Definieren Sie zuerst Ihre Richtlinie und Ihren festen Ablehnungsgründe-Satz, denn alles Nachgelagerte (die KI-Labels, die Begründungen, die Transparenzberichte) hängt davon ab. Entscheiden Sie dann zwischen Vorab-, Nach- und Echtzeitprüfung, mit Echtzeit als Standard. Aktivieren Sie den KI-Klassifikator und setzen Sie die Schwellenwerte konservativ, sodass er die eindeutigen Fälle automatisch bearbeitet und den Rest eskaliert, mit dem Ziel von rund 85 Prozent Automatisierung on-site. Konfigurieren Sie Ihre Sperrliste und Liste verdächtiger Wörter, um titelspezifische Regeln zu kodieren. Bauen Sie die menschliche Warteschlange mit angehängtem Score, Begründung, Kontext und Nutzerhistorie, plus Tastaturkürzeln und Mehrfachauswahl. Richten Sie die DSA-Protokollierung ein, sodass jede Entscheidung eine Begründung erzeugt und die Transparenzberichte speist. Starten Sie dann auf einer Teilmenge, beobachten Sie Ihre Falsch-Positive und Falsch-Negative und justieren Sie nach.

Die technische Integration sitzt neben Ihrem bestehenden Kommentar-Einsatz und teilt eine Identität, einen Datensatz und eine Moderations-Engine. Sie kaufen kein separates Moderationsprodukt, das auf ein separates Kommentarprodukt geschraubt ist; die Moderation ist dieselbe Pipeline, die die Konversation antreibt.

Die Kurzfassung

KI-Inhaltsmoderation für Medien ist das geschichtete System, das offene Konversation in großem Maßstab sicher, höflich und legal hält. Vollständig manuelle Moderation skaliert nicht und vollständig automatisierte Moderation macht zu viele selbstbewusste Fehler, daher ist das Modell, das funktioniert, hybrid: Die KI bearbeitet rund 85 Prozent der On-Site-Inhalte automatisch und leitet die mehrdeutigen 15 Prozent an menschliche Moderatoren weiter, während Social-Media-Kanäle bis auf rund 95 Prozent automatisieren. Unter der Haube bewerten Klassifikatoren Inhalte auf Toxizität, Hassrede, Spam und illegales Material, Schwellenwerte entscheiden über Freigabe, Ablehnung oder Eskalation, und bearbeitbare Listen kodieren Ihre eigenen Regeln. Bringen Sie die Konformität in Ordnung (DSA-Begründungen und Transparenzberichte, DSGVO Artikel 28, EU-Hosting), und Sie haben einen Moderations-Stack, der Ihre Marke schützt, den Regulierer zufriedenstellt und Ihren Kommentarraum so hält, dass die Beteiligung lohnt.

Nächste Schritte: Vergleichen Sie mit dem Kommentarbereich-Gesundheitscheck, erkunden Sie KI-Moderation und Social-Media-Moderation und lesen Sie die Details zu Konformität und DSA.

Häufig gestellte Fragen

Was ist KI-Inhaltsmoderation? KI-Inhaltsmoderation ist der Einsatz von Machine-Learning-Klassifikatoren, um nutzergenerierte Inhalte (Kommentare, Antworten, Debattenbeiträge, Social-Media-Nachrichten) automatisch zu prüfen und zu entscheiden, ob jeder Beitrag veröffentlicht werden darf, entfernt werden sollte oder einen menschlichen Blick benötigt. Die KI bewertet Inhalte auf Toxizität, Hassrede, Spam und illegales Material und wendet dann Schwellenwerte an, um freizugeben, abzulehnen oder zu eskalieren. In der Praxis liefert ein Hybridmodell, das KI mit menschlichen Moderatoren kombiniert, die besten Ergebnisse, statt sich allein auf eines von beiden zu verlassen.

Lässt sich Inhaltsmoderation vollständig automatisieren? Nicht verantwortungsvoll, zumindest nicht für redaktionelle Seiten. Die KI bewältigt die eindeutigen Fälle hervorragend, aber eine relevante Minderheit der Inhalte ist tatsächlich mehrdeutig: Ironie, kontextabhängige Wörter, grenzwertige politische Äußerungen und koordinierter Missbrauch. Das praktikable Modell ist hybrid: Die KI bearbeitet rund 85 Prozent der On-Site-Inhalte automatisch und leitet die mehrdeutigen 15 Prozent an eine menschliche Warteschlange weiter. Auf Social-Media-Kanälen, wo es vor allem darum geht, illegale Inhalte, Betrug und unleserliche Nachrichten zu filtern, kann die Automatisierung rund 95 Prozent erreichen.

Was ist der Unterschied zwischen Vorabmoderation, Nachmoderation und Echtzeitmoderation? Vorabmoderation hält jeden Beitrag zurück, bis er freigegeben ist, sodass nichts ungeprüft erscheint, die Konversation aber verlangsamt wird. Nachmoderation veröffentlicht sofort und prüft im Nachhinein, was die Konversation lebendig hält, aber schlechte Inhalte kurzzeitig erscheinen lässt. Echtzeit-KI-Moderation bietet das Beste aus beidem: Inhalte werden bei der Einreichung sofort bewertet, unbedenkliche Beiträge werden sofort veröffentlicht, klar missbräuchliche werden blockiert, und nur mehrdeutige Beiträge werden für einen Menschen zurückgehalten.

Wie entscheidet KI-Moderation tatsächlich, was entfernt wird? Jeder Beitrag durchläuft Klassifikatoren, die Scores für Kategorien wie Toxizität, Hassrede, Spam und illegale Inhalte zurückgeben. Diese Scores werden mit konfigurierbaren Schwellenwerten verglichen. Inhalte mit hoher Konfidenz, dass sie unbedenklich sind, werden automatisch freigegeben, Verstöße mit hoher Konfidenz werden mit protokolliertem Grund automatisch abgelehnt, und alles dazwischen wird an eine menschliche Warteschlange geschickt. Vom Medium bearbeitbare Listen fügen eine deterministische Ebene hinzu: Eine Sperrliste lehnt verbotene Begriffe automatisch ab, und eine Liste verdächtiger Wörter leitet kontextabhängige Begriffe an einen Menschen weiter, statt sie direkt abzulehnen.

Ist KI-Inhaltsmoderation DSA-konform? Sie kann es sein, aber die Konformität kommt vom Anbieter und vom Workflow, nicht von der KI allein. Nach dem Digital Services Act benötigt jede Entfernung eine Begründung (Artikel 17), und Plattformen müssen regelmäßige Transparenzberichte veröffentlichen (Artikel 24). Ein konformes System protokolliert für jede Entscheidung einen konkreten Ablehnungsgrund, weist ihn der betroffenen Person mit Informationen zum Rechtsbehelf aus und exportiert Transparenzberichte. Logora liefert sechs standardisierte DSA-Ablehnungsgründe und protokolliert jede automatisierte und menschliche Entscheidung.

Funktioniert KI-Moderation auch in anderen Sprachen als Englisch? Sie sollte es, und für europäische Medien muss sie es. Viele Moderations-Tools sind primär auf Englisch abgestimmt und verschlechtern sich bei anderen Sprachen erheblich. Ein medientaugliches System bietet native mehrsprachige Abdeckung über die Sprachen hinweg, in denen Ihr Publikum schreibt. Logora moderiert nativ auf Französisch, Deutsch, Italienisch, Spanisch, Portugiesisch und Englisch.

Wo werden die Moderationsdaten gehostet, und warum ist das wichtig? Wo Moderationsdaten physisch liegen, bestimmt Ihr Übermittlungsrisiko nach der DSGVO. Eine in den USA gehostete Moderationspipeline kann für EU-Medien ein Schrems-II-Übermittlungsrisiko schaffen. EU-Hosting beseitigt dieses Risiko. Logora betreibt seine Moderation auf europäischer KI, unter anderem Mistral, und hostet in der EU auf OVH in Frankreich, agiert als Ihr Auftragsverarbeiter gemäß Artikel 28, ohne Werbung und ohne Weiterverkauf von Leserdaten.

Wie unterscheidet sich die Moderation von Social-Media-Kommentaren von On-Site-Kommentaren? Bei der Social-Media-Moderation (Instagram, YouTube, Facebook) geht es vor allem darum, illegale Inhalte, Betrug und unleserlichen Spam bei hohem Volumen zu filtern, sodass die Automatisierung rund 95 Prozent erreichen kann. Die On-Site-Kommentarmoderation zielt auf einen höheren redaktionellen Maßstab ab, einschließlich Höflichkeit und themenbezogener Diskussion, und behält daher einen größeren menschlichen Prüfanteil, typischerweise rund 15 Prozent. Dieselbe KI-Pipeline kann beides antreiben, mit unterschiedlichen Schwellenwerten und Regeln.