Content-Moderation

Content-Moderation ist die Arbeit, die Regeln eines Verlags auf die Kommentare, Argumente, Stimmen und Beiträge anzuwenden, die Leserinnen und Leser veröffentlichen. Sie ist nicht dasselbe wie das Löschen von Hassrede (das ist nur eine kleine Teilmenge). Sie ist die tägliche redaktionelle Entscheidung darüber, was unter Ihrem Titel als gültiger öffentlicher Beitrag gilt.

Worum es geht

Für eine Redaktion ist die Moderation der Regler, der bestimmt, ob sich der Kommentarbereich wie ein redaktioneller Raum oder wie ein Haftungsrisiko anfühlt. Drei Dinge hängen von der Qualität dieser Arbeit ab:

1. Vertrauen der Leserschaft. Abonnenten gehen, wenn Kommentare toxisch werden. Daten von Der Spiegel zeigen, dass 21 % der Abonnenten den Debattenraum als Grund nennen, warum sie bleiben, doch es kann genauso schnell ins Gegenteil umschlagen.
2. Rechtliche Exposition. Der DSA, die DSGVO, nationale Hassrede-Gesetze und plattformspezifische Pflichten lassen sich alle auf die Moderation abbilden. Schlechte Protokolle = schlechtes Audit.
3. Kosten. Eine Regionalzeitung kann 100-300 Tsd. €/Jahr für manuelle Moderation ausgeben. Das KI-first-Modell senkt das um 80 %.

Moderationsmodi

Es gibt vier operative Modi, in Reihenfolge der Reibung:

• Post-Moderation. Kommentare werden sofort veröffentlicht, das Team prüft danach. Schnell für die Leserschaft, setzt den Verlag aber kurzen Zeitfenstern mit problematischen Inhalten aus.
• Pre-Moderation. Jeder Kommentar wird vor der Veröffentlichung geprüft. Sicher, langsam, kostspielig.
• Reaktive Moderation. Kommentare sind öffentlich; das Team handelt nur bei gemeldeten Inhalten. Günstig, aber blind für Mengeneffekte.
• Hybrid KI + Mensch. Die KI bearbeitet automatisch 85 % (saubere Inhalte automatisch freigeben, toxische automatisch blockieren), das Team entscheidet über die verbleibenden 15 %. Das ist der moderne Standard für Presse-Websites.

Der Logora-Moderations-Stack

Logora liefert standardmäßig eine hybride Moderations-Pipeline:

• KI-Schicht: mehrsprachiges Modell (FR, DE, IT, ES, PT, EN), trainiert auf über 1 Mio. Kommentaren aus europäischen Redaktionen. Liefert einen Toxizitätswert und eine Kategorie (Hass, Spam, Off-Topic, Drohung).
• Menschliche Warteschlange: die 15 %, bei denen das Modell unsicher ist, landen in einer dedizierten Admin-Ansicht mit Tastaturkürzeln (3-mal schnellere Prüfungen seit dem Release im Februar 2026).
• Redaktionelle Richtlinien: pro Kunde konfigurierbar. Eine regionale Wochenzeitung hat nicht dieselben Regeln wie ein nationales Boulevardblatt.
• DSA-Protokollierung: jede Entscheidung wird mit Zeitstempel, Moderator, angewandter Regel und Begründungstext erfasst. Der jährliche Transparenzbericht ist in Minuten erstellt.

Verwandte Begriffe

• KI-Moderation, die automatisierte Schicht
• DSA, die EU-Verordnung, die diese Arbeit rahmt
• Transparenzbericht, was über Moderation zu veröffentlichen ist
• Hassrede-Erkennung

Siehe Logora vs Netino für den Unterschied zwischen einer Moderationsplattform und einem Moderations-BPO.