Moderation & Sicherheit
Blockliste (und Schimpfwortfilter)
Liste von Begriffen, bei denen ein Beitrag automatisch abgelehnt oder markiert wird. Davon zu unterscheiden ist eine Liste verdächtiger Wörter, die Beiträge je nach Kontext zur menschlichen Prüfung weiterleitet.
Eine Blockliste (oder Schimpfwortfilter) ist eine Liste von Begriffen, bei deren Auftauchen ein Beitrag automatisch abgelehnt oder markiert wird. Sie ist das älteste und einfachste Moderationswerkzeug: Eine Beleidigung oder ein verbotenes Wort löst eine feste Reaktion aus, ganz ohne Blick auf den Kontext.
Blockliste oder Liste verdächtiger Wörter?
Diese beiden Listen erfüllen sehr unterschiedliche Aufgaben.
- Blockliste (automatische Ablehnung): Begriffe, die so gut wie nie akzeptabel sind; der Beitrag wird sofort blockiert. Das geschieht automatisch.
- Liste verdächtiger Wörter (Weiterleitung an Menschen): mehrdeutige Begriffe, deren Bedeutung vom Kontext abhängt. Ein Wort wie „Opfer“ sollte nicht blockiert werden: Es kann in einem sensiblen persönlichen Erfahrungsbericht ebenso stehen wie in einer Beleidigung. Deshalb landet der Beitrag zur genaueren Prüfung in der Warteschlange des Moderationsteams.
Die Unterscheidung ist wichtig: Wer mehrdeutige Wörter automatisch ablehnt, unterdrückt legitime Beiträge; wer jede eindeutige Beleidigung einem Menschen vorlegt, verschwendet die Zeit der Moderatoren.
Grenzen
Wortlisten lassen sich leicht umgehen: Nutzer tricksen sie mit Leerzeichen, Akzenten, Leetspeak oder ähnlich aussehenden Zeichen aus. Außerdem erzeugen sie Fehlalarme – klassisch ist ein verbotenes Wort, das als Bestandteil in einem längeren, harmlosen Wort steckt. Eine Blockliste ist daher ein erster Filter, keine vollständige Moderationsstrategie.
Wie Logora damit umgeht
Logora stellt jedem Verlag eine eigene, bearbeitbare Blockliste zur Verfügung: Die Redaktion entscheidet, welche Begriffe automatisch abgelehnt werden, und kann die Liste an ihr Publikum und ihre redaktionelle Linie anpassen. Daneben pflegt Logora eine Liste verdächtiger Wörter: Betroffene Beiträge werden nicht blockiert, sondern in die Moderationswarteschlange geleitet, wo ein Mensch sie im Zusammenhang liest. Beide Listen ergänzen die KI-Moderationsmodelle, statt sie zu ersetzen.
Siehe Spam-Erkennung, Content-Moderation, Toxizitätserkennung und Moderationswarteschlange.