Moderation & Sicherheit
Hate-Speech-Erkennung
Teilaufgabe der Content-Moderation, bei der maschinelles Lernen gezielt Beiträge erkennt, die Gruppen (nach Herkunft, Religion, politischer Haltung, sexueller Orientierung) feindselig angreifen – genauer als die allgemeine Toxizitätsbewertung.
Hate-Speech-Erkennung konzentriert sich auf Beiträge, die eine Gruppe feindselig angreifen – etwa wegen Herkunft, Religion, politischer Überzeugung, sexueller Orientierung, Geschlecht oder Behinderung. Sie ist enger gefasst als die Toxizitätserkennung, und rechtlich steht mehr auf dem Spiel, weil Hassrede in den meisten EU-Staaten strafrechtlich relevant ist (LCEN in Frankreich, NetzDG – Netzwerkdurchsetzungsgesetz – in Deutschland).
Was sie so schwierig macht
Bei der Hate-Speech-Erkennung gibt es mehr Fehlalarme als bei der allgemeinen Toxizitätsbewertung. Die Gründe:
- Zitierte Hassrede: Wer Hassrede zitiert, um sie anzuprangern – ob Journalistin oder Kommentator –, wird selbst markiert.
- Umgedeutete Schimpfwörter: Begriffe, die in einem Zusammenhang Hassrede sind, in einem anderen aber Selbstbezeichnung der betroffenen Gruppe.
- Codierte Sprache: Sich ständig wandelnde Euphemismen („Globalisten“, Zahlencodes) erfordern laufende Modell-Updates.
- Kulturelle Unterschiede: Was in Frankreich als beiläufige politische Beleidigung gilt, kann nach deutschem Recht Hassrede sein.
Allgemeine, mit englischen Texten trainierte Modelle übersehen das meiste davon. Eine Hate-Speech-Erkennung, die den Ansprüchen der Presse genügt, braucht mehrsprachiges Training, regelmäßig aktualisierte Trainingsdaten aus Presseinhalten und ein gut aufgestelltes Moderationsteam für die Grenzfälle.
Rechtlicher Rahmen
- Frankreich (LCEN): 24-Stunden-Löschpflicht für gemeldete Hassinhalte. Logoras Begründung nach Artikel 17 deckt auch die Löschaufforderung nach LCEN ab.
- Deutschland (NetzDG): Löschung „offensichtlich rechtswidriger“ Hassinhalte binnen 24 Stunden. Logoras Moderation für deutschsprachige Inhalte ist auf die Maßstäbe des NetzDG abgestimmt.
- EU (DSA): einheitliche Löschpflichten, Transparenzberichte und Begründungen – der übergeordnete Rahmen.
Wie Logora mit Hassrede umgeht
Logoras Hassrede-Erkennung setzt auf dem Toxizitätswert auf und bewertet jede Kategorie einzeln (Herkunft, Religion, Politik, sexuelle Orientierung, Geschlecht, Behinderung). Die Schwellenwerte werden für jedes Medium und jede Sprache eigens eingestellt. Die Prüfprotokolle fließen in den DSA-Transparenzbericht nach Artikel 24 ein.
Den Gesamtablauf beschreibt der Eintrag KI-Moderation.