Moderation & Sicherheit
Spam-Erkennung
Teilaufgabe der Moderation, die werbliche, automatisiert erzeugte, mit Links überladene oder themenfremde Beiträge erkennt. Sie ist von der Toxizitätserkennung getrennt, läuft aber meist über dieselbe Technik.
Spam-Erkennung ist die Teilaufgabe der Moderation, die Beiträge erkennt, die zwar keine Hassrede sind, aber trotzdem nicht in den Kommentarbereich gehören: Werbung, kopierte Massenbotschaften, Linkfarmen, KI-generierte Fülltexte, themenfremde politische Botschaften.
Wie Spam auf Nachrichtenseiten aussieht
- Werbung: „Kaufen Sie bei XYZ.com!!“ mit Affiliate-Links.
- Linkfarmen: dieselbe URL, von einem frisch angelegten Konto unter 50 Artikeln gepostet.
- Koordiniert: derselbe Absatz, binnen Minuten unter Dutzenden Artikeln gepostet (oft automatisiert).
- KI-generierter Fülltext: zuletzt immer mehr belanglose, von Sprachmodellen erzeugte Kommentare, mit denen Konten ein unverdächtiges Alter erreichen sollen, bevor gröberer Missbrauch folgt.
Wie Logora damit umgeht
Logoras Spam-Modell läuft über dieselbe Technik wie die Toxizitätserkennung, wertet aber andere Signale aus: Ruf der verlinkten Seiten, Beitragsfrequenz pro Konto, Ähnlichkeit mit aktuellen Beiträgen, Kontoalter, sprachlicher Fingerabdruck. Oberhalb eines Schwellenwerts werden Beiträge automatisch blockiert. Grenzfälle landen in der Moderationswarteschlange.
Bei koordinierten Angriffen (einer Flut ähnlicher Inhalte von mehreren Konten) erkennt Logora das Muster dank Frequenzbegrenzung und Ähnlichkeitsprüfung schon nach den ersten 5–10 Beiträgen und verhängt eine vorübergehende Sperrpause.
Siehe KI-Moderation, Content-Moderation und Toxizitätserkennung.