Moderationswarteschlange

Eine Moderationswarteschlange ist der Arbeitsbereich, in dem Inhalte, die nicht automatisch entschieden werden können, auf einen Menschen warten. Ist sich die automatische Prüfung sicher, gibt sie selbst frei oder blockiert. Alles dazwischen – Gemeldetes, Grenzwertiges, wirklich Unklares – landet in der Warteschlange, und ein Moderator entscheidet.

Was sie enthält

Die Warteschlange ist nicht nur eine Liste ausstehender Kommentare. Hier ist redaktionelles Urteilsvermögen gefragt. Deshalb muss sie genug Kontext zeigen, damit in Sekunden statt in Minuten entschieden werden kann.

• Toxizitätswert. Ein numerisches Signal des Modells, meist mit einer Kategorie (Hass, Spam, themenfremd, Drohung), damit der Moderator weiß, warum der Beitrag zurückgehalten wurde.
• Begründung des Modells. Eine kurze Erklärung, was das Modell beanstandet hat, damit der Moderator zustimmen, widersprechen oder korrigieren kann.
• Artikelkontext. Der Artikel, auf den sich der Kommentar bezieht, denn derselbe Satz kann unter einem Meinungsbeitrag vertretbar und unter einem Nachruf unangemessen sein.
• Nutzerhistorie. Frühere Entscheidungen zum selben Konto, damit ein einmaliger Fehltritt nicht wie ein Wiederholungsfall behandelt wird.

Best Practices

Eine gute Warteschlange misst sich daran, wie viel sich damit abarbeiten lässt, nicht an der Zahl der Funktionen. Zwei Dinge zählen am meisten:

• Tastaturkürzel. Moderatoren sollten nie zur Maus greifen müssen. Liegen Freigeben, Ablehnen und Überspringen auf einzelnen Tasten, kommt man beim Prüfen in einen flüssigen Rhythmus.
• Mehrfachauswahl. Spamwellen und koordinierte Angriffe kommen schubweise. Wer viele Beiträge auf einmal auswählen und bearbeiten kann, verhindert, dass der Rückstand schneller wächst, als das Team ihn abarbeitet.

Ziel ist es, menschliche Aufmerksamkeit nur dort einzusetzen, wo sie Wert schafft, und jede Entscheidung für eine spätere Prüfung nachvollziehbar zu machen.

Wie Logora sie umsetzt

Logora leitet die rund 5% der Beiträge, bei denen das Modell unsicher ist, in die Warteschlange des Moderationsteams; unbedenkliche Inhalte werden automatisch veröffentlicht, eindeutig toxische automatisch blockiert.

• Alles per Tastatur. Kürzel wie Strg+A und Strg+S sorgen für flüssiges Arbeiten.
• Sechs DSA-Ablehnungsgründe. Jede Ablehnung erhält einen von sechs festgelegten Gründen. So ist jede Entscheidung sauber dokumentiert – für Notice-and-Action und den Transparenzbericht.

Verwandte Begriffe

• Content-Moderation, der Oberbegriff
• Human-in-the-Loop-Moderation, warum unklare Fälle einen Menschen brauchen
• Pre-Moderation, wenn alles zuerst durch die Warteschlange läuft
• Notice-and-Action-Verfahren, das DSA-Verfahren, für das die Ablehnungsgründe dokumentiert werden