Modul · KI-Moderation

Moderation, die 95% erledigt, bevor das Team eingreift.

KI und Mensch arbeiten Hand in Hand: Das Modell bearbeitet 95% der eingehenden Beiträge automatisch, Ihr Team entscheidet über die 5% unklaren Fälle. Alle Entscheidungen werden von Anfang an DSA-konform protokolliert. Das Modell ist mit über 1 Mio. Kommentaren aus europäischen Redaktionen trainiert.

Warum dieses Modul

Manuelle Moderation stößt schnell an ihre Grenzen.

Bei einer regionalen Tageszeitung können 187.000 Kommentare im Jahr zusammenkommen. Wer jeden einzeln prüft, braucht einen Moderator in Vollzeit pro Schicht – und außerhalb der Dienstzeiten rutschen trotzdem die schlimmsten Inhalte durch. Der KI-gestützte Ansatz dreht das Verhältnis um: Das Modell erledigt die unbedenklichen und die eindeutig toxischen Fälle, das Team sieht nur die 5%, die eine Abwägung erfordern. Das ist der Unterschied zwischen Überlastung und geordnetem Arbeiten.

Moderations-Warteschlange

Heute · 1.412 Kommentare verarbeitet

Logora AI · v3
AUTO-FREIGEGEBEN1.19785%
MANUELLE PRÜFUNG18913%
AUTO-ABGELEHNT262%
  • PRÜFEN

    "Diese Ministerin ist völlig inkompetent, sie sollte zurücktreten, bevor man sie rauswirft."

    persönlicher Angriff · unbelegte Behauptung · grenzwertige Rhetorik

    0.62
  • ABGELEHNT

    "HIER KLICKEN und 5.000 €/Monat von zu Hause verdienen, ganz ohne Vorkenntnisse! Kostenlos anmelden auf example.com"

    Spam · Werbung · Klickköder-Link

    0.94
  • FREIGEGEBEN

    "Der Bericht des Statistischen Bundesamts vom März widerspricht dem beschriebenen Trend. Der Anteil der Löhne am BIP ist in den letzten 10 Jahren tatsächlich gesunken."

    mit Quelle · substanziell · themenbezogen

    0.04

Was das Modul bietet

Gemacht für den Redaktionsalltag.

  • 01

    Dreistufige Pipeline

    Jeder Beitrag durchläuft (1) eine vom Verlag festgelegte Sperrliste und eine Liste verdächtiger Wörter, (2) die algorithmische Moderation, die unbedenkliche Beiträge automatisch freigibt und klare Verstöße automatisch ablehnt, (3) eine Warteschlange zur menschlichen Prüfung für alle unklaren Fälle. Jede Stufe ist nachvollziehbar dokumentiert.

  • 02

    Logora-Moderationsteam als Service

    Auf Wunsch übernehmen wir: Unser deutschsprachiges Team prüft die Warteschlange 1- bis 4-mal täglich, abgestimmt auf Ihre Traffic-Spitzen. Sie behalten die Kontrolle über die Regeln, wir kümmern uns um die Warteschlange.

  • 03

    Tastenkürzel und Mehrfachauswahl

    Moderatoren geben frei (Strg+A), überspringen (Strg+S) oder lehnen mit einem von sechs Gründen ab (Strg+1 bis 6). Mit der Mehrfachauswahl lassen sich zusammengehörige Beiträge in einem Schritt bearbeiten. Entscheidungen werden gespeichert: Beim erneuten Öffnen eines Beitrags wird die vorherige Entscheidung angezeigt.

  • 04

    Sechs DSA-konforme Ablehnungsgründe

    Unhöflichkeit · Unangemessene Sprache · Persönlicher Angriff / Hass · Unverständlichkeit · Themenfremd / Werbung · Wiederholung. Jeder Nutzer sieht den Grund in seinem Profil, mit Informationen zum Rechtsbehelf gemäß Art. 17 DSA.

  • 05

    Vormoderation für sensible Debatten

    Aktivieren Sie die Vormoderation für einzelne Debatten (Politik, Wahlen, Themen der öffentlichen Sicherheit): Dann landet jeder Beitrag vor der Veröffentlichung in der Warteschlange zur menschlichen Prüfung. So wägen Sie für jede Debatte einzeln zwischen Schnelligkeit und redaktioneller Kontrolle ab.

  • 06

    Nutzersperren und transparentes Leserprofil

    Konfigurierbare Sperren: 1 Tag, 1 Woche, 1 Monat, dauerhaft. Sperren werden im Profil des Nutzers mit dem Grund angezeigt. Jeder abgelehnte Beitrag bleibt für seinen Autor mit der Ablehnungskategorie sichtbar, im Einklang mit den Transparenzpflichten des DSA.

Testen Sie die KI-Moderation

Eine KI-Moderation, die sich nach Ihren Leitlinien richtet.

Wählen Sie ein Ressort – Sport, Politik, Promis, Lokales – und geben Sie einen beliebigen Leserkommentar ein. Die KI-Moderation von Logora, die bereits in Redaktionen im Einsatz ist, wendet die passende redaktionelle Leitlinie an und liefert eine Entscheidung, eine Begründung, einen Toxizitäts-Score und die erkannten Kategorien. Sie sind anderer Meinung? Erklären Sie der KI, warum – sie berücksichtigt das für den Rest Ihrer Sitzung.

  • FREIGEGEBEN – respektvoll, themenbezogen, keine Beleidigungen, bringt die Diskussion voran. Wird im Live-Betrieb automatisch veröffentlicht.
  • ZUR PRÜFUNG – grenzwertige Sprache, unbelegte Behauptungen, mehrdeutiger Ton. Landet in der Warteschlange zur manuellen Prüfung.
  • ABGELEHNT – Hassrede, Drohungen, Spam, Belästigung. Wird automatisch blockiert; der Nutzer erhält eine Begründung gemäß Art. 17 DSA.
Lernfähige KI-Moderation · live Logora AI
Redaktionsleitlinie

0 / 1200 Beispiele:

Dieselbe KI-Moderation im Einsatz bei

  • Der Spiegel Deutschland
  • Milenio Mexiko
  • und weiteren europäischen Verlagen FR · DE · IT · ES · PT · EN

Die Demo nutzt dieselben Prompts und Standard-Schwellenwerte wie im Live-Betrieb. In Ihrer Instanz ergänzen wir verlagsspezifische Regeln und individuelle Schwellenwerte pro Artikelkategorie, und Ihr Team hat im Admin-Bereich der Moderation das letzte Wort bei allen zur Prüfung markierten Beiträgen.

Im Einsatz

Im Einsatz bei Der Spiegel.

Der SPIEGEL hat die überlastete manuelle Moderation durch eine hybride Pipeline ersetzt, die 95% der toxischen Inhalte vor der menschlichen Prüfung herausfiltert. Das Moderationsteam hat wieder Luft, und die Diskussionskultur ist messbar zivilisierter.

95%

der toxischen Inhalte automatisch gefiltert, sodass sich das Team auf Grenzfälle konzentrieren kann

Fallstudie lesen

Was sich ändert

Vorher und nachher.

Vorher · Nur manuelle Moderation

  • Team geht in Stoßzeiten unter
  • Toxische Inhalte außerhalb der Dienstzeiten sichtbar
  • Keine lückenlose Dokumentation der Entscheidungen
  • DSA-Transparenzbericht jedes Mal von Hand erstellt
  • Mehrere Sprachen nur mit doppelt so großem Team

Nachher · Logora-Hybridmoderation

  • 95% automatisch erledigt, das Team sieht die 5%, die zählen
  • Echtzeit-Bewertung beim Absenden, vor der Veröffentlichung
  • Jede Entscheidung mit Begründungstext protokolliert
  • Transparenzbericht in wenigen Minuten exportierbar
  • Sechs Sprachen in derselben Pipeline, jeweils ohne Übersetzung moderiert

Häufige Fragen

Was Verlage wirklich wissen wollen.

  • Müssen wir das Kommentar-Widget von Logora nutzen, um das Moderationsmodul zu verwenden?

    Nein. Wir können Kommentare aus jeder Quelle moderieren, die Sie uns übermitteln (bestehendes Widget, Facebook, Disqus, Eigenentwicklung). Am besten funktioniert das Gesamtpaket, aber die Moderations-API lässt sich auch eigenständig nutzen.

  • Was passiert mit einem Kommentar, den das Modell als unklar einstuft?

    Er landet in der Warteschlange zur menschlichen Prüfung – zusammen mit dem Toxizitäts-Score, der Begründung des Modells, dem Artikelkontext und der Nutzerhistorie. Der Moderator entscheidet. Dank der Tastenkürzel dauert eine Entscheidung weniger als 30 Sekunden.

  • Wie funktionieren die Sperrliste und die Liste verdächtiger Wörter?

    Die Sperrliste enthält Begriffe, bei denen ein Beitrag automatisch abgelehnt wird, mit dem Standardgrund „Unangemessene Sprache“ oder „Persönlicher Angriff“, je nach Begriff. Die Liste verdächtiger Wörter enthält Begriffe, deren Bedeutung vom Kontext abhängt („Opfer“ zum Beispiel), und leitet den Beitrag in die menschliche Warteschlange, statt ihn direkt abzulehnen. Beide Listen kann der Verlag selbst bearbeiten.

  • Können wir das Modell in Echtzeit überstimmen?

    Ja. Redakteure und Chefmoderatoren können Schwellenwerte ändern, Beiträge manuell freigeben oder ablehnen, bestimmte Nutzer sperren (1 Tag, 1 Woche, 1 Monat, dauerhaft) und das Modell mit ausgewählten Beispielen nachtrainieren. Das Modell entscheidet im Normalfall; Ihr Team hat das letzte Wort.

  • Wie hängt das mit dem DSA zusammen?

    Direkt. Jede automatisierte Entscheidung erzeugt eine Begründung gemäß Art. 17 DSA. Der jährliche Transparenzbericht gemäß Art. 24 DSA wird aus demselben Protokoll zusammengestellt. Compliance ist integriert, nicht nachträglich aufgesetzt. Die Aufschlüsselung nach Artikeln finden Sie in unserer vollständigen DSA-Übersicht.

  • Können wir die Vormoderation für bestimmte Debatten aktivieren?

    Ja. Die Vormoderation lässt sich pro Debatte aktivieren: Ist sie eingeschaltet, landet jeder Beitrag vor der Veröffentlichung in der menschlichen Warteschlange, unabhängig vom algorithmischen Score. Empfohlen für politisch sensible Debatten (Wahlen, Berichterstattung zu Einwanderung, brisante gesellschaftliche Themen).

  • Kann das Logora-Team die Moderation für uns übernehmen, oder brauchen wir eigenes Personal dafür?

    Beides ist möglich. Sie können die Moderation intern mit Ihrem Redaktionsteam übernehmen (der Admin-Bereich ist dafür ausgelegt) oder die Prüfung der Warteschlange an das Moderationsteam von Logora abgeben. Unsere deutschsprachigen Moderatoren prüfen die Warteschlange 1- bis 4-mal täglich, zeitlich abgestimmt auf Ihren Traffic. Sie behalten die Kontrolle über die Regeln und die Ablehnungsgründe, wir übernehmen die tägliche Arbeit.

  • Bieten Sie mehrsprachige Inhaltsmoderation an?

    Ja. Das Modell moderiert in sechs Sprachen (Französisch, Deutsch, Italienisch, Spanisch, Portugiesisch, Englisch), trainiert mit über 1 Mio. Beiträgen aus europäischen Redaktionen. Jede Sprache wird direkt verarbeitet, ohne Umweg über eine Übersetzung ins Englische: Die mehrsprachige Moderation versteht Slang, Ironie und Beleidigungen, die für die jeweilige Sprache typisch sind. Unsere italienischen Debatten mit dem Quotidiano Nazionale laufen auf derselben Pipeline wie unsere Projekte auf Deutsch und Spanisch. Die DSA-Begründung wird in der Sprache des Nutzers ausgegeben.

  • Gibt es einen Moderationsservice, oder betreiben wir die Moderation selbst?

    Beides. Logora ist sowohl eine Plattform für KI-Moderation (Sie betreiben die menschliche Warteschlange selbst über den Admin-Bereich) als auch ein Dienstleister für die Moderation: Unser deutschsprachiges Team prüft die Warteschlange 1- bis 4-mal täglich, wenn Sie delegieren möchten. Rund 95% der Beiträge werden automatisch gefiltert, bevor sie in der menschlichen Warteschlange landen, sodass der Aufwand in beiden Fällen überschaubar bleibt. Die Kontrolle über Regeln und Schwellenwerte behalten Sie in beiden Modellen.

Eine Moderations-Pipeline, die Ihr Team spürbar entlastet.

Ein 60-minütiges Gespräch. Wir zeigen Ihnen den Admin-Bereich der Moderation live mit echten Daten, führen Sie durch die DSA-Protokollierung und schlagen Ihnen ein Pilotprojekt für eines Ihrer Ressorts vor.

⌘K / Strg+K zum Öffnen