Modul · KI-Moderation

Klare Fälle übernimmt unsere KI, Zweifelsfälle unser Team.

KI und Mensch arbeiten Hand in Hand: Unsere eigene KI, trainiert mit Millionen von Nachrichten aus 7 Jahren und abgeglichen mit weiteren KI-Modellen, entscheidet die klaren Fälle. Zweifelsfälle, Meldungen und angefochtene Entscheidungen bearbeitet unser Team, inklusive. Jede Entscheidung wird schriftlich begründet und ist für Sie in Echtzeit sichtbar.

Warum dieses Modul

Manuelle Moderation stößt schnell an ihre Grenzen.

Bei einer regionalen Tageszeitung können 187.000 Kommentare im Jahr zusammenkommen. Wer jeden einzeln prüft, braucht einen Moderator in Vollzeit pro Schicht – und außerhalb der Dienstzeiten rutschen trotzdem die schlimmsten Inhalte durch. Der KI-gestützte Ansatz dreht das Verhältnis um: Unsere KI erledigt die unbedenklichen und die eindeutig toxischen Fälle, die Zweifelsfälle bearbeitet unser Team, und Sie sehen jede Entscheidung mit ihrer Begründung. Das ist der Unterschied zwischen Überlastung und geordnetem Arbeiten.

Moderations-Warteschlange

Heute · 1.412 Kommentare verarbeitet

Logora AI · v3
AUTO-FREIGEGEBEN1.197
MANUELLE PRÜFUNG189
AUTO-ABGELEHNT26
  • PRÜFEN

    "Diese Ministerin ist völlig inkompetent, sie sollte zurücktreten, bevor man sie rauswirft."

    persönlicher Angriff · unbelegte Behauptung · grenzwertige Rhetorik

    0.62
  • ABGELEHNT

    "HIER KLICKEN und 5.000 €/Monat von zu Hause verdienen, ganz ohne Vorkenntnisse! Kostenlos anmelden auf example.com"

    Spam · Werbung · Klickköder-Link

    0.94
  • FREIGEGEBEN

    "Der Bericht des Statistischen Bundesamts vom März widerspricht dem beschriebenen Trend. Der Anteil der Löhne am BIP ist in den letzten 10 Jahren tatsächlich gesunken."

    mit Quelle · substanziell · themenbezogen

    0.04

Was das Modul bietet

Gemacht für den Redaktionsalltag.

  • 01

    Dreistufige Pipeline

    Jeder Beitrag durchläuft (1) eine vom Verlag festgelegte Sperrliste und eine Liste verdächtiger Wörter, (2) die algorithmische Moderation, die unbedenkliche Beiträge automatisch freigibt und klare Verstöße automatisch ablehnt, (3) eine Warteschlange zur menschlichen Prüfung für alle unklaren Fälle. Jede Stufe ist nachvollziehbar dokumentiert.

  • 02

    Basiert auf OpenModeration

    Die Moderation von Logora läuft auf OpenModeration, unserer KI-Kommentarmoderation: unsere eigene KI, abgeglichen mit weiteren KI-Modellen und an die Regeln jedes Verlags angepasst. Zweifelsfälle bearbeitet unser Team, und jede Entscheidung wird schriftlich begründet und ist in Echtzeit sichtbar, mit DSA-Bausteinen und Hosting in der EU. OpenModeration moderiert auch Facebook, Instagram, YouTube, TikTok und weitere Netzwerke und ist auch einzeln erhältlich, für Websites ohne Kommentare oder Debatten.

  • 03

    Zweifelsfälle durch unser Team, inklusive

    Einrichtung sowie die Bearbeitung von Zweifelsfällen, Meldungen und angefochtenen Entscheidungen durch unser Team sind im Angebot enthalten. Sie legen die Regeln fest, sehen jede Entscheidung mit ihrer Begründung in Echtzeit und können jederzeit eingreifen.

  • 04

    Tastenkürzel und Mehrfachauswahl

    Moderatoren geben frei (Strg+A), überspringen (Strg+S) oder lehnen mit einem von sechs Gründen ab (Strg+1 bis 6). Mit der Mehrfachauswahl lassen sich zusammengehörige Beiträge in einem Schritt bearbeiten. Entscheidungen werden gespeichert: Beim erneuten Öffnen eines Beitrags wird die vorherige Entscheidung angezeigt.

  • 05

    Sechs DSA-konforme Ablehnungsgründe

    Unhöflichkeit · Unangemessene Sprache · Persönlicher Angriff / Hass · Unverständlichkeit · Themenfremd / Werbung · Wiederholung. Jeder Nutzer sieht den Grund in seinem Profil, mit Informationen zum Rechtsbehelf gemäß Art. 17 DSA.

  • 06

    Vormoderation für sensible Debatten

    Aktivieren Sie die Vormoderation für einzelne Debatten (Politik, Wahlen, Themen der öffentlichen Sicherheit): Dann landet jeder Beitrag vor der Veröffentlichung in der Warteschlange zur menschlichen Prüfung. So wägen Sie für jede Debatte einzeln zwischen Schnelligkeit und redaktioneller Kontrolle ab.

  • 07

    Nutzersperren und transparentes Leserprofil

    Konfigurierbare Sperren: 1 Tag, 1 Woche, 1 Monat, dauerhaft. Sperren werden im Profil des Nutzers mit dem Grund angezeigt. Jeder abgelehnte Beitrag bleibt für seinen Autor mit der Ablehnungskategorie sichtbar, im Einklang mit den Transparenzpflichten des DSA.

Testen Sie die KI-Moderation

Eine KI-Moderation, die sich nach Ihren Leitlinien richtet.

Wählen Sie ein Ressort – Sport, Politik, Promis, Lokales – und geben Sie einen beliebigen Leserkommentar ein. Die KI-Moderation von Logora, die bereits in Redaktionen im Einsatz ist, wendet die passende redaktionelle Leitlinie an und liefert eine Entscheidung, eine Begründung, einen Toxizitäts-Score und die erkannten Kategorien. Sie sind anderer Meinung? Erklären Sie der KI, warum – sie berücksichtigt das für den Rest Ihrer Sitzung.

  • FREIGEGEBEN – respektvoll, themenbezogen, keine Beleidigungen, bringt die Diskussion voran. Wird im Live-Betrieb automatisch veröffentlicht.
  • ZUR PRÜFUNG – grenzwertige Sprache, unbelegte Behauptungen, mehrdeutiger Ton. Landet in der Warteschlange zur manuellen Prüfung.
  • ABGELEHNT – Hassrede, Drohungen, Spam, Belästigung. Wird automatisch blockiert; der Nutzer erhält eine Begründung gemäß Art. 17 DSA.
Lernfähige KI-Moderation · live Logora AI
Redaktionsleitlinie

0 / 1200 Beispiele:

Dieselbe KI-Moderation im Einsatz bei

Die Demo nutzt dieselben Prompts und Standard-Schwellenwerte wie im Live-Betrieb. In Ihrer Instanz ergänzen wir verlagsspezifische Regeln und individuelle Schwellenwerte pro Artikelkategorie, und Ihr Team kann im Admin-Bereich der Moderation jede Entscheidung jederzeit überstimmen.

Im Einsatz

Im Einsatz bei Der Spiegel.

Der SPIEGEL hat die überlastete manuelle Moderation durch eine hybride Moderation ersetzt: Klare Fälle übernimmt die KI, Zweifelsfälle werden von Menschen geprüft. Die Redaktion hat wieder Luft, und die Debatten sind zu einem Grund für das Abo geworden.

21%

der Abonnenten nennen die Debatten als Grund für ihr Abo

Fallstudie lesen

Was sich ändert

Vorher und nachher.

Vorher · Nur manuelle Moderation

  • Team geht in Stoßzeiten unter
  • Toxische Inhalte außerhalb der Dienstzeiten sichtbar
  • Keine lückenlose Dokumentation der Entscheidungen
  • DSA-Transparenzbericht jedes Mal von Hand erstellt
  • Mehrere Sprachen nur mit doppelt so großem Team

Nachher · Logora-Hybridmoderation

  • Klare Fälle per KI, Zweifelsfälle durch unser Team
  • Echtzeit-Bewertung beim Absenden, vor der Veröffentlichung
  • Jede Entscheidung mit Begründungstext protokolliert
  • Transparenzbericht in wenigen Minuten exportierbar
  • Mehrsprachig: jeder Kommentar wird in seiner eigenen Sprache analysiert

Häufige Fragen

Was Verlage wirklich wissen wollen.

  • Müssen wir das Kommentar-Widget von Logora nutzen, um das Moderationsmodul zu verwenden?

    Nein. Wir können Kommentare aus jeder Quelle moderieren, die Sie uns übermitteln (bestehendes Widget, Facebook, Disqus, Eigenentwicklung). Am besten funktioniert das Gesamtpaket, aber die Moderations-API lässt sich auch eigenständig nutzen.

  • Was passiert mit einem Kommentar, den das Modell als unklar einstuft?

    Er landet in der Warteschlange zur menschlichen Prüfung – zusammen mit dem Toxizitäts-Score, der Begründung des Modells, dem Artikelkontext und der Nutzerhistorie. Unser Team entscheidet, und Sie sehen die Entscheidung mit ihrer Begründung in Echtzeit.

  • Wie funktionieren die Sperrliste und die Liste verdächtiger Wörter?

    Die Sperrliste enthält Begriffe, bei denen ein Beitrag automatisch abgelehnt wird, mit dem Standardgrund „Unangemessene Sprache“ oder „Persönlicher Angriff“, je nach Begriff. Die Liste verdächtiger Wörter enthält Begriffe, deren Bedeutung vom Kontext abhängt („Opfer“ zum Beispiel), und leitet den Beitrag in die menschliche Warteschlange, statt ihn direkt abzulehnen. Beide Listen kann der Verlag selbst bearbeiten.

  • Können wir das Modell in Echtzeit überstimmen?

    Ja. Redakteure und Chefmoderatoren können Schwellenwerte ändern, Beiträge manuell freigeben oder ablehnen, bestimmte Nutzer sperren (1 Tag, 1 Woche, 1 Monat, dauerhaft) und das Modell mit ausgewählten Beispielen nachtrainieren. Das Modell entscheidet im Normalfall; Ihr Team hat das letzte Wort.

  • Wie hängt das mit dem DSA zusammen?

    Direkt. Jede automatisierte Entscheidung erzeugt eine Begründung gemäß Art. 17 DSA. Der jährliche Transparenzbericht gemäß Art. 24 DSA wird aus demselben Protokoll zusammengestellt. Compliance ist integriert, nicht nachträglich aufgesetzt. Die Aufschlüsselung nach Artikeln finden Sie in unserer vollständigen DSA-Übersicht.

  • Können wir die Vormoderation für bestimmte Debatten aktivieren?

    Ja. Die Vormoderation lässt sich pro Debatte aktivieren: Ist sie eingeschaltet, landet jeder Beitrag vor der Veröffentlichung in der menschlichen Warteschlange, unabhängig vom algorithmischen Score. Empfohlen für politisch sensible Debatten (Wahlen, Berichterstattung zu Einwanderung, brisante gesellschaftliche Themen).

  • Kann das Logora-Team die Moderation für uns übernehmen, oder brauchen wir eigenes Personal dafür?

    Sie brauchen kein eigenes Moderationspersonal. Einrichtung sowie die Bearbeitung von Zweifelsfällen, Meldungen und angefochtenen Entscheidungen durch unser Team sind im Angebot enthalten. Sie legen die Regeln und Ablehnungsgründe fest, sehen jede Entscheidung mit ihrer Begründung in Echtzeit und können jederzeit eingreifen.

  • Bieten Sie mehrsprachige Inhaltsmoderation an?

    Ja. Die Moderation ist mehrsprachig: Jeder Kommentar wird in seiner eigenen Sprache analysiert, von einer KI, die mit Millionen von Nachrichten aus 7 Jahren trainiert wurde. Jede Sprache wird direkt verarbeitet, ohne Umweg über eine Übersetzung ins Englische: Die mehrsprachige Moderation versteht Slang, Ironie und Beleidigungen, die für die jeweilige Sprache typisch sind. Unsere italienischen Debatten mit dem Quotidiano Nazionale laufen auf derselben Pipeline wie unsere Projekte auf Deutsch und Spanisch. Die DSA-Begründung wird in der Sprache des Nutzers ausgegeben.

  • Gibt es einen Moderationsservice, oder betreiben wir die Moderation selbst?

    Die Moderation ist ein Service, der im Angebot enthalten ist: Klare Fälle übernimmt unsere KI, Zweifelsfälle, Meldungen und angefochtene Entscheidungen bearbeitet unser Team. Sie legen die Regeln und Schwellenwerte fest, sehen jede Entscheidung mit ihrer schriftlichen Begründung in Echtzeit und können jederzeit selbst eingreifen.

Eine Moderations-Pipeline, die Ihr Team spürbar entlastet.

Ein 60-minütiges Gespräch. Wir zeigen Ihnen den Admin-Bereich der Moderation live mit echten Daten, führen Sie durch die DSA-Protokollierung und schlagen Ihnen ein Pilotprojekt für eines Ihrer Ressorts vor.

⌘K / Strg+K zum Öffnen