AI Act (EU)

Der EU AI Act (KI-Verordnung) ist die 2024 von der Europäischen Union verabschiedete Verordnung, die KI-Systeme nach Risikostufen einordnet und entsprechende Pflichten auferlegt. Für Nachrichtenverlage, die KI-gestützte Inhaltsmoderation einsetzen, sind die wichtigsten Bestimmungen:

• Einstufung nach Risikostufen: Moderations-KI wird in der Regel als begrenztes Risiko eingestuft, was Transparenz gegenüber dem Nutzer erfordert (der Leser muss wissen, dass eine KI an der Moderationsentscheidung beteiligt ist). In Kombination mit DSA Artikel 14 ist dies größtenteils bereits abgedeckt.
• Pflichten für KI mit allgemeinem Verwendungszweck: Wenn die Moderations-Engine auf einem LLM eines Drittanbieters beruht (Mistral AI, GPT-4 usw.), hat der Anbieter Transparenzpflichten, die an den Betreiber weitergegeben werden.
• Dokumentation: technische Dokumentation des KI-Systems, einschließlich der Quellen der Trainingsdaten, der Modellversion und der Evaluierungsmethoden. Logora pflegt diese intern und stellt sie auf vertragliche Anfrage zur Verfügung.
• Menschliche Aufsicht: automatisierte Entscheidungen, die Nutzer betreffen, müssen einen sinnvollen Weg zur menschlichen Überprüfung haben. Logoras 15%-Warteschlange für menschliche Prüfung ist die operative Antwort darauf.

Was sich für Logora ändert

Logoras Moderations-Pipeline war bereits vor dem AI Act konzeptbedingt konform: transparente Begründung der Entscheidungen (DSA Artikel 14), strukturiertes Logging, menschliche Prüfung bei Grenzfällen, in der EU gehostetes Modell. Der AI Act hat die Pflichten formalisiert, anstatt neue einzuführen.

Für Mistral AI (seit April 2026 für Debattenzusammenfassungen im Einsatz) wird die Dokumentation des Modellanbieters an Logora weitergegeben und kann mit Ihrem Datenschutzbeauftragten geteilt werden.

Siehe KI-Moderation, DSA und DSGVO für den umgebenden regulatorischen Rahmen.