AI Act (EU)

Der EU AI Act (KI-Verordnung) ist die 2024 von der Europäischen Union verabschiedete Verordnung, die KI-Systeme nach Risikostufen einordnet und entsprechende Pflichten auferlegt. Für Nachrichtenverlage, die KI-gestützte Inhaltsmoderation einsetzen, sind vor allem diese Bestimmungen wichtig:

• Risikoeinstufung: Moderations-KI wird in der Regel als begrenztes Risiko eingestuft, was Transparenz gegenüber dem Nutzer erfordert (der Leser muss wissen, dass eine KI an der Moderationsentscheidung beteiligt ist). Zusammen mit DSA Artikel 17 ist das weitgehend bereits abgedeckt.
• Pflichten für KI mit allgemeinem Verwendungszweck: Beruht die KI-Moderation auf einem Sprachmodell (LLM) eines Drittanbieters (Mistral AI, GPT-4 usw.), hat dieser Anbieter Transparenzpflichten, die an den Betreiber weitergegeben werden.
• Dokumentation: technische Dokumentation des KI-Systems, einschließlich der Quellen der Trainingsdaten, der Modellversion und der Evaluierungsmethoden. Logora führt diese Dokumentation intern und stellt sie im Rahmen des Vertrags auf Anfrage zur Verfügung.
• Menschliche Aufsicht: automatisierte Entscheidungen, die Nutzer betreffen, müssen sich wirksam von einem Menschen überprüfen lassen. Logora setzt das mit einer Warteschlange um, in der Menschen die 5% Grenzfälle prüfen.

Was sich für Logora ändert

Logoras Moderations-Pipeline war schon vor dem AI Act von Grund auf konform: Entscheidungen werden transparent begründet (DSA Artikel 17) und lückenlos protokolliert, Grenzfälle prüft ein Mensch, und das Modell wird in der EU gehostet. Der AI Act hat diese Pflichten vor allem festgeschrieben, statt neue einzuführen.

Für Mistral AI (seit April 2026 für die Zusammenfassung von Debatten im Einsatz) gibt der Modellanbieter seine Dokumentation an Logora weiter; sie kann mit Ihrem Datenschutzbeauftragten geteilt werden.

Zum weiteren rechtlichen Rahmen siehe KI-Moderation, DSA und DSGVO.