File de modération

Une file de modération est l’espace de travail où le contenu qui ne peut pas être tranché automatiquement attend une intervention humaine. Quand la couche automatisée est sûre d’elle, elle approuve ou bloque seule. Tout le reste, le signalé, le limite, le réellement ambigu, atterrit dans la file pour qu’un modérateur arbitre.

Ce qu’elle contient

La file n’est pas une simple liste de commentaires en attente. C’est l’endroit où s’exerce le jugement éditorial : elle doit donc faire remonter assez de contexte pour décider en quelques secondes plutôt qu’en quelques minutes.

• Score de toxicité. Un signal chiffré du modèle, généralement avec une catégorie (haine, spam, hors-sujet, menace) pour que le modérateur sache pourquoi l’élément a été retenu.
• Raisonnement du modèle. Une courte explication de ce que le classifieur a signalé, qui permet à l’humain de confirmer, d’écraser ou de corriger.
• Contexte de l’article. Le contenu auquel le commentaire répond, car une même phrase peut être acceptable sous une tribune et hors limites sous une nécrologie.
• Historique de l’utilisateur. Les décisions passées sur le même compte, pour qu’un premier écart ne soit pas traité comme une récidive.

Bonnes pratiques

Une bonne file se mesure au débit, pas au nombre de fonctionnalités. Deux choses comptent avant tout.

• Raccourcis clavier. Les modérateurs ne devraient jamais avoir à toucher la souris. Approuver, rejeter et passer sur une seule touche transforment une session d’examen en cadence.
• Multi-sélection. Les vagues de spam et le harcèlement coordonné arrivent par à-coups. Sélectionner plusieurs éléments et agir d’un coup empêche l’arriéré de grossir plus vite que l’équipe ne le résorbe.

L’objectif est de réserver l’attention humaine aux cas où elle apporte de la valeur, et de rendre chaque décision traçable pour un audit ultérieur.

Comment Logora la gère

Logora oriente vers une file humaine les quelque 15 % de contributions sur lesquelles le modèle est incertain, tandis que le contenu sain est publié automatiquement et le contenu clairement toxique bloqué automatiquement.

• Examen au clavier d’abord. Des raccourcis comme Ctrl+A et Ctrl+S maintiennent les modérateurs dans le flux.
• Six motifs de rejet DSA. Chaque rejet est associé à l’un des six motifs structurés, de sorte que chaque décision alimente des journaux propres pour le notice-and-action et le rapport de transparence.

Concepts liés

• Modération de contenu, la pratique que la file sert
• Humain dans la boucle, pourquoi les cas ambigus exigent une personne
• Pré-modération, quand tout passe d’abord par la file
• Notice and action, le processus DSA que les motifs de rejet alimentent