Fila de moderação

Uma fila de moderação é o espaço de trabalho onde o conteúdo que não pode ser decidido de forma automática espera a intervenção de uma pessoa. Quando a camada automatizada tem certeza, ela aprova ou bloqueia sozinha. Todo o resto, o denunciado, o limítrofe, o realmente ambíguo, aterrissa na fila para que um moderador decida.

O que ela contém

A fila não é apenas uma lista de comentários pendentes. É o lugar onde o julgamento editorial acontece, então precisa exibir contexto suficiente para decidir em segundos, e não em minutos.

• Pontuação de toxicidade. Um sinal numérico do modelo, geralmente com uma categoria (ódio, spam, fora de tema, ameaça), para que o moderador saiba por que o item foi retido.
• Raciocínio do modelo. Uma breve explicação do que o classificador sinalizou, que permite à pessoa concordar, sobrepor ou corrigir.
• Contexto do artigo. O conteúdo ao qual o comentário responde, porque a mesma frase pode ser aceitável sob uma coluna de opinião e inadequada sob um obituário.
• Histórico do usuário. As decisões anteriores sobre a mesma conta, para que um primeiro deslize não seja tratado como reincidência.

Boas práticas

Uma boa fila se mede pela vazão, não pela quantidade de recursos. Duas coisas importam mais do que tudo.

• Atalhos de teclado. Os moderadores nunca deveriam precisar recorrer ao mouse. Aprovar, rejeitar e pular com uma única tecla transformam uma sessão de revisão em um ritmo.
• Seleção múltipla. As ondas de spam e o assédio coordenado chegam em rajadas. Selecionar vários itens e agir de uma vez evita que o acúmulo cresça mais rápido do que a equipe consegue resolver.

O objetivo é reservar a atenção humana para os casos em que ela agrega valor e tornar cada decisão rastreável para uma auditoria posterior.

Como a Logora gerencia

A Logora direciona para uma fila humana os cerca de 15% das contribuições sobre as quais o modelo tem dúvidas, enquanto o conteúdo limpo é publicado automaticamente e o conteúdo claramente tóxico é bloqueado automaticamente.

• Revisão centrada no teclado. Atalhos como Ctrl+A e Ctrl+S mantêm os moderadores no fluxo.
• Seis motivos de rejeição do DSA. Cada rejeição é marcada com um dos seis motivos estruturados, de modo que cada decisão alimenta registros limpos para o notice-and-action e o relatório de transparência.

Conceitos relacionados

• Moderação de conteúdo, a prática que a fila serve
• Humano no circuito, por que os casos ambíguos precisam de uma pessoa
• Pré-moderação, quando tudo passa primeiro pela fila
• Notice and action, o processo do DSA que os motivos de rejeição alimentam