Moderación y seguridad
Lista de bloqueo (y filtro de palabrotas)
Lista de términos que rechazan o marcan automáticamente una contribución, distinta de una lista de palabras sospechosas que enruta el contenido a la revisión humana según el contexto.
Una lista de bloqueo (o filtro de palabrotas) es una lista de términos que rechazan, o marcan, automáticamente una contribución en cuanto aparece uno de ellos. Es la herramienta de moderación más antigua y sencilla: un insulto o una palabra prohibida desencadena una acción fija, sin ningún juicio del contexto.
Lista de bloqueo vs lista de palabras sospechosas
Estas dos listas hacen tareas muy distintas.
- Lista de bloqueo (rechazo automático): términos tan raramente aceptables que su presencia justifica bloquear la contribución de inmediato. La acción es automática.
- Lista de palabras sospechosas (enruta a humanos): términos ambiguos que dependen del contexto. Una palabra como “víctima” no debe bloquearse, puede señalar un testimonio sensible tanto como un insulto, así que enruta la contribución a la cola humana para una lectura más atenta.
La distinción importa: rechazar automáticamente una palabra ambigua silencia expresiones legítimas, mientras que enviar cada insulto prohibido a un humano desperdicia el tiempo de los moderadores.
Límites
Las listas de palabras clave son fáciles de eludir. Los usuarios las burlan con espacios, acentos, leetspeak u homoglifos (escribiendo alrededor del filtro). También producen falsos positivos: el caso clásico es una subcadena prohibida escondida dentro de una palabra más larga e inocente. Una lista de bloqueo es, por tanto, un primer filtro, no una estrategia de moderación completa.
Cómo lo gestiona Logora
Logora ofrece a cada editor una lista de bloqueo editable: la redacción decide qué términos rechazan automáticamente y puede adaptar la lista a su audiencia y a su línea editorial. Junto a ella, Logora mantiene una lista de palabras sospechosas contextual que no bloquea, sino que enruta las contribuciones marcadas a la cola de moderación, donde un humano las lee en contexto. Ambas listas complementan los modelos de moderación con IA en lugar de reemplazarlos.
Consulta detección de spam, moderación de contenidos, detección de toxicidad y cola de moderación.