moderación de contenido

Se estima que la industria de moderación de contenido tiene un valor de 9 mil millones de dólares estadounidenses. Si bien no se proporcionan cifras oficiales, se estima que hay 10 000 moderadores de contenido para TikTok ; 15 000 para Facebook y 1500 para Twitter a partir de 2022. ^{[ 7 ]}

La cadena de valor global de la moderación de contenido generalmente incluye plataformas de redes sociales, grandes empresas multinacionales y proveedores de servicios de moderación de contenido. Las plataformas de redes sociales (por ejemplo, Facebook, Google) tienen su sede principal en Estados Unidos, Europa y China. Las empresas multinacionales (por ejemplo, Accenture , Foiwe ) suelen tener su sede en el hemisferio norte o en India, mientras que los proveedores de servicios de moderación de contenido se ubican principalmente en países del hemisferio sur, como India y Filipinas. ^{[ 8 ] : 79–81}

Si bien en el pasado este trabajo pudo haber sido realizado por voluntarios dentro de la comunidad en línea , para los sitios web comerciales se realiza principalmente mediante la subcontratación de la tarea a empresas especializadas, a menudo en áreas con salarios bajos como India y Filipinas. La subcontratación de trabajos de moderación de contenido creció como resultado del auge de las redes sociales . Con el crecimiento abrumador de usuarios y UGC, las empresas necesitaban muchos más empleados para moderar el contenido. A finales de la década de 1980 y principios de la de 1990, las empresas tecnológicas comenzaron a subcontratar trabajos a países extranjeros que contaban con una fuerza laboral educada pero dispuesta a trabajar por poco dinero. ^{[ 9 ]}

Las etiquetas de contenido ^{[ 10 ]} se asignan al contenido generado por el usuario para agregar más información, permitiendo a los usuarios saber cómo navegar y utilizar ciertas contribuciones, y facilitando a los moderadores la organización y gestión adecuadas de cualquier contenido considerado inapropiado. Algunos ejemplos de etiquetas de contenido son las verificaciones de hechos, las barreras de "Haga clic para ver", las advertencias de sensibilidad o simplemente información adicional. Si bien, a nivel específico, las etiquetas de contenido solo se han reconocido como un concepto en los últimos años y con escasa investigación al respecto, el concepto de etiquetado de información, en un sentido general, existe desde hace décadas. El uso que hacen las plataformas de redes sociales de las etiquetas de contenido puede generar debates sobre si priorizar el derecho a la libertad de expresión de un usuario o poner en riesgo la salud y la seguridad de otro.

Los empleados trabajan viendo, evaluando y eliminando contenido perturbador. ^{[ 11 ]} Wired informó en 2014 que pueden sufrir daños psicológicos. ^{[ 12 ] [ 13 ] [ 14 ] [ 5 ] [ 15 ]} En 2017, The Guardian informó que puede surgir un trauma secundario , con síntomas similares al TEPT . ^{[ 16 ]} Algunas grandes empresas como Facebook ofrecen apoyo psicológico ^{[ 16 ]} y recurren cada vez más al uso de inteligencia artificial para clasificar el contenido más gráfico e inapropiado, pero los críticos afirman que es insuficiente. ^{[ 17 ]} En 2019, NPR lo llamó un riesgo laboral. ^{[ 18 ]} Los acuerdos de confidencialidad son la norma cuando se contrata a moderadores de contenido. Esto hace que los moderadores sean más reacios a hablar sobre las condiciones de trabajo o a organizarse. ^{[ 7 ]}

Los riesgos psicológicos, incluidos el estrés y el trastorno de estrés postraumático , combinados con la precariedad de la gestión algorítmica y los bajos salarios, hacen que la moderación de contenido sea extremadamente difícil. ^{[ 19 ] [ 20 ] : 123} El número de tareas completadas, por ejemplo, etiquetar contenido como violación de derechos de autor, eliminar una publicación que contiene discurso de odio o revisar contenido gráfico se cuantifica para el rendimiento y la garantía de calidad . ^{[ 7 ]}

En febrero de 2019, un informe de investigación de The Verge describió las malas condiciones laborales en la oficina de Cognizant en Phoenix, Arizona . ^{[ 21 ]} Los empleados de Cognizant encargados de la moderación de contenido para Facebook desarrollaron problemas de salud mental , incluido el trastorno de estrés postraumático , como resultado de la exposición a violencia gráfica , discursos de odio y teorías conspirativas en los videos que debían evaluar. ^{[ 21 ] [ 22 ]} Los moderadores en la oficina de Phoenix informaron sobre abuso de drogas , abuso de alcohol y relaciones sexuales en el lugar de trabajo, y temían represalias por parte de los trabajadores despedidos que los amenazaban con hacerles daño. ^{[ 21 ] [ 23 ]} En respuesta, un representante de Cognizant declaró que la empresa examinaría los problemas del informe. ^{[ 21 ]}

The Verge publicó una investigación de seguimiento de la oficina de Cognizant en Tampa, Florida , en junio de 2019. ^{[ 24 ] [ 25 ]} Los empleados de la sede de Tampa describieron condiciones laborales peores que las de la oficina de Phoenix. ^{[ 24 ] [ 26 ] [ 27 ]} De manera similar, la empresa de moderación subcontratada de Meta en Kenia y Ghana informó de enfermedades mentales, autolesiones, intentos de suicidio, malas condiciones laborales, salarios bajos y represalias por abogar por mejores condiciones laborales. ^{[ 28 ]}

Los moderadores debían firmar acuerdos de confidencialidad con Cognizant para obtener el trabajo, aunque tres exempleados rompieron los acuerdos para proporcionar información a The Verge . ^{[ 24 ] [ 29 ]} En la oficina de Tampa, los trabajadores informaron de recursos de salud mental inadecuados. ^{[ 24 ] [ 30 ]} Como resultado de la exposición a vídeos que mostraban violencia gráfica, maltrato animal y abuso sexual infantil , algunos empleados desarrollaron trauma psicológico y trastorno de estrés postraumático. ^{[ 24 ] [ 31 ]} En respuesta a la cobertura negativa relacionada con sus contratos de moderación de contenido, un director de Facebook indicó que Facebook está en proceso de desarrollar un "equipo de resiliencia global" que ayudaría a sus contratistas. ^{[ 24 ]}

Facebook aumentó el número de moderadores de contenido de 4500 a 7500 en 2017 debido a requisitos legales y otras controversias . En Alemania, Facebook era responsable de eliminar el discurso de odio dentro de las 24 horas posteriores a su publicación. ^{[ 32 ]} A finales de 2018, Facebook creó una junta de supervisión o un "Tribunal Supremo" interno para decidir qué contenido permanece y cuál se elimina. ^{[ 18 ]}

Según Frances Haugen , el número de empleados de Facebook responsables de la moderación de contenido era mucho menor a partir de 2021. ^{[ 33 ]}

La red social Twitter tiene una política de suspensión . Entre agosto de 2015 y diciembre de 2017, suspendió más de 1,2 millones de cuentas por contenido terrorista para reducir el número de seguidores y la cantidad de contenido asociado con el Estado Islámico. ^{[ 34 ]} Tras la adquisición de Twitter por Elon Musk en octubre de 2022, las normas de contenido se han debilitado en toda la plataforma en un intento por priorizar la libertad de expresión. ^{[ 35 ]} Sin embargo, los efectos de esta campaña han sido cuestionados. ^{[ 36 ] [ 37 ]}

La moderación de usuarios permite que cualquier usuario modere las contribuciones de otros usuarios. Miles de millones de personas toman decisiones diariamente sobre qué compartir, reenviar o dar visibilidad. ^{[ 45 ]} En un sitio grande con una población activa suficientemente grande, esto suele funcionar bien, ya que un número relativamente pequeño de alborotadores son filtrados por los votos del resto de la comunidad.

La moderación por parte del usuario también puede caracterizarse como moderación reactiva. Este tipo de moderación depende de que los usuarios de una plataforma o sitio web denuncien el contenido inapropiado que infringe las normas de la comunidad . En este proceso, cuando los usuarios se encuentran con una imagen o un vídeo que consideran inapropiado, pueden hacer clic en el botón de denuncia. La queja se registra y se pone en cola para que los moderadores la revisen. ^{[ 46 ]}