Por qué las redes sociales no pueden moderar el contenido a la sombra


En 2016, por un lado, pude contar el tipo de intervenciones que las empresas de tecnología estaban dispuestas a realizar para eliminar la desinformación, el discurso de odio y el acoso de sus plataformas. A lo largo de los años, los mecanismos toscos como el bloqueo de contenido y la prohibición de cuentas se han convertido en un conjunto de herramientas más complejo, que incluye poner temas en cuarentena, eliminar publicaciones de la búsqueda, prohibir recomendaciones y degradar publicaciones con Prioridad.

Sin embargo, la desinformación sigue siendo un problema grave, incluso con más opciones disponibles. Se informó de mucha información errónea el día de las elecciones; por ejemplo, mi colega Emily Drefyuss descubrió que al tratar de lidiar con el contenido, Twitter se modificó utilizando el hashtag #BidenCrimeFamily con tácticas como «desindexar» al bloquear los resultados de búsqueda y los usuarios, incluido Donald Trump. Uso de variantes del mismo día. Sin embargo, todavía no sabemos mucho sobre cómo Twitter decidió estas cosas en primer lugar, o cómo pesa y aprende de la forma en que los usuarios reaccionan a la moderación.

¿Qué acciones han tomado estas empresas? ¿Cómo funcionan sus equipos de moderación? ¿Cómo se toman las decisiones?

Cuando las empresas de redes sociales suspendieron cuentas y etiquetaron y eliminaron publicaciones, muchos investigadores, organizaciones de la sociedad civil y periodistas intentaron comprender sus decisiones. La falta de transparencia sobre estas decisiones y procesos significa que los resultados electorales para muchos de este año están marcados con un asterisco, al igual que en 2016.

¿Qué acciones han tomado estas empresas? ¿Cómo funcionan sus equipos de moderación? ¿Cómo se toman las decisiones? En los últimos años, las empresas de plataformas han reunido grandes grupos de trabajo dedicados a aclarar la desinformación electoral y marcar las primeras declaraciones de victoria. Sarah Roberts, profesora de UCLA, ha escrito sobre el trabajo invisible de los moderadores de contenido de la plataforma como una industria en la sombra, un laberinto de contratistas y reglas complejas de las que el público sabe poco. ¿Por qué no sabemos más?

En la niebla postelectoral, las redes sociales se han convertido en el terreno para una guerra inferior a nuestra seguridad cognitiva, a medida que proliferan las campañas de desinformación y las teorías de conspiración. Cuando el negocio de las noticias por radio y televisión asumió el papel de guardián de la información, vino con obligaciones de interés público como el intercambio de información oportuno, local y relevante. Las empresas de redes sociales han heredado una posición similar en la sociedad, pero no asumieron la misma responsabilidad. Esta situación ha tensado los cánones de las acusaciones de sesgo y censura en cuanto a la moderación del contenido relacionado con las elecciones.

Soportar los costes

En octubre, me uní a un grupo de expertos en desinformación, conspiración e infodemias para el Comité Selecto Permanente de Inteligencia de la compañía. Estaba flanqueado por Cindy Otis, una ex analista de la CIA. Nina Jankowicz, becaria de desinformación en el Wilson Center; y Melanie Smith, jefa de análisis de Graphika.

Cuando estaba preparando mi testimonio, Facebook estaba luchando para hacer frente a QAnon, un movimiento social militarizado que fue monitoreado por su Departamento de Organizaciones Peligrosas y condenado por la Cámara en una ley no partidista. Mi equipo ha estado estudiando QAnon durante años. Esta teoría de la conspiración se ha convertido en un tema favorito entre los investigadores de desinformación porque se ha mantenido extensible, adaptable y resistente frente a los esfuerzos de las empresas de plataformas para ponerla en cuarentena y eliminarla.

QAnon también se ha convertido en un tema para el Congreso porque ya no se trata de personas que participan en un extraño juego en línea: aterrizó como un tornado en la vida de los políticos que ahora son el blanco de campañas de acoso arrancadas de los sueños febriles. desviarse de los conspiradores a la violencia. Además, sucedió rápidamente y de nuevas formas. Por lo general, se necesitan años para que las teorías de la conspiración se difundan en la sociedad y para que se promuevan importantes figuras políticas, mediáticas y religiosas. Las redes sociales han acelerado este proceso con formas cada vez mayores de entrega de contenido. Los seguidores de QAnon no solo comentan las noticias actuales. lo doblan a sus órdenes.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *