De la difamación a la violencia extremista: ¿un odio alimentado por algoritmos?

T
Technology
Eureka
Eureka
Eureka

De la difamación a la violencia extremista: ¿un odio alimentado por algoritmos?

T
Technology

En 1910, Marie Curie, la primera persona en recibir dos premios Nobel en distintas especialidades (Física y Química) y la primera mujer en ocupar el puesto de profesora en la Universidad de París, fue víctima de una campaña de difamación de tales proporciones, que el comité del Nobel le pidió no fuera a recoger su premio en Suecia. Los ataques difundidos en contra de Madame Curie ilustraron lo peor de la sociedad francesa (y europea) en aquellas épocas: xenofobia, chauvinismo, antisemitismo y machismo. Este es uno de mucho ejemplos que dejan claro que las campañas de difamación no han sido inventadas por las redes sociales.

Sin embargo, las recientes revelaciones de la whistleblower de Facebook confirman lo que académicos y tecnólogos han ido demostrando: el odio genera más dinero para Facebook. En las palabras de Frances Haugen: “El problema es a quién le da Facebook el megáfono. El contenido extremista es el que tiene mayor audiencia” (El País, 02/11/2021). Como el contenido de odio genera más ‘engagement’ (más tiempo de pantalla, más clics), los algoritmos de Facebook están calibrados para promoverlo más que otros tipos de contenidos. Asimismo, aunque el odio en redes se aprovecha de las tensiones sociales y prejuicios existentes en el mundo físico, también es cierto que las redes sociales amplifican y potencian este tipo de discurso.

En su libro ‘Los ingenieros del caos’, el periodista Giuliano da Empoli describe el rol de las redes sociales en la emergencia de lo que llama el “tecnopopulismo”, como el Movimiento 5 Estrellas en Italia, Donald Trump en EEUU y Jair Bolsonaro en Brasil. Da Empoli muestra cómo esta maquinaria movida por algoritmos que buscan optimizar el ‘engagement’, dió pié a la instrumentalización política de las redes por grupos populistas y/o extremistas. En sus palabras: “Las redes sociales, por naturaleza, no están hechas para la conspiración. Pero las conspiraciones funcionan en las redes porque provocan fuertes emociones, controversia, indignación e ira. Y esas emociones generan clics y mantienen a los usuarios pegados a la pantalla.”

En el Brasil de Jair Bolsonaro, una de las estrategias adoptadas por el gobierno es la práctica de "linchamientos virtuales", que se ha dirigido a periodistas, activistas y políticos de la oposición desde 2018. En su libro ‘La máquina del odio’, la periodista Patricia Campos Melo, describe cómo el uso de bots y trolls es instrumentalizado en estos ataques orquestados con fines políticos. Es una práctica semejante a la que se describe en la película ‘Hater’, implementada por la empresa de relaciones públicas donde Tomasz consigue un trabajo, que utiliza las noticias falsas, bots, perfiles falsos, etc. en redes para realizar campañas que difaman a celebridades y políticos.

En la película, Tomasz escala hacía la violencia extremista, utilizando las mismas herramientas aprendidas para campañas de difamación. Aunque se sugiere que sus motivaciones son de índole personal (ambiciones de subir en la escala social) y no política, la película ilustra el potencial de instrumentalización de las redes para fines de violencia. Al hacerlo, muestra que los diferentes niveles de violencia que son amplificados en redes sociales son parte de un mismo continuum, alimentado por estrategias de utilización semejantes.