Los disturbios racistas desatados en la localidad murciana de Torre Pacheco el mes pasado desembocaron en varias jornadas de graves enfrentamientos entre la policía, grupos ultras llegados de fuera del municipio y la población migrante local. La correa de transmisión que unió a los violentos, a la vista de todos, fueron las redes sociales. Hoy sabemos que las compañías apenas actuaron para eliminar los mensajes de incitación al odio, amparadas por una normativa que confía en la autorregulación y por una cuestionable defensa del derecho a la libertad de expresión.
Un informe del Observatorio Español del Racismo y la Xenofobia (Obraxe) ha dejado en evidencia la indolente respuesta de las plataformas a la ola de mensajes xenófobos y violentos de aquellos días. Hasta 33.000 mensajes de odio se registraron en las redes el 12 de julio, cuando se vivieron los momentos de mayor tensión, lo que supone multiplicar por 15 el tráfico habitual de este tipo de contenido nocivo. Pese a ello, las empresas propietarias de las redes apenas retiraron un porcentaje muy pequeño de los mismos, menos incluso que en días anteriores. Los dueños de las plataformas no podían no ver lo que estaba sucediendo.
Algo similar sucedió en agosto de 2024, cuando al asesinato de un niño de 11 años en Mocejón (Toledo) le siguió un torrente de bulos en las redes que buscaba relacionar el crimen con los migrantes. La impunidad de los grupos ultras en las plataformas, sumado al impulso que los algoritmos parecen otorgar a los mensajes de odio y los bulos, dispara la viralidad de los mensajes que redunda en mayor actividad para estas empresas y, por tanto, mayor valor comercial. Culpar a las redes del discurso de odio sería una simplificación cuando desde la política se alimenta el miedo al inmigrante y se blanquea el lenguaje xenófobo. Pero no sería posible convertir las palabras en violencia con la misma rapidez e intensidad sin las redes.
El Gobierno ha anunciado la creación de un “grupo de trabajo” con las tecnológicas para intentar atajar el problema, que pasa por una moderación activa de sus contenidos más censurables. TikTok es la plataforma que más mensajes retira cuando se le notifica (casi el 90% en 2025), muy por encima del 49% de Instagram, el 29% de Facebook, el 27% de YouTube o el 15% de X. Estas cifras evidencian la necesidad de una regulación con impacto real, y también de herramientas tan ágiles para frenar el discurso de odio como lo son las que lo propagan. Son necesarias, por ejemplo, herramientas de análisis que vayan más allá del texto e incluyan imágenes, vídeos y audios. La mensajería de Telegram no se puede monitorear igual, pero Alemania ha obligado a la empresa a crear un canal específico de reporte para mensajes de odio y le ha impuesto multas millonarias. Encogerse de hombros por la dificultad de actuar contra el contenido masivo e instantáneo, como hacen las empresas que se benefician de él, no es una opción.