El discurso de odio inunda las redes sociales y no hay respuesta para combatirlo

SAN FRANCISCO — El 29 de octubre, una búsqueda en Instagram, la plataforma propiedad de Facebook para compartir imágenes, produjo un torrente de imágenes y videos antisemitas publicados en la plataforma después del tiroteo del sábado en una sinagoga de Pittsburgh.

Una búsqueda con la palabra “judíos” mostraba 11.696 publicaciones con la etiqueta #JewsDid911 (los judíos son responsables del 11s), mediante la que se afirmaba que los judíos habían organizado los ataques terroristas del 11 de Septiembre. Otras etiquetas en Instagram hacían referencia a la ideología nazi, entre ellas el número 88, una abreviatura utilizada para el saludo nazi Heil Hitler.

Las publicaciones de Instagram mostraron una dura realidad. A lo largo de los últimos diez años, las compañías de redes sociales de Silicon Valley han expandido su alcance e influencia hasta los rincones más remotos del mundo. Sin embargo, se ha vuelto muy evidente que las empresas jamás entendieron del todo las consecuencias negativas de esa influencia ni lo que deben hacer al respecto —y que no pueden volver a meter al genio en la lámpara—.

“Las redes sociales están envalentonando a la gente para que cruce los límites y se comporte de manera extrema respecto a lo que está dispuesta a decir para provocar e incitar a otros”, comentó Jonathan Albright, director de investigación en el Centro Tow para el Periodismo Digital de la Universidad de Columbia. “Está claro que el problema está creciendo”.

Las repercusiones de la incapacidad de las redes sociales para manejar la desinformación y el discurso de odio se han manifestado de manera abundante en días recientes. Parece ser que Cesar Sayoc, quien fue acusado la semana pasada de enviar artefactos explosivos a demócratas destacados, se radicalizó en línea a causa de publicaciones partidistas en Twitter y Facebook. Robert Bowers, que asesinó a once personas en la sinagoga Tree of Life (Árbol de la Vida) en Pittsburgh el 27 de octubre, publicó algo sobre el odio que siente por los judíos en Gab, una red social que comenzó operaciones hace dos años.

Los efectos de las redes sociales también fueron evidentes en todo el mundo. Quienes observaron de cerca la elección de Brasil el 28 de octubre adjudicaron gran parte del atractivo del vencedor, el populista de extrema derecha Jair Bolsonaro, a lo que transcurrió en las redes sociales en aquel país. Los temas de interés vinculados con la campaña de Bolsonaro parecieron inundar WhatsApp, la aplicación de mensajería propiedad de Facebook, con un diluvio de contenido político que proporcionó información errónea sobre los sitios y los horarios de votación, instrucciones falsas acerca de cómo votar por candidatos específicos y desacreditó abiertamente a Fernando Haddad, uno de los principales rivales de Bolsonaro.

Además, miembros de alto nivel de las fuerzas armadas de Birmania han utilizado mensajes editados en Facebook para fomentar ansiedad y miedo contra la minoría de los rohinyás musulmanes. Por otro lado, en India, historias falsas en WhatsApp sobre secuestros de niños provocaron que multitudes asesinaran a más de una decena de personas este año.

“Las compañías de redes sociales han creado, permitido y facilitado que los mensajes de los extremistas entren desde lo marginal y se vuelvan parte del discurso predominante”, comentó Jonathan Greenblatt, director ejecutivo de la Liga Antidifamación, una organización no gubernamental que combate el discurso de odio. “En el pasado, no podían encontrar una audiencia a la cual transmitir su veneno. Ahora, tan solo con un clic, una publicación o un tuit, pueden divulgar sus ideas con una velocidad nunca antes vista”.

Facebook señaló que estaba investigando las etiquetas antisemitas en Instagram después de que The New York Times las denunció. Sarah Pollack, portavoz de Facebook, dijo mediante un comunicado que Instagram estaba viendo publicaciones nuevas y otro tipo de contenido relacionado con los sucesos del 27 de octubre y que estaba “analizando de manera activa las etiquetas y el contenido vinculados con esos incidentes y eliminando los que violen nuestras políticas”.

YouTube comentó que tiene políticas estrictas que prohíben el contenido que promueve el odio o incita la violencia, y agregó que elimina videos que violan esas reglas.

Las redes sociales han señalado que identificar y eliminar el discurso de odio y la desinformación —o incluso definir lo que constituye ese tipo de contenido— es difícil.

Facebook agregó este año que sus sistemas internos solo marcaron el 38 % del discurso de odio en su sitio. En contraste, sus sistemas detectaron y eliminaron el 96 % de lo que definió como imágenes de desnudez, y 99,5 % del contenido terrorista.

YouTube señaló que los usuarios reportaron casi diez millones de videos desde abril hasta junio debido a que posiblemente violaban los lineamientos de la comunidad de su plataforma. Se halló que poco menos de un millón de esos videos no cumplían con las normas y fueron eliminados, de acuerdo con datos de la empresa. Las herramientas automatizadas de detección del sitio de videos también eliminaron 6,8 millones de videos más durante ese periodo.

Un estudio por parte de investigadores del Instituto de Tecnología de Massachusetts halló que era un 70 por ciento más probable que se compartieran mentiras en Twitter que noticias fidedignas.

Facebook, Twitter y YouTube han anunciado planes para invertir grandes cantidades en inteligencia artificial y otras tecnologías con el fin de encontrar y eliminar de sus sitios contenido no deseado. Facebook también ha señalado que contrataría a diez mil personas más para trabajar en temas de seguridad y protección, y YouTube ha mencionado que planea contar con diez mil empleados dedicados a analizar videos. Jack Dorsey, director ejecutivo de Twitter, hace poco dijo que aunque el principio de la empresa desde hace mucho tiempo era la libre expresión, estaba discutiendo cómo “dar prioridad a la seguridad”.

No obstante, mientras las compañías invierten dinero y recursos para resolver estos problemas, algunos de sus empleados dijeron el lunes que estaban replanteándose si los servicios de redes sociales podían tener un efecto positivo.

El Cuarto de Guerra de Facebook en su sede en Menlo Park, California. Las repercusiones de la incapacidad de las compañías de redes sociales para manejar la desinformación y el discurso de odio se ha manifestado de manera abundante en los últimos días. CreditMónica Davey/Epa vía Rex

En Twitter, por ejemplo, los empleados están cada vez más preocupados  que la empresa esté fallando en el manejo del lenguaje tóxico y el discurso de odio, comentaron cuatro empleados y ex empleados que pidieron conservar su anonimato debido a los acuerdos de confidencialidad que habían firmado.

Los empleados dijeron que la incertidumbre comenzó en agosto, cuando Apple y otras empresas eliminaron gran parte de las publicaciones y videos de Alex Jones —que divulga teorías conspirativas y es fundador del sitio de derecha Infowars— que se encontraban en sus sitios, pero Twitter no hizo lo mismo (sino hasta semanas después). El tiroteo del sábado en la sinagoga de Pittsburgh provocó que los empleados instaran a los altos mandos de Twitter a consolidar una política sobre cómo lidiar con el discurso de odio y el contenido relacionado con la supremacía blanca, según dijeron dos personas.

Twitter no abordó el 29 de octubre las preguntas sobre las preocupaciones de sus empleados, pero señaló que la empresa debía ser “reflexiva y considerada” en cuanto a sus políticas.

“El progreso en este espacio es difícil, pero jamás hemos estado tan comprometidos y concentrados en nuestros esfuerzos”, señaló Twitter. “Atender el diálogo público e intentar que sea más sano es nuestra misión específica en este contexto”.

Instagram, que se creó como un sitio en el que las personas pueden compartir fotografías de su comida, sus mascotas adorables y sus tiernos hijos, ha evitado en gran medida el escrutinio respecto de la desinformación y el contenido de odio, sobre todo en comparación con su empresa matriz, Facebook. Sin embargo, los investigadores dedicados a las redes sociales dijeron que, en el transcurso del año pasado, el sitio se había convertido en un hervidero de publicaciones y videos de odio que tienen como objetivo provocar discordia.

Fue evidente después del tiroteo en la sinagoga de Pittsburgh, con el surgimiento de nuevo contenido antisemita en la red social de imágenes. El 28 de octubre, un nuevo video añadido a Instagram afirmaba que el Estado de Israel fue creado por los Rothschild, una familia judía adinerada. Debajo del video había etiquetas como: #Conspiracy y #JewWorldOrder (orden mundial judío).

Para el lunes por la noche, más de 1640 personas lo habían visto y compartido en otras redes sociales, entre ellas Twitter y Facebook.

https://www.nytimes.com/es/2018/11/02/redes-sociales-mensajes-odio/