Facebook detecta a los usuarios que tienen interés ​​en los nazis y permite que los anunciantes lleguen directamente a ellos

Facebook gana dinero cobrando por facilitar a los anunciantes el que lleguen a la audiencia correcta para su tipo de mensaje, incluso, cuando este grupo de usuarios está interesado en los autores del Holocausto o en música explícitamente neonazi.

A pesar de las promesas de una mayor supervisión tras escándalos publicitarios pasados, un estudio del Times muestra que Facebook ha seguido permitiendo a los anunciantes ubicar a miles de usuarios, que de acuerdo a la firma de medios sociales, tienen interés sobre temas como “Joseph Goebbels”, “Josef Mengele”, “ Heinrich Himmler”, la banda neo-nazi de punk Skrewdriver y el desaparecido Partido Nacional Fascista de Benito Mussolini.

Los expertos dicen que esta práctica va en contra de los principios establecidos por la compañía y que esto ocasionaría un impulso a la radicalización online.

“Lo que argumentas, sobre una idea o narrativa de odio clara, que se puede difundir para llegar a más personas, es exactamente lo que habían anunciado que no querían hacer, por lo tanto, deben cumplir con esa responsabilidad”, dijo Oren Segal, director del Centro de la Liga Antidifamación Sobre el Extremismo.

Después de ser contactado por el Times, Facebook dijo que eliminaría muchas de esas agrupaciones de la audiencia de su plataforma publicitaria.

“La mayoría de estas inclinaciones ideológicas están en contra de nuestras políticas y deberían haber sido detectadas y eliminadas con anterioridad”, dijo el portavoz de Facebook, Joe Osborne. “Tenemos una revisión continua de nuestras opciones de orientación, pero claramente, debemos hacer más, por lo que estamos analizando a fondo nuestras políticas y métodos de detección”.

Aprobado por Facebook

El amplio alcance y las sofisticadas herramientas publicitarias de Facebook generaron un récord de $ 55.000 millones en ingresos publicitarios en 2018.

Los márgenes de ganancias se mantuvieron por encima del 40%, gracias a un alto grado de automatización, y los algoritmos clasificaron a los usuarios en subconjuntos comercializables según su comportamiento, y luego eligieron qué anuncios mostrar.

Pero la falta de supervisión humana también ha traído controversia a la compañía.

En 2017, Pro Pública descubrió que la compañía vendía anuncios basados en frases generadas por el usuario, incluidos “los que odian a los judíos” y “Hitler no hizo nada malo”. Tras el asesinato de 11 miembros de una sinagoga en Pittsburgh en 2018, la Intercepción encontró que Facebook dio a los anunciantes la capacidad de dirigirse a usuarios interesados en la “teoría de conspiración del genocidio blanco” antisemita, que el presunto asesino citó como inspiración antes de los ataques.

Este mes, The Guardian destacó la forma en que YouTube y Facebook impulsan las teorías de conspiración contra las vacunas, lo que lleva al congresista Adam Schiff (D-Burbank) a cuestionar si la compañía estaba promoviendo información errónea.

Facebook ha prometido desde 2017 que revisarán cada categoría de anuncios. El otoño pasado anunció la eliminación de 5,000 categorías de audiencia donde se corría el riesgo de permitir el abuso o la discriminación.

El Times decidió probar la efectividad de los esfuerzos de la compañía al comprobar si Facebook permitiría la venta de anuncios dirigidos a ciertos segmentos de usuarios.

Facebook permitió al Times dirigir anuncios a los usuarios que la plataforma había determinado que estaban interesados en Goebbels, el principal propagandista del Tercer Reich, Himmler, el arquitecto del Holocausto y líder de las SS, y Mengele, el infame doctor del campo de concentración que realizó experimentos con los prisioneros. Cada categoría incluía cientos de miles de usuarios.

La compañía también aprobó un anuncio dirigido a los fanáticos de Skrewdriver, una notoria banda de punk supremacista blanca, y sugirió automáticamente una serie de temas relacionados con los movimientos europeos de extrema derecha para reforzar el alcance del anuncio.

En conjunto, los anuncios fueron vistos por 4 mil 153 usuarios en 24 horas, por un pago del Times de sólo $ 25.

Facebook admite que sus empleados moderadores deberían haber eliminado las categorías demográficas afiliadas a los nazis. Pero dice que los “anuncios” por sí mismos, que consistían en la palabra “prueba” o el logotipo del Times y estaban vinculados a la página de inicio del periódico, no habrían puesto señales de alerta para el equipo que analiza el contenido del anuncio.

Tras la verificación hecha por el Times, la compañía manifestó que las categorías de anuncios rara vez se utilizaban. Los pocos anuncios comprados están vinculados a contenido histórico, dijo Facebook, pero la compañía no proporcionó más detalles sobre su origen.

“¿Por qué es mi trabajo vigilar su plataforma?”

El Times fue informado por un músico de Los Ángeles que pidió permanecer en el anonimato por temor a represalias por parte de los grupos de odio.

A principios de este año, trató de promover un concierto con su grupo de hardcore punk y una banda de black metal en Facebook. Cuando escribió “black metal” en el portal de anuncios de Facebook, dijo sentirse molesto cuando la compañía sugirió que también podría pagar por los usuarios interesados en el “black metal nacional socialista”, una audiencia potencial de cientos de miles.

La música punk y metal, y el black metal en particular, tienen una larga lucha con corrientes de contracultura de supremacía blanca. El Black Metal surgió de la temprana escena del metal noruego, que vio a miembros prominentes condenados por quemar iglesias, asesinar a otros músicos y planear atentados. Desde entonces, algunas bandas y sus fanáticos han combinado el antisemitismo, el neopaganismo y la promoción de la violencia en el subgénero distintivo del black metal nacional socialista, que el Southern Poverty Law Center describió como una herramienta peligrosa de reclutamiento de la supremacía blanca hace casi 20 años.

Pero los fanáticos del punk y el metal han rechazado el odio. En 1981, los Dead Kennedys lanzaron “Nazi Punks F --- Off”; el mes pasado, 15 bandas de metal tocaron en un festival antifascista en Brooklyn.

Los músicos se veían a sí mismos como parte de esa tradición.

“Crecí en un ambiente punk en Miami, donde había nazis, invadían los conciertos como un lugar donde sabían que podían dejar escapar su violencia”, aseguró el músico.

Así que sintió que era su deber ponerse en contacto con Facebook y expresar su disgusto.

Posteriormente, Facebook eliminó la agrupación de la plataforma, pero al músico aún le parece inconcebible que el “black metal nacional socialista” era una categoría, y además una categoría que la misma compañía directamente lo impulsó a seguir.

Madriguera de odio

Después de revisar las capturas de pantalla que verificaban la historia del músico, el Times investigó si Facebook permitiría a los anunciantes apuntar explícitamente a bandas neonazis u otros términos asociados con grupos de odio.

Comenzamos con Skrewdriver, una banda británica con una canción llamada “White Power” y un álbum que lleva el nombre de un lema juvenil de Hitler. Como la banda solo tenía 2,120 usuarios identificados como fanáticos, Facebook nos informó que tendríamos que agregar más datos demográficos para publicar el anuncio.

El mensaje nos llevó por un sin fin de términos que estaban relacionados con la ideología del supremacista blanco.

Primero, recomendó “Thor Steinar”, una marca de ropa que ha sido prohibida en el parlamento alemán por su asociación con el neonazismo. Luego, recomendó “Grupo NPD”, el nombre tanto de una importante firma estadounidense de investigación de mercado como de un partido político alemán de extrema derecha asociado con el neonazismo. Entre los siguientes términos recomendados estaban “flüchtlinges”, la palabra alemana para “refugiados” y “nacionalismo”.

Facebook dijo que las categorías “Flüchtlinges”, “Nationalism” y “Grupo NPD” están en línea con sus políticas y no se eliminarían a pesar de aparecer como sugerencias automáticas después de los términos neonazis. (Facebook dijo que había encontrado que los usuarios interesados en el Grupo NPD estaban realmente buscando a la firma estadounidense de investigación de mercado).

A raíz de controversias pasadas, Facebook ha bloqueado los anuncios dirigidos a aquellos interesados en los términos más obvios relacionados con los grupos de odio. “Nazi”, “Hitler”, “supremacía blanca” y “Holocausto” no producen nada en la plataforma publicitaria. Pero los anunciantes podrían apuntar a más de un millón de usuarios con interés en Goebbels o el Partido Nacional Fascista, que se disolvió en 1943. Himmler tenía casi 95.000 usuarios interesados, Mengele tenía 117.150, un número que aumentó durante la duración de nuestros informes, a 127.010.

Facebook dijo que estas categorías se generaban automáticamente en función de la actividad del usuario: si les gustaba o comentaban los anuncios o se unían a ciertos grupos. Pero no proporcionó detalles específicos sobre cómo determinó el interés de un usuario en temas vinculados a los nazis.

“Incrementando posibilidades de expansión”

Los anuncios se publicaron en Instant Articles, que están alojados en Facebook, en lugar de vincularse al sitio web de un editor, publicados por las páginas de Facebook de una amplia gama de medios de comunicación.

Estos incluyen artículos en el Daily Wire, CNN, HuffPost, Mother Jones, Breitbart, BBC y ABC News. También incluyeron artículos de páginas virales con nombres como Pupper Doggo, I Love Movies y Right Health Today, una compañía de medios aparentemente extinta, cuya única publicación en Facebook era un enlace a un artículo, ahora eliminado, titulado “¿Cuál es el beneficio de comer una manzana todos los días?”.

Segal, el director de ADL, dijo que Facebook podría terminar fomentando el reclutamiento de nuevos extremistas al publicar dichos anuncios en páginas que un lector de noticias ordinario podría visitar.

“Ser un peligro, es poder accesar a un mayor número de personas con ideas extremistas, lo cual existe literalmente en el mismo espacio que las noticias legítimas o de contenido social”, afirmó Segal. “Lo que estás haciendo, es incrementar la posibilidad de llegar más rápido a los usuarios”.

Algunos críticos sostienen que el potencial de explotación está integrado en el funcionamiento fundamental de las plataformas publicitarias como la de Facebook, independientemente de si el objetivo de determinada demografía es explícitamente extremista.

“La publicidad digital enfocada con precisión permite a los anunciantes anónimos, no se sabe con qué intenciones, probar los mensajes que intentan aprovechar alguna vulnerabilidad y canalizarlos en alguna dirección particular”, dijo Anthony Nadler, profesor del Colegio Ursinus en Pensilvania que investiga cómo las redes sociales y las plataformas publicitarias pueden ayudar a radicalizar y diseminar la desinformación. “Me imagino que los supremacistas blancos más sofisticados del mundo están tratando de descubrir cómo expandir su base”.

Para leer esta nota en inglés, haga clic aquí.