Instagram tiene un problema con las drogas, y sus algoritmos solo lo empeoran

Instagram es conocida por las publicaciones de celebridades y fotos de unas vacaciones envidiables. Pero también se ha convertido en un importante mercado abierto para la publicidad de drogas ilegales.

La compañía se comprometió a tomar medidas enérgicas en las últimas semanas, pero le cuesta seguir el ritmo de sus propios algoritmos y sistemas, que ofrecen una variedad de contenido personalizado relacionado con las drogas, destinado directamente a aquellos que muestran interés en comprar sustancias de manera ilícita.

Las búsquedas recientes en Instagram, que es propiedad de Facebook Inc., para los hashtags de nombres de drogas - como #oxy, #percocet, #analgésicos, #píldorasparaeldolor, #oxycontin, #adderall y #calmantes- revelaron miles de publicaciones por parte de un grupo heterogéneo de personas; algunas luchan contra la adicción, otras se jactan de su estilo de vida festivo, y también aparecen las incitaciones de los narcotraficantes.

Seguir las cuentas de los distribuidores, o incluso “gustar” de uno de sus mensajes, hizo que los algoritmos de Instagram funcionen tal como están diseñados; en este caso, llenando el feed de una persona con publicaciones de sustancias, sugiriendo seguir a otros vendedores e introduciendo nuevos hashtags, como como #xansforsale (Xanax en venta). Los anuncios de algunas de las marcas más importantes del país, incluidas Target, Chase y Procter & Gamble, así como el propio servicio de transmisión de video de Facebook, aparecían junto a las publicaciones que venden píldoras de manera ilegal.

Aun cuando los principales ejecutivos de Facebook y Twitter Inc., que también han luchado durante mucho tiempo con publicaciones que ofrecen drogas ilegalmente, aseguraron en septiembre, durante una audiencia en el Congreso, que están tomando medidas enérgicas contra las ventas de opioides y otras drogas, sus servicios parecen ser mercados abiertos para la publicidad de dicho contenido.

La directora de operaciones de Facebook, Sheryl Sandberg, destacó que su compañía está “firmemente en contra” de dicha actividad. El presidente ejecutivo de Twitter, Jack Dorsey, resaltó que está “analizando profundamente” cómo se extiende la venta de drogas en su sitio.

Pero los activistas y otros grupos han advertido a las empresas de tecnología sobre las ventas de drogas ilegales en sus plataformas durante años. En los últimos meses, los legisladores, la Administración de Drogas y Alimentos (FDA, por sus siglas en inglés) y algunos anunciantes se han sumado a la contienda.

En abril, el comisionado de la FDA, Scott Gottlieb, acusó a las compañías de internet de no “tomar medidas prácticas para encontrar y eliminar los posteos de opioides”.

El senador Joe Manchin III (D-Virginia Occidental) calificó de “imprudentes” a las empresas de redes sociales y advirtió que “ya es hora de que pongan la vida humana por encima de las ganancias y finalmente instituyan medidas contra estas prácticas nocivas, evitando la venta de narcóticos ilegales en o a través de sus plataformas”.

La prevalencia de publicaciones de medicamentos en las redes sociales, que según la FDA ha ayudado a incrementar la epidemia de opioides -que cobró más de 40,000 vidas en Estados Unidos en 2017-, muestra cómo las compañías tecnológicas a menudo son superadas por el software que crearon.

Los algoritmos que potencian las redes sociales difunden contenidos ilícitos -incluidos anuncios de drogas ilegales, información errónea y discursos de odio- más rápido que el conocimiento que tienen las compañías para eliminarlo.

Las características más comunes de las plataformas sociales, como los hashtags y los algoritmos que brindan información personalizada, apuntan las publicaciones de venta de drogas directamente a los usuarios que expresan interés en ellas, lo cual potencialmente expone a las personas más vulnerables a las sustancias adictivas.

“Al igual que el uso de drogas reconfigura el cerebro para desear más de la sustancia, las plataformas de medios sociales han diseñado sus sitios de tal manera que, después de una búsqueda única de una droga ilícita, el algoritmo se reconfigura para anunciar sustancias al usuario ya vulnerable”, explicó Rick Lane, un asesor de política tecnológica de larga data que ayudó a impulsar la legislación conocida como FOSTA-SESTA en el Congreso este 2018.

Esa ley responsabiliza a las empresas de tecnología por la prostitución y los anuncios de tráfico sexual en sus plataformas. Ahora está presionando para crear una legislación similar para los anuncios de drogas.

La vicepresidenta de soluciones de marketing global de Facebook, Carolyn Everson, confirmó que Instagram está prestando más atención a las ventas ilegales de drogas debido a su creciente enfoque en la seguridad y la prevención de los abusos de la plataforma.

“Aún no somos lo suficientemente sofisticados para separar cada publicación para ver si se trata de venderle drogas ilegales a alguien o si están tomando Xanax porque están estresadas”, consideró Everson, refiriéndose a la tecnología de inteligencia artificial de la firma. “Obviamente, algunas cosas que pasan están totalmente en contra de nuestra política, y estamos mejorando en eso”.

Kevin Systrom y Mike Krieger, cofundadores de Instagram, precisaron el 1 de octubre por la noche que dejarán la compañía. De acuerdo con una fuente familiarizada con el tema, es probable que Adam Mossieri, un antiguo adjunto del CEO de Facebook, Mark Zuckerberg, se convierta en el próximo líder de la aplicación para compartir fotos.

“Algunos de los comportamientos emergentes que hemos visto presentaron un nuevo desafío, y estamos enfocados en enfrentarlos junto con la policía, nuestros colegas y la FDA”, ratificó Ian Plunkett, portavoz de Twitter.

Las compañías farmacéuticas pueden promocionar sus marcas en las redes sociales, pero el proceso está altamente regulado por la FDA, y las empresas y los individuos no pueden vender medicamentos a través de las redes sociales.

Las compañías de tecnología, cuya regulación es leve en comparación con las de otras industrias, enfrentan la perspectiva de normas más estrictas si no pueden controlar los problemas.

Durante las audiencias tecnológicas en septiembre, Manchin les dijo a los ejecutivos que su estado había sido afectado duramente por la adicción a los opioides y que está interesado en lanzar un proyecto de ley -inspirado en la norma sobre el tráfico sexual- que haría a las empresas responsables por la venta de drogas en sus servicios.

John Montgomery, vicepresidente ejecutivo de seguridad de marcas globales de GroupM -el gigante de compra de anuncios cuyas agencias trabajan con compañías como Procter & Gamble y Target- dijo que Instagram se estaba moviendo muy lentamente. “Con el contenido farmacéutico ilegal, hay pocos matices. Por lo tanto, debería ser posible identificar y bloquear más rápido de lo que hemos visto”, aseveró.

Instagram se ha convertido en una de las plataformas más potentes para la comercialización de sustancias, agregó Libby Baney, asesora principal del grupo de defensa Alliance for Safe Online Pharmacies. Su uso cada vez mayor entre los adolescentes, además del énfasis del servicio en lo visual, su sofisticación para personalizar el contenido y su asignación de cuentas anónimas, la han convertido en un foco de promoción ilegal de drogas.

Eric Feinberg, investigador y director ejecutivo de GIPEC, una empresa de ciberinteligencia con sede en la ciudad de Nueva York que rastrea actividades ilegales en plataformas tecnológicas, como artículos falsificados y contenidos terroristas, comenzó a buscar posteos de drogas en junio, con hashtags obvios. Encontró cientos de publicaciones de Instagram que aparecían junto al contenido de 60 anunciantes. Algunos de los distribuidores de Instagram promocionaban las cuentas de Twitter correspondientes, y Feinberg también comenzó a rastrear dichas cuentas. Algunas de ellas eran aún más descaradas y estaban activas hace años.

Una vez que siguió las cuentas de los vendedores, los algoritmos de Instagram comenzaron a enviarle publicaciones de drogas directamente a su canal, sugiriéndole a otros vendedores para seguir y presentándole hashtags adicionales que él utilizó como pistas.

En un momento dado, relató, ese tipo de publicaciones constituían alrededor del 40% de su feed. Feinberg planea vender su software de monitoreo, pero su compañía aún no obtiene ningún ingreso.

Facebook comentó que el canal de Feinberg no era una representación real de lo que ve la gran mayoría de las personas porque él solo seguía a los malos usuarios y a algunas marcas, lo cual llevó al algoritmo a agrupar los dos tipos de contenido. “Dicho esto, incluso un solo contenido malo en nuestras plataformas es demasiado, y estamos trabajando arduamente para mejorar la detección y control”, afirmó el vocero de Facebook, Joe Benarroch.

La mayoría de las publicaciones que parecían provenir de traficantes tenían un formato similar: fotos de diferentes tipos de sustancias, con subtítulos e instrucciones para ponerse en contacto con el titular de la cuenta a través de un canal fuera de Instagram, como un correo electrónico o plataformas de mensajes Wickr, Kik o WhatsApp, ésta última también propiedad de Facebook (la mayoría de las publicaciones incluían instrucciones explícitas de evitar los “DM”, o mensajes directos en Instagram, que pueden ser rastreados más fácilmente).

En los últimos meses, Instagram tomó lo que describió como un paso extremo al bloquear los resultados de búsqueda para ciertos hashtags, como #fentanilo, #cocaína y #heroína, aunque eso tuvo el efecto secundario no deseado de limitar que las personas encuentren apoyo para tratar el abuso de sustancias, indicó Everson, de Facebook. Los hashtags aún se pueden usar y los mensajes se pueden encontrar en la red de una persona, aunque no estén disponibles en una búsqueda pública.

Para sortear los hashtags bloqueados, los vendedores ahora comercializan opioides con términos relacionados con Xanax y Adderall, muchos de los cuales se pueden buscar, advirtió Feinberg. También modifican ligeramente la ortografía de los nombres de las sustancias e incluyen sus datos de contacto en las fotografías, por ejemplo -escribiéndolos en un papel y luego fotografiándolos-, para evitar las herramientas de software que pueden identificar palabras problemáticas en un título. Instagram pareció suspender algunos hashtags cuando el Washington Post les preguntó sobre ellos.

Los traficantes parecen emplear una estrategia de “postear y rezar”, diseñada para sortear el monitoreo de Instagram, dijo Feinberg. Publican con frecuencia, y los posteos individuales obtienen una pequeña cantidad de “me gusta” antes de que muchos sean eliminadas por los sistemas de Instagram dentro de las 48 a 72 horas, a menudo porque los usuarios las señalan como problemáticas. Tan pronto como se elimina una cuenta, los traficantes crean varias con nombres similares, como un grupo que incluye FoxPharm, FoxPharm12, FoxPharm69 y FoxPharm90, todas con la misma información de contacto.

Algunas parecen haber sido creadas automáticamente, indicó Feinberg, sugiriendo que los vendedores usan bots. Las variaciones del nombre le recordaron las cuentas terroristas de Estado Islámico y los grupos de desinformación, que utilizan una táctica similar.

“Ellos están jugando aquí. Los eliminan y regresan de inmediato”, afirmó Feinberg. “Si [las compañías tecnológicas] estuvieran realmente haciendo presión, no seguiríamos hallando lo que hallamos”.

Everson remarcó que Facebook e Instagram estaban en las primeras etapas del desarrollo de herramientas de inteligencia artificial que podrían avisar sobre el contenido de drogas. Ella lo comparó con los intentos de Facebook, que comenzaron hace dos años, de crear un software de inteligencia artificial que, al parecer, puede detectar la mayoría de las cuentas del Estado Islámico antes de que la gente las vea. Ahora están construyendo clasificadores visuales que pueden reconocer fotografías de píldoras particulares y detectar patrones comunes -como la inclusión de un número de teléfono para concretar la transacción- a una plataforma de mensajería cifrada.

Facebook también brinda a los anunciantes herramientas para evitar que sus mensajes aparezcan junto a ciertos editores o categorías de contenido, incluyendo tragedias o temas sociales controvertidos.

Este mes, Instagram también lanzó una notificación emergente que aparece cuando alguien busca hashtags de opioides, medicamentos recetados o drogas ilegales. La ventana emergente ofrece conectar a las personas con referencias de tratamiento gratuitas y confidenciales, e información sobre el uso, la prevención y la recuperación del abuso de sustancias.

Si quiere leer este artículo en inglés, haga clic aquí.