El reconocimiento facial puede ayudar a identificar a los alborotadores del Capitolio, pero perjudicaría a muchos otros, según los expertos
En los días posteriores al motín del 6 de enero en el Capitolio de la nación, hubo prisa por identificar a quienes habían atacado los sagrados pasillos del edificio.
Así aparecieron cuentas de Instagram con nombres como Homegrown Terrorists, que afirmaban usar software de inteligencia artificial y redes neuronales para rastrear imágenes públicas e identificar a los alborotadores.
Algunos investigadores, como el experto en ciberseguridad John Scott-Railton, expusieron que habían desplegado un software de reconocimiento facial para detectar intrusos, incluido un teniente retirado de la Fuerza Aérea que supuestamente fue visto en el Senado durante el motín.
Clearview AI, una empresa líder en reconocimiento facial, notó un aumento del 26% en su uso, por parte de las agencias del orden, el 7 de enero.
Un mal momento para la democracia estadounidense se había convertido en un buen momento para la tecnología de reconocimiento facial.
La promesa de que el reconocimiento facial ayudará a las autoridades a resolver más casos, y a hacerlo rápidamente, ha llevado a un uso cada vez mayor en todo el país.
Las preocupaciones sobre la privacidad no impidieron la propagación de la tecnología: las agencias policiales realizaron 390.186 búsquedas en la base de datos para encontrar coincidencias faciales entre imágenes o videos de más de 150.000 personas entre 2011 y 2019, según un informe de la Oficina de Responsabilidad del Gobierno de EE.UU.
Tampoco el creciente volumen de evidencia que muestra que la implementación del reconocimiento facial y otras tecnologías de vigilancia dañaron desproporcionadamente a las comunidades de color.
Los fiscales del juicio político a Donald Trump dicen que demostrarán que el entonces presidente no fue un “espectador inocente”
Sin embargo, a raíz de un motín que incluyó a facciones supremacistas blancas que intentaban derrocar los resultados de las elecciones presidenciales, son las comunidades de color las que advierten sobre el peligro potencial de este software.
“Es muy complicado”, remarcó Chris Gilliard, profesor del Macomb Community College e investigador visitante del Shorenstein Center, de la Escuela Kennedy de Harvard.
“No deseo que parezca que no quiero que los supremacistas blancos o los insurrectos rindan cuentas. Pero creo que, como sistémicamente la mayoría de esas fuerzas se concentran en contra de la gente negra, morena y los inmigrantes, es una cuerda muy floja. Tenemos que ser cuidadosos”.
Las comunidades negras, morenas, pobres, trans e inmigrantes son “rutinariamente observadas en exceso”, aseguró Steve Renderos, director ejecutivo de Media Justice, y eso no es diferente cuando se trata de vigilancia.
“Esa es siempre la respuesta a momentos de crisis: ampliemos nuestra vigilancia, ampliemos su alcance”, comentó Renderos. “Pero no ha contribuido mucho a mantener a nuestras comunidades realmente a salvo de la violencia”.
Sesgos y reconocimiento facial
El 9 de enero de 2020, casi un año antes de los disturbios en el Capitolio, la policía de Detroit arrestó a un hombre negro llamado Robert Williams, bajo sospecha de robo.
En el proceso de su interrogatorio, se aclararon dos cosas: que las autoridades lo habían arrestado basándose en un escaneo de reconocimiento facial de las imágenes de vigilancia, y que la “computadora debe haberse equivocado”, según una cita del oficial que lo interrogó, en una denuncia presentada por la ACLU.
Los cargos contra Williams finalmente fueron retirados.
Williams es uno de los dos casos conocidos de arresto indebido por reconocimiento facial. Es difícil precisar cuántas veces esa tecnología generó la detención o acusación de la persona equivocada, porque no siempre está claro cuándo se ha utilizado la herramienta. En este caso, se supo porque el oficial interrogador lo admitió.
Gilliard argumenta que episodios como el de Williams pueden ser más frecuentes de lo que el público sabe. “No creo que sea la primera vez que ocurre. Es solo la primera vez que las autoridades lo reconocen, gracias a un acto fallido”, comentó Gilliard.
La tecnología de reconocimiento facial funciona capturando, indexando y luego escaneando bases de datos de millones de imágenes de rostros de personas (641 millones en 2019, en el caso de la unidad de reconocimiento facial del FBI), para identificar similitudes. Esas imágenes pueden provenir de bases de datos gubernamentales, como fotos de licencias de conducir o, en el caso de Clearview AI, archivos extraídos de redes sociales u otros sitios web.
Las investigaciones muestran que la tecnología no ha logrado identificar correctamente a los individuos de color. Un estudio federal publicado en 2019 informó que las personas negras y asiáticas tenían aproximadamente 100 veces más probabilidades de ser identificadas erróneamente por el reconocimiento facial, que las blancas.
El problema puede estar en cómo se entrena el software y quién lo hace. Un estudio publicado por el AI Now Institute, de la Universidad de Nueva York, concluyó que la inteligencia artificial puede ser moldeada por el entorno en el que se construye. Eso incluiría a la industria tecnológica, conocida por su falta de diversidad racial y de género.
Estos sistemas se desarrollan casi exclusivamente en espacios que “tienden a ser extremadamente blancos, ricos, con orientación técnica y masculinos”, se lee en el estudio. Esa falta de diversidad puede extenderse a los conjuntos de datos que informan a algunos softwares de reconocimiento facial, ya que los estudios demostraron que varios fueron entrenados en gran medida utilizando bases de datos compuestas por imágenes de hombres de piel más clara.
Pero los defensores del reconocimiento facial argumentan que cuando la tecnología se desarrolla adecuadamente —sin prejuicios raciales— y se vuelve más sofisticada, en realidad puede ayudar a evitar casos de identificación errónea.
El director ejecutivo de Clearview AI, Hoan Ton-That, señaló que, según un estudio independiente, el software de su empresa no tiene prejuicios raciales. “Como persona de raza mixta, tener tecnología imparcial es importante para mí”, remarcó Ton-That. “El uso responsable de una tecnología de reconocimiento facial precisa y sin sesgos ayuda a reducir la posibilidad de detener al individuo equivocado. Hasta la fecha, no sabemos de ningún caso en el que Clearview AI haya generado un arresto injusto”.
Jacob Snow, abogado de la ACLU, que obtuvo una copia del estudio en una solicitud de registros públicos a principios de 2020, cuestionó ese informe y declaró a BuzzFeed News que era “absurdo en muchos niveles”.
Más de 600 agencias policiales usan Clearview AI, según el New York Times. Y eso podría aumentar ahora. Poco después del ataque al Capitolio, un departamento de policía de Alabama y la policía de Miami utilizaron el software de la empresa para identificar a quienes participaron en los disturbios. “Estamos trabajando duro para estar al día con el creciente interés en Clearview AI”, expresó Ton-That.
Teniendo en cuenta la desconfianza y la falta de fe en las autoridades del orden en la comunidad negra, mejorar la tecnología de reconocimiento facial para detectar personas negras y morenas no es necesariamente una mejora bienvenida. “No es un progreso social hacer que la gente negra sea igualmente visible para el software, que inevitablemente será armado aún más contra nosotros”, escribió la candidata a un doctorado y activista Zoé Samudzi.
Responder con vigilancia
En los días posteriores a los disturbios del Capitolio, la búsqueda de los “malos” se apoderó de internet. A los detectives civiles de la web se les unieron académicos, investigadores y periodistas en las redes sociales, para identificar a los alborotadores. Algunos reporteros incluso usaron software de reconocimiento facial para informar lo que estaba sucediendo dentro del Capitolio. El FBI pidió colaboración con información, específicamente fotos o videos que mostraran disturbios o violencia, y muchos de los que recorrieron internet o usaron reconocimiento facial para identificar a los alborotadores respondieron a ese pedido.
Los republicanos argumentaron que la Constitución no permite que el juicio siga adelante. Pero los demócratas y muchos expertos legales dijeron lo contrario.
El instinto de actuar rápidamente en respuesta a las crisis es familiar, no solo para las fuerzas del orden, sino también para los legisladores. Inmediatamente después de los disturbios, la Asociación de Agentes del FBI pidió al Congreso que convierta el terrorismo doméstico en un delito federal. El presidente Biden solicitó una evaluación de la amenaza del terrorismo nacional y está coordinando un accionar con el Consejo de Seguridad Nacional, para “mejorar y acelerar” iniciativas que contrarresten el extremismo nacional, según NBC News.
Pero existe la preocupación de que la lucha por reaccionar lleve a políticas apresuradas y un mayor uso de herramientas de vigilancia que, en última instancia, puedan dañar a las comunidades negras y latinas.
“El impulso es atrapar a los malvados”, señaló Gilliard. “Pero normalizar una tecnología que es singularmente peligrosa causa muchos más problemas”.
Días después de los disturbios, el representante Lou Correa (D-Santa Ana) ayudó a reintroducir un proyecto de ley llamada Prevención del Terrorismo Doméstico, que según Correa tiene como objetivo facilitar a los legisladores la obtención de más información sobre la persistente amenaza del terrorismo doméstico mediante la creación de tres nuevas oficinas para vigilarlo y prevenirlo.
También reconoció los peligros potenciales del reconocimiento facial, pero consideró que es cuestión de equilibrarlos con los beneficios potenciales.
“El reconocimiento facial es una daga de doble filo”, comentó Correa. “Si se le usa correctamente, protege nuestras libertades. Si se le maneja mal, entonces nuestra privacidad y nuestras libertades, que intentamos proteger, podrían estar en peligro”.
El principal abogado del expresidente Donald Trump en su juicio político ante el Senado del país, Bruce Castor, sorprendió este martes a los senadores con un discurso inicial que fue más bien una divagación sin rumbo ni argumento claro, que lo convirtió en tendencia en Twitter.
Aparte del reconocimiento facial, a los activistas les preocupan los llamados a que los civiles rastreen las redes sociales como un medio para dar consejos a las fuerzas del orden.
“Las personas no capacitadas que investigan en internet pueden terminar haciendo más daño que bien, incluso teniendo las mejores intenciones”, reflexionó Evan Greer, director del grupo de derechos digitales y privacidad Fight for the Future. Greer citó la respuesta al bombardeo en el maratón de Boston en Reddit, cuando un foro llamado Find Boston Bombers (encontrar a quienes bombardearon Boston) nombró erróneamente a varios individuos como sospechosos.
“Siempre hay que preguntarse cómo es posible que eso termine siendo usado en uno mismo y en su comunidad”, resaltó.
Históricamente, los ataques en suelo estadounidense han provocado políticas de vigilancia y control que, según las investigaciones, dañaron a los grupos minoritarios. Eso es motivo de preocupación para las comunidades musulmanas, árabes y negras, tras los disturbios en el Capitolio.
Después del atentado con bombas en la ciudad de Oklahoma, cuando los extremistas antigubernamentales mataron a 168 personas, el gobierno federal promulgó rápidamente la Ley de Antiterrorismo y Pena de Muerte Efectiva de 1996, que, según escribió el Marshall Project, “ha impactado de manera desproporcionada a los acusados de delitos de razas negra y morena, así como a inmigrantes”.
Un hombre que participó en el asalto al Capitolio con la cara pintada, un casco con cuernos y sin camisa se expresó arrepentido por su participación en la violencia y desilusionado por el expresidente Donald Trump
Incluso las leyes de delitos de odio tienen un efecto desproporcionado en las comunidades negras. Los negros representaron el 24% de todos los acusados por crímenes de odio en 2019, aunque solo conforman el 13% de la población de EE.UU, según las estadísticas del Departamento de Justicia.
“Siempre que han promulgado leyes que abordan la violencia blanca, el revés para los negros es mucho mayor”, enfatizó Margari Hill, directora ejecutiva de la Muslim Anti-Racism Collaborative, en un panel de inauguración organizado por el comité de acción política musulmana Emgage.
En respuesta al 11 de Septiembre, los gobiernos federales y locales implementaron varios programas de vigilancia general en todo el país —más notoriamente en la ciudad de Nueva York— que según la ACLU y otros grupos de derechos violaban la privacidad y los derechos civiles de muchos musulmanes y árabes estadounidenses.
Muchos grupos de derechos civiles que representan a comunidades de color no confían en las perspectivas de que la aplicación de la ley utilice las mismas herramientas para erradicar el extremismo de derecha y, en algunos casos, la supremacía blanca.
“[La policía] sabe que la supremacía blanca es una amenaza real, y que quienes se levantan como justicieros violentos son una amenaza auténtica”, expresó Lau Barrios, gerente de campaña de la organización comunitaria musulmana MPower Change, refiriéndose a un informe del Departamento de Seguridad Nacional que, en octubre de 2020, identificó a los supremacistas blancos como la amenaza más persistente y letal que enfrenta el país.
Un resultado negativo de la polarización política son las mentes cerradas que no están abiertas a los hechos y al pensamiento independiente. El ejemplo más reciente es el de tantos republicanos que se creen la mentira de Trump de que le “robaron” las elecciones mediante el fraude electoral.
En cambio, centran sus recursos en movimientos como Black Lives Matter, añadió. “Eso fue lo que les dio más miedo que la violencia de la supremacía blanca, aunque no son de ninguna manera comparables”.
Estos grupos también alegan que cualquier llamado a una mayor vigilancia es infundado. Los disturbios en el Capitolio fueron planeados abiertamente, en foros públicos y de fácil acceso a través de internet, y la policía del Capitolio fue advertida con anticipación por sus pares de Nueva York y el FBI, argumentan. No hay escasez de mecanismos de vigilancia ya disponibles para las fuerzas del orden, señalan.
El aparato de vigilancia en Estados Unidos es vasto e implica cientos de grupos de trabajo conjuntos contra el terrorismo, cientos de departamentos de policía equipados con drones e incluso más, que se han asociado con la red Ring de Amazon, señaló Renderos.
“Ser negro, ser musulmán, ser mujer, ser un inmigrante en Estados Unidos es estar vigilado”, concluyó. “¿Cuánta vigilancia más se necesita para protegernos? La respuesta corta es que la vigilancia no nos protegerá”.
Para leer esta nota en inglés haga clic aquí
Las propuesta de la boleta electoral de California en detalle | Elección 2020
Suscríbase al Kiosco Digital
Encuentre noticias sobre su comunidad, entretenimiento, eventos locales y todo lo que desea saber del mundo del deporte y de sus equipos preferidos.
Ocasionalmente, puede recibir contenido promocional del Los Angeles Times en Español.
