La Unión Americana de Libertades Civiles (ACLU) ha presentado una queja formal contra la policía de Detroit por lo que dice es el primer ejemplo conocido de un arresto ilícito causado por una tecnología de reconocimiento facial defectuosa.
Robert Julian-Borchak Williams, un hombre afroamericano, fue arrestado después de que un sistema de reconocimiento facial combinara falsamente su foto con imágenes de seguridad de un ladrón de tiendas. El New York Times informa que la ACLU está pidiendo que se desestime el caso de Williams y que su información se elimine de las bases de datos criminales de Detroit, y los fiscales han acordado eliminar sus datos.
La tecnología de reconocimiento facial ha sido criticada durante años, y los investigadores demuestran que está sesgada contra miembros de diferentes razas y etnias. Pero su uso por parte de la policía se ha vuelto aún más controvertido en las últimas semanas tras las protestas nacionales contra la brutalidad y el racismo policiales . Ahora, el caso de Williams muestra la realidad de lo que sucede cuando una tecnología defectuosa choca con un mal trabajo policial.
El NYT informa que el robo del que Williams fue acusado tuvo lugar en octubre de 2018, y en marzo de 2019, se subió un fotograma del video de vigilancia de la tienda a la base de datos de reconocimiento facial del estado de Michigan. Esto habría generado una serie de coincidencias fotográficas, que luego se proporcionaron como parte de un documento que decía que no eran "causa probable de arresto". Sin embargo, sin embargo, llevaron a que la imagen de Williams se incluyera en una alineación de fotos que se mostró al guardia de seguridad de la tienda. Este guardia, que según la ACLU no presenció el robo de primera mano, identificó positivamente a Williams.
La identificación llevó a Williams a ser arrestado en el camino de entrada de su casa en enero, luego de lo cual fue puesto bajo custodia policial por un total de 30 horas. Williams ha explicado el arresto en un artículo de opinión para The Washington Post . Él dice que en una entrevista con la policía sostuvo una foto del ladrón junto a su propia cara, después de lo cual uno de los detectives dijo: "la computadora debe haberlo entendido mal".
Aunque el caso de Williams fue desestimado dos semanas después de ser arrestado, fue desestimado "sin prejuicios", dejándolo abierto a ser acusado nuevamente, señala el NYT . Además, la ACLU dice que como resultado del arresto, la muestra de ADN de Williams, la fotografía policial y las huellas digitales están archivadas, y que su arresto está registrado.
Un portavoz de la policía de Detroit le dijo al NYT que el departamento había aceptado la decisión del fiscal de desestimar el caso, y que a partir de julio de 2019 la política del departamento era usar solo el reconocimiento facial para investigar crímenes violentos.
La historia de Williams se produce cuando varias compañías tecnológicas de alto perfil, incluidas IBM , Microsoft y Amazon , han anunciado que detendrán o pausarán su trabajo de reconocimiento facial para la policía. "Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deben emplear la tecnología de reconocimiento facial y cómo deben hacerlo", dijo el CEO de IBM, Arvind Krishna, en un comunicado a principios de este mes.
Pero muchos expertos en reconocimiento facial dicen que debe haber una moratoria más larga en el uso de la tecnología, y que algunas empresas simplemente pueden estar esperando el ciclo de noticias actual antes de comenzar a vender a la policía una vez más. Sin embargo, como destaca el caso de Williams, los daños que un falso arresto puede causar en la vida de alguien son más difíciles de olvidar.
"Mis hijas no pueden ver que me esposen y me suban a un coche de policía", escribe Williams en su artículo de opinión. “Pero pueden verme usar esta experiencia para traer algo bueno al mundo. Eso significa ayudar a asegurarme de que mis hijas no crezcan en un mundo donde su licencia de conducir o sus fotos de Facebook puedan ser utilizadas para localizarlas, rastrearlas o dañarlas ”.
Actualización, 2:52 PM ET: Agregó que los fiscales han acordado eliminar los datos de Williams.