Microsoft ha seguido a los competidores Amazon e IBM al restringir cómo proporciona tecnología de reconocimiento facial a terceros, en particular a las agencias de aplicación de la ley. La compañía dice que actualmente no proporciona la tecnología a la policía, pero ahora dice que no lo hará hasta que haya leyes federales que regulen cómo se puede implementar de manera segura y sin infringir los derechos humanos o las libertades civiles.
IBM dijo a principios de esta semana que cesará por completo todas las ventas, el desarrollo y la investigación de la controvertida tecnología. Amazon dijo el miércoles que dejaría de proporcionarlo a la policía durante un año para darle tiempo al Congreso para establecer "regulaciones más estrictas para regular el uso ético de la tecnología de reconocimiento facial".
El presidente de Microsoft, @BradSmi, dice que la compañía no vende software de reconocimiento facial a los departamentos de policía. en los Estados Unidos hoy y no venderá las herramientas a la policía hasta que exista una ley nacional "basada en los derechos humanos". #postlive pic.twitter.com/lwxBLjrtZL
– Washington Post Live (@postlive) 11 de junio de 2020
El presidente de Microsoft, Brad Smith, se hizo eco de la posición de Amazon el jueves al describir el nuevo enfoque de la compañía para el reconocimiento facial: no descarta que algún día venda la tecnología a la policía, sino que pide primero una regulación.
"Como resultado de los principios que hemos establecido, hoy no vendemos tecnología de reconocimiento facial a los departamentos de policía en los Estados Unidos", dijo Smith al Washington Post . “Pero sí creo que este es un momento en el tiempo que realmente nos llama a escuchar más, aprender más y, lo más importante, hacer más. Dado eso, hemos decidido que no venderemos el reconocimiento facial a los departamentos de policía en los Estados Unidos hasta que tengamos una ley nacional sobre derechos humanos que regirá esta tecnología ".
Smith dijo que Microsoft también "establecería algunos factores de revisión adicionales para que estemos analizando otros usos potenciales de la tecnología que va más allá de lo que ya tenemos". Eso parece indicar que Microsoft aún puede brindar reconocimiento facial a grupos de derechos humanos para combatir el tráfico y otros abusos, como Amazon dijo que continuaría haciendo con su plataforma Rekognition.
En medio de las continuas protestas en todo Estados Unidos y el mundo contra el racismo y la brutalidad policial y una conversación nacional sobre la injusticia racial, la industria de la tecnología está contando con su propio papel en proporcionar a las agencias de aplicación de la ley tecnología no regulada y potencialmente sesgada racialmente.
La investigación ha demostrado que los sistemas de reconocimiento facial, debido a que están entrenados con conjuntos de datos compuestos principalmente de hombres blancos, tienen problemas importantes para identificar a las personas de piel más oscura e incluso para determinar el género de esas personas. Investigadores de inteligencia artificial, activistas y legisladores han alertado durante años acerca de la venta de la tecnología a la policía , advirtiendo no solo contra el sesgo racial, sino también las violaciones de los derechos humanos y la privacidad inherentes a una tecnología que podría contribuir al aumento de los estados de vigilancia.
Si bien Microsoft ha vendido previamente el acceso de los departamentos de policía a dicha tecnología, la compañía ha adoptado un enfoque más basado en principios desde entonces. El año pasado, Microsoft negó el acceso de las fuerzas del orden público de California a su tecnología de reconocimiento facial debido a las violaciones de los derechos humanos. También anunció que ya no invertiría en empresas de terceros que desarrollen la tecnología en marzo, luego de las acusaciones de que una startup israelí en la que Microsoft invirtió proporcionó la tecnología al gobierno de Israel para espiar a los palestinos. (Microsoft declaró más tarde que su investigación interna descubrió que la compañía, AnyVision, "no ha impulsado previamente y actualmente no impulsa un programa de vigilancia masiva en Cisjordania", pero de todos modos se desvió de la compañía).
Microsoft ha sido un defensor vocal de la regulación federal que dictaría cómo se pueden usar dichos sistemas y qué protecciones se implementarán para proteger la privacidad y proteger contra la discriminación. El propio Smith ha expresado públicamente su preocupación por los peligros del reconocimiento facial no regulado desde al menos 2018. Pero la compañía también fue atrapada el año pasado al proporcionar un conjunto de datos de reconocimiento facial de más de 10 millones de rostros, incluidas imágenes de muchas personas que no estaban al tanto y no consintió su participación en el conjunto de datos . La compañía desconectó el conjunto de datos solo después de una investigación del Financial Times .
Según la Unión Estadounidense de Libertades Civiles (ACLU), Microsoft, tan recientemente como este año, apoyó la legislación en California que permitiría a los departamentos de policía y las empresas privadas comprar y usar dichos sistemas. Eso sigue las leyes de San Francisco, Oakland y otras ciudades de California que prohibieron el uso de la tecnología por parte de la policía y los gobiernos el año pasado. El proyecto de ley, AB 2261 , fracasó la semana pasada, en una victoria para la ACLU y la coalición de 65 organizaciones que se unieron para combatirlo.
Matt Cagle, abogado de tecnología y libertades civiles de la ACLU con su sucursal del norte de California, emitió esta declaración el jueves con respecto a la decisión de Microsoft:
Cuando incluso los creadores de reconocimiento facial se niegan a vender esta tecnología de vigilancia porque es muy peligrosa, los legisladores ya no pueden negar las amenazas a nuestros derechos y libertades. El Congreso y las legislaturas de todo el país deben detener rápidamente el uso del reconocimiento facial por parte de las fuerzas del orden público, y las compañías como Microsoft deberían trabajar con la comunidad de derechos civiles, no en contra, para que eso suceda. Esto incluye detener sus esfuerzos actuales para avanzar en la legislación que legitimaría y expandiría el uso policial del reconocimiento facial en múltiples estados en todo el país.
No debería haber llevado los asesinatos policiales de George Floyd, Breonna Taylor y demasiadas personas negras, cientos de miles de personas que salieron a las calles, brutales ataques policiales contra manifestantes y periodistas, y el despliegue de vigilancia militar. equipo en protestas lideradas por activistas negros para que estas compañías despierten a las realidades cotidianas de la vigilancia policial para las comunidades negras y marrones. Damos la bienvenida a estas compañías que finalmente toman medidas, tan poco y tan tarde como sea posible. También instamos a estas compañías a que trabajen para cerrar para siempre la puerta del sórdido capítulo estadounidense de vigilancia excesiva de las comunidades negras y marrones, incluidas las tecnologías de vigilancia que las perjudican desproporcionadamente.
Ningún proyecto de ley respaldado por la empresa debe tomarse en serio a menos que las comunidades más afectadas digan que es la solución correcta.