Amazon prohíbe el uso policial de su reconocimiento facial durante un año

215

Amazon prohibió el miércoles el uso de la tecnología de reconocimiento facial por parte de la policía durante un año, lo que lo convierte en el último gigante tecnológico que se alejó del uso de sistemas de aplicación de la ley que han sido criticados por identificar incorrectamente a las personas con piel más oscura.

La compañía con sede en Seattle no dijo por qué tomó medidas ahora. Las protestas en curso tras la muerte de George Floyd han centrado la atención en la injusticia racial en los Estados Unidos y en cómo la policía usa la tecnología para rastrear a las personas. Floyd murió el 25 de mayo después de que un oficial de policía blanco de Minneapolis presionó su rodilla en el cuello del hombre negro esposado durante varios minutos, incluso después de que Floyd dejó de moverse y suplicar por aire.

Las agencias de aplicación de la ley utilizan el reconocimiento facial para identificar a los sospechosos, pero los críticos dicen que puede ser mal utilizado. Varias ciudades de EE. UU. Han prohibido su uso por parte de la policía y otras agencias gubernamentales, lideradas por San Francisco el año pasado.

El martes, IBM dijo que salir del negocio de reconocimiento facial, teniendo en cuenta las preocupaciones acerca de cómo la tecnología puede ser utilizada para la vigilancia de masas y los perfiles raciales.

Los grupos de derechos civiles y los propios empleados de Amazon han presionado a la compañía para que deje de vender su tecnología, llamada Rekognition, a las agencias gubernamentales, diciendo que podría usarse para invadir la privacidad de las personas y atacar a las minorías.

En una publicación de blog el miércoles, Amazon dijo que esperaba que el Congreso estableciera regulaciones más estrictas para el reconocimiento facial.

«La decisión de Amazon es un paso simbólico importante, pero esto realmente no cambia el panorama del reconocimiento facial en los Estados Unidos, ya que no es un jugador importante», dijo Clare Garvie, investigadora del Centro de Privacidad y Tecnología de la Universidad de Georgetown. Su investigación de registros públicos encontró que solo dos agencias de EE. UU. Utilizan o prueban Rekognition. La Oficina del Sheriff del Condado de Washington en Oregon ha sido la más pública sobre su uso. El departamento de policía de Orlando lo probó, pero decidió no implementarlo, dijo.

Los estudios dirigidos por la investigadora del MIT Joy Buolamwini encontraron disparidades raciales y de género en el software de reconocimiento facial. Esos hallazgos estimularon a Microsoft e IBM a mejorar sus sistemas, pero irritaron a Amazon, que el año pasado atacó públicamente sus métodos de investigación. Un grupo de académicos de inteligencia artificial, incluido el ganador del primer premio de ciencias de la computación, lanzó el año pasado una enérgica defensa de su trabajo y pidió a Amazon que dejara de vender su software de reconocimiento facial a la policía.

Un estudio realizado el año pasado por una agencia de Estados Unidos afirmó las preocupaciones sobre los defectos de la tecnología. El Instituto Nacional de Estándares y Tecnología probó los principales sistemas de reconocimiento facial, aunque no de Amazon, que no presentó sus algoritmos, y descubrió que a menudo funcionaban de manera desigual según la raza, el sexo o la edad de una persona.

Buolamwini dijo el miércoles que el anuncio de Amazon es un «anuncio bienvenido aunque inesperado».

«Microsoft también necesita tomar una posición», escribió en un comunicado enviado por correo electrónico. «Más importante aún, nuestros legisladores deben intensificar» para frenar las implementaciones dañinas de las tecnologías.

Microsoft ha expresado la necesidad de regular el reconocimiento facial para evitar abusos contra los derechos humanos, pero no ha dicho que no lo vendería a las fuerzas del orden. La compañía no respondió a una solicitud de comentarios el miércoles.

Amazon comenzó a llamar la atención de la Unión Americana de Libertades Civiles y de los defensores de la privacidad después de que introdujo Rekognition en 2016 y comenzó a presentarlo a las fuerzas del orden público. Pero expertos como Garvie dicen que muchas agencias de EE. UU. Confían en la tecnología de reconocimiento facial desarrollada por empresas que no son tan conocidas, como NEC con sede en Tokio, Motorola Solutions con sede en Chicago o las empresas europeas Idemia, Gemalto y Cognitec.

Amazon no está abandonando por completo el reconocimiento facial. La compañía dijo que las organizaciones, como las que usan Rekognition para ayudar a encontrar niños desaparecidos o explotados sexualmente, aún tendrán acceso a la tecnología.

Los anuncios de esta semana por parte de Amazon e IBM siguen el impulso de los legisladores demócratas para aprobar un amplio paquete de reformas policiales en el Congreso que podría incluir restricciones en el uso del reconocimiento facial, especialmente en las cámaras de la policía. Aunque no se usa comúnmente en los EE. UU., La posibilidad de cámaras que puedan monitorear multitudes e identificar personas en tiempo real ha atraído la preocupación de los dos partidos.

La industria de la tecnología ha luchado contra las prohibiciones directas de reconocimiento facial, pero algunas compañías han pedido leyes federales que puedan establecer pautas para el uso responsable de la tecnología.

«Cada vez está más claro que la ausencia de reglas nacionales consistentes retrasará la entrega de esta valiosa tecnología a las fuerzas del orden público, ralentizando las investigaciones y haciendo que las comunidades sean menos seguras», dijo Daniel Castro, vicepresidente de Tecnología e Innovación de la Información respaldada por la industria Fundación, que ha abogado por los proveedores de reconocimiento facial.

Ángel Díaz, abogado del Centro para la Justicia Brennan de la Universidad de Nueva York, dijo que acogió con beneplácito la moratoria de Amazon, pero dijo que «debería haber llegado antes dado numerosos estudios que muestran que la tecnología está sesgada racialmente».

«Estamos de acuerdo en que el Congreso debe actuar, pero las comunidades locales también deben estar facultadas para expresar sus inquietudes y decidir si quieren y cómo quieren que se implemente esta tecnología», dijo.