Amazon impide que la policía acceda a su tecnología de reconocimiento facial durante un año


  Open Sourced Logo

En un comunicado publicado el miércoles, Amazon anunció que la compañía impondría una moratoria de un año al uso policial del reconocimiento, el software de reconocimiento facial de la compañía. La medida sigue al anuncio de IBM a principios de esta semana de que IBM ya no ofrecerá productos de reconocimiento facial, y destaca el potencial de abuso o abuso de la tecnología. Con el aumento del control de la aplicación de la ley, parece haber un referéndum sobre las herramientas de monitoreo a las que la policía puede acceder.

Esta es ciertamente una señal de que la aguja de aceptación pública del reconocimiento facial se está moviendo. La tecnología de reconocimiento de Amazon ha sido destacada por críticos como los investigadores de IA Joy Buolamwini y Deborah Raji, quienes han demostrado cómo puede asociarse con prejuicios racistas y de género. A pesar del retroceso inicial de la compañía en su trabajo, Amazon ahora está reconsiderando su plan de reconocimiento.

"Estamos llevando a cabo una moratoria de un año sobre el uso policial de la tecnología de reconocimiento facial de Amazon", dice la compañía. "Hemos estado a favor de que los gobiernos adopten normas más estrictas para regular el uso ético de las tecnologías de reconocimiento facial. En los últimos días, el Congreso parece estar listo para enfrentar este desafío". Esperamos que esta moratoria de un año le dé al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudarlo si lo solicita. “

En particular, Amazon resolvió excepciones a la moratoria. La compañía dijo que continuará utilizando la tecnología para ayudar a las organizaciones que luchan contra la trata de personas y encontrar niños desaparecidos.

El software de reconocimiento de Amazon lanzado en 2016 es parte de la división de computación en la nube de la compañía, Amazon Web Services (AWS). La investigación de la ACLU en 2018 mostró que el reconocimiento de Amazon coincidía incorrectamente con los rostros de 28 legisladores con los de otras personas que habían sido arrestadas. Los activistas también han advertido reiteradamente que el uso generalizado del reconocimiento facial puede violar los derechos de protección de datos y reforzar la vigilancia. Sin embargo, los detalles exactos de cómo las agencias de aplicación de la ley utilizan el reconocimiento aún no están claros. Aunque conocemos algunos ejemplos de departamentos de policía que probaron la tecnología, el jefe de AWS, Andy Jassy, ​​dijo a la prensa a principios de este año que la compañía no sabe cuántos departamentos han utilizado o cómo usan el reconocimiento.

El llamado a la regulación no debería sorprendernos. Actualmente no existe una ley federal integral sobre reconocimiento facial, y los municipios han asumido la tarea de regular la tecnología ellos mismos. Amazon lanzó previamente sus propias recomendaciones para regular el reconocimiento facial. Al igual que muchos otros proveedores de reconocimiento facial, la compañía quiere evitar las regulaciones de parches que significan que existen diferentes leyes en diferentes estados. Mientras tanto, los críticos de la tecnología de reconocimiento facial han advertido que los llamados corporativos a la regulación deben ser vistos con escepticismo ya que las empresas pueden hacer cumplir las leyes que son débiles y, en última instancia, defender sus intereses.

Aún así, es notable que dos grandes empresas hayan anunciado que revertirán esta tecnología, y esto podría ser una señal de que los estándares de reconocimiento facial están cambiando. Ahora es probable que los ojos se dirijan a otras compañías que venden la tecnología, así como a la legislatura federal, a la que una de las compañías más grandes del mundo le ha dado un plazo informal.

Open Sourced es posible gracias a la red Omidyar. Todo el contenido de código abierto es editorialmente independiente y es producido por nuestros periodistas.


Apoye el periodismo explicativo de Vox

Todos los días en Vox queremos responder sus preguntas más importantes y brindarle a usted y a nuestra audiencia en todo el mundo información que tiene el poder de salvar vidas. Nuestra misión nunca ha sido más importante de lo que es ahora: fortalecerla a través de la comprensión. El trabajo de Vox llega a más personas que nunca, pero nuestra marca distintiva de periodismo explicativo consume recursos, especialmente durante una pandemia y una recesión económica. Su contribución financiera no constituye una donación, pero permite que nuestros empleados continúen ofreciendo artículos, videos y podcasts gratuitos en la calidad y cantidad requerida para este momento. Por favor considere contribuir a Vox hoy.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *