Amazon impone una moratoria de un año al uso policial de su tecnología de reconocimiento facial


Amazon anunció hoy que las ventas de reconocimiento facial a agencias policiales han sido suspendidas por un año. La noticia llega un día después de que George Floyd, un hombre asesinado por el Departamento de Policía de Minneapolis, fue enterrado en Houston y poco después IBM acordó dejar de vender o investigar tecnologías de reconocimiento facial.

Amazon y Microsoft están bajo una presión cada vez mayor para rescindir los contratos policiales después del asesinato de George Floyd y la ira posterior por el racismo institucional y la supremacía blanca. Por ejemplo, OneZero se enteró el martes de que más de 250 empleados de Microsoft le pidieron al CEO Satya Nadella que terminara sus contratos policiales. VentureBeat contactó a Microsoft para preguntar sobre una moratoria para repensar la venta de tecnologías de reconocimiento facial.

"Hemos abogado por que los gobiernos introduzcan regulaciones más estrictas para regular el uso ético de la tecnología de reconocimiento facial, y en los últimos días, el Congreso parece estar listo para enfrentar este desafío. Esperamos que esta moratoria de un año le dé al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudar a petición ", dijo Amazon en un breve comunicado publicado en el blog del primer día de esta tarde.

En el pasado, el CEO de AWS, Andy Jassy, ​​dijo que Amazon vendería el reconocimiento facial a cualquier gobierno siempre que fuera legal, y los accionistas de Amazon se negaron el año pasado a dejar de vender el reconocimiento facial a los clientes del gobierno. Según los informes, Amazon intentó vender su reconocimiento facial al Servicio de Inmigración y Aduanas de EE. UU. (ICE) en 2018. En ciudades como Orlando, la policía lo usó en procedimientos judiciales. Hasta qué punto Amazon es reconocido por la policía hoy no se conoce. Todavía no se sabe si la moratoria solo incluye contratos con agencias federales de aplicación de la ley, como ICE o las autoridades policiales locales.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Dr. El Instituto Nacional de Estándares y Tecnología del Departamento de Comercio, Charles Romine, testificó ante el Congreso en enero que el NIST estaba en conversaciones con Amazon para evaluar su software de detección. Un portavoz del NIST dijo hoy a VentureBeat que Amazon no ha presentado un algoritmo para su análisis como parte del programa FRVT (Facial Recognition Vendor Test).

Los resultados del NIST, que identificaron prejuicios racistas en los sistemas de reconocimiento facial, siguen el trabajo del proyecto Gender Shades. Los investigadores de IA Joy Buolamwini, Timnit Gebru y Deborah Raji de 2018 descubrieron que el software de reconocimiento facial de compañías como Amazon es el mejor para hombres blancos y el peor para mujeres con piel oscura. Esta semana, Algorithmic Justice Buolamwini y Gebru pidieron a gigantes tecnológicos como Amazon que prohibieran el reconocimiento facial.

Buolamwini dijo que estaba sorprendida por la noticia de la moratoria de Amazon porque Amazon rechazó públicamente la investigación sobre el proyecto Gender Shades. Buolamwini repitió el llamado a prohibir el reconocimiento facial y dijo: "La justicia racial requiere justicia algorítmica".

"Con la decisión de IBM y el reciente anuncio de Amazon, los esfuerzos de tantas organizaciones por las libertades civiles, activistas, accionistas, empleados y Investigadores El uso nocivo del reconocimiento facial está ganando aún más impulso ”, dijo. “Microsoft también debe tomar una posición. Más importante aún, nuestros legisladores necesitan ser fortalecidos. No podemos confiar en la autorregulación o esperar que las empresas elijan usar las tecnologías que han desarrollado de manera perjudicial. "

La Unión Americana de Libertades Civiles (ACLU) es un defensor de las leyes sobre la prohibición del reconocimiento facial aprobadas en países como San Francisco y San Francisco, a menudo llamando la atención sobre el reconocimiento de que los legisladores y los atletas de la NFL clasifican como delincuentes. La ACLU también presentó una demanda contra los contratos gubernamentales de Amazon y Microsoft el otoño pasado.

"Amazon tardó dos años en llegar a este punto, pero estamos contentos de que la compañía finalmente se dé cuenta de los peligros de reconocer el negro y el marrón en las comunidades y los derechos civiles en un sentido más amplio", dijo Nicole Ozer , Director de Tecnología de ACLU en el norte de California, en un comunicado compartido con VentureBeat. "Instamos a Microsoft y otras compañías a ir al lado correcto de la historia con IBM, Google y Amazon".

Funcionarios de la Unión Europea consideraron una moratoria de cinco años en el reconocimiento facial a principios de este año, pero se apartaron de la idea en febrero. Los senadores demócratas estadounidenses Cory Booker (D-NJ) y Jeff Merkley (D-OR) también apoyaron una moratoria a principios de este año al introducir la ley sobre el uso ético de la inteligencia artificial. Sundar Pichai, CEO de Alphabet y Google, apoyó la idea de una moratoria en el reconocimiento facial a principios de este año.

Actualizado a las 4:29 PM para incluir comentarios de Joy Buolamwini y Nicole Ozer.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *