IBM se alejó del reconocimiento facial. ¿Qué pasa con Amazon y Microsoft?
La decisión de IBM de finalizar las ventas comerciales de reconocimiento facial puede aumentar la presión sobre Amazon y Microsoft para finalizar los contratos de aplicación de la ley. Joy Buolamwini, fundadora de la Algorithmic Justice League (AJL), dijo que ya ve señales que apuntan en esta dirección. El martes, el mismo día del funeral de George Floyd, más de 250 empleados de Microsoft le pidieron al CEO Satya Nadella que terminara los contratos con la policía.
"Google, al igual que IBM, se retiró del reconocimiento facial y ya estamos viendo que Microsoft moviliza a los trabajadores para exigir un cambio", dijo Buolamwini a VentureBeat el martes poco después de ir al Consejo de la ciudad de Boston a favor de una prohibición propuesta. quien había dado reconocimiento facial. Horas después de la publicación de este artículo, Amazon impuso una moratoria de un año sobre el reconocimiento facial de la policía.
Amazon y Microsoft siguen siendo las únicas compañías tecnológicas importantes que están tratando activamente de vender software de reconocimiento facial a gobiernos y organismos encargados de hacer cumplir la ley.
En colaboración con el investigador de Google AI Timnit Gebru en 2018 y el investigador del Instituto AI Now, Deborah Raji en 2019, Buolamwini publicó el proyecto Gender Shades, auditorías de reconocimiento facial por empresas como Amazon, IBM, Face ++ y Microsoft, que han dado los mejores resultados a los hombres blancos y lo peor a las mujeres con tonos de piel más oscuros. Gebru argumentó que incluso el reconocimiento facial perfecto puede ser mal utilizado y habló en una entrevista publicada esta mañana por el New York Times .
"Hemos llegado a un momento en que más personas están reevaluando la aplicación de la ley y los abusos que pueden acelerarse con herramientas de alta tecnología", dijo Buolamwini. “El momento en que estamos es una llamada de atención para todas las compañías de tecnología que trabajan con la policía. En AJL, apoyamos el cese de la vigilancia facial e instamos a Microsoft, Amazon y otros a seguir el ejemplo de IBM al no proporcionar a la policía tecnologías de reconocimiento facial para la vigilancia, el perfil racial y otros abusos dañinos. "
Gracias al proyecto Gender Shapes, estos proyectos se están llevando a cabo. Tres investigadores negros de IA han sido coautores. El conocimiento de los prejuicios de raza y género es mucho más común entre los legisladores que están considerando la regulación en la legislación estatal y en el Congreso. A principios de este año y en varias audiencias en 2019, la regulación del reconocimiento facial fue apoyada por un grupo bipartidista de legisladores en el Congreso.
El martes, Buolamwini y la AJL pidieron a las grandes empresas de tecnología que asignen $ 1 millón a organizaciones de justicia racial como Data for Black Lives y Black in AI. AJL también solicitó a las compañías de reconocimiento facial que firmen la promesa de Safe Face de no vender el reconocimiento facial a la policía u otros agentes autorizados para usar la violencia letal.
A principios de esta semana, el CEO de IBM, Arvind Krishna, dijo que su compañía iba a vender o ya no vendería. Investigue el reconocimiento facial y únase a los desafíos regulatorios que otras compañías tecnológicas importantes, como Amazon, Google y Microsoft, están haciendo. Google dijo anteriormente que no tenía planes de vender reconocimiento facial sin una regulación adicional, y apoyó la solicitud de una moratoria a principios de este año.
IBM detuvo el reconocimiento facial para una API disponible públicamente el año pasado, y análisis independiente encontró que IBM no tiene contratos de reconocimiento facial conocidos públicamente en los Estados Unidos. Sin embargo, la decisión de IBM tiene un significado simbólico dada la investigación de la compañía con NYPD y la historia de trabajar con la Alemania nazi durante la Segunda Guerra Mundial.
En contraste, Microsoft aboga por el reconocimiento facial en California y el CEO de AWS, Andy Jassy, dijo anteriormente que su compañía venderá reconocimiento facial a cualquier gobierno siempre que sea legal. En mayo de 2019, los accionistas de Amazon se negaron oficialmente a vender reconocimiento facial a los gobiernos.
La investigación publicada el año pasado por la Academia Nacional de Ciencias descubrió que la violencia policial es una de las principales causas de muerte de hombres negros en los Estados Unidos. George Floyd, cuyo asesinato provocó algunas de las protestas más largas y más grandes de la historia, fue enterrado en su ciudad natal de Houston el martes.
En diciembre de 2019, el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio realizó su primera prueba de reconocimiento facial basada en la raza. Al analizar algoritmos de casi 100 empresas, la prueba encontró que los sistemas identificaban erróneamente las caras de las personas de ascendencia asiática o africana de 10 a 100 veces más a menudo que las caras blancas.
Dr. Charles Romine, director del Laboratorio de Tecnología de la Información del NIST, dijo anteriormente desde el Comité de Supervisión y Reforma de la Cámara de Representantes en enero que Amazon estaba en conversaciones con el NIST para que Rekognition participara en su prueba de proveedor de reconocimiento facial. Un portavoz del NIST dijo a VentureBeat hoy que Amazon no ha presentado un algoritmo de evaluación como parte de su programa de prueba de proveedores de reconocimiento facial.
Aunque el CEO Jeff Bezos le dijo a un cliente de All Lives Matter que no era querido esta semana, Amazon tiene un pasado defectuoso. Al igual que los críticos de un empleado de Amazon Fulfillment Center que intentó describir a los ejecutivos como "no inteligentes o articulados", el vicepresidente de inteligencia artificial de AWS, Matt Wood, dio el paso inusual en enero de 2019 de tomar el análisis de sombra de género en una publicación de blog criticar un intento obvio de desacreditar la precisión del trabajo. Gender Shades fue defendido por un grupo de casi 80 destacados investigadores de IA, incluido Yoshua Bengio, pionero del aprendizaje profundo y defensor de la igualdad, que ahora es uno de los científicos más citados del mundo.
Por su trabajo en la detección del reconocimiento facial, las diferencias en el rendimiento debido a las diferencias de raza y género en los sistemas de reconocimiento facial disponibles en el mercado.En julio de 2019, VentureBeat Buolamwini, Gebru y Raji presentaron el primer Premio a la Innovación AI en la categoría AI for Good. El trío es parte de una serie de mujeres negras mencionadas en las redes sociales esta semana con el hashtag #CiteBlackWomen. Con el fin de llamar más la atención sobre la falta de citas e informes de los medios por parte de mujeres científicas, así como el sesgo algorítmico, la AJL comenzó el proyecto Voicing Erasure junto con siete mujeres prominentes en tecnología e IA a principios de este año.
Actualizado a las 12:56 p.m. Pacífico para incluir un comentario del portavoz del NIST sobre la participación de Amazon en el Programa de Detección de Rostros del Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de los EE. UU.
