Pudimos ver una ordenanza federal sobre reconocimiento facial la próxima semana.


El 10 de mayo, 40 grupos de interés enviaron una carta abierta pidiendo a la policía de EE. UU. Que prohibiera permanentemente el uso del software de reconocimiento facial de Amazon, Rekognition. La carta estaba dirigida a Jeff Bezos y Andy Jassy, ​​los directores ejecutivos actuales y futuros de la compañía, y llegó solo unas semanas antes de que expirara la moratoria de un año de Amazon sobre las ventas de las fuerzas del orden.

La carta contrastó el apoyo vocal de Bezos y Jassy de los activistas de Black Lives Matter durante las protestas por la justicia racial el verano pasado tras el asesinato de George Floyd con informes de que las fuerzas del orden han utilizado otros productos de Amazon para identificar a los manifestantes.

El 17 de mayo, Amazon anunció que extendería la moratoria indefinidamente y se uniría a sus rivales IBM y Microsoft en el purgatorio autorregulado. La medida es un guiño al poder político de los grupos que luchan por contener la tecnología y la comprensión de que están surgiendo nuevos campos de batalla legislativos. Muchos creen que pronto habrá una amplia legislación federal.

«La gente está exhausta»

El año pasado fue crucial para el reconocimiento facial, ya que casi dos docenas de ciudades y siete estados de Estados Unidos expusieron y prohibieron el papel de la tecnología en los arrestos falsos. Pero el impulso ha cambiado durante algún tiempo.

En 2018, los investigadores de IA publicaron un estudio que compara la precisión del software comercial de reconocimiento facial de IBM, Microsoft y Face ++. Su trabajo encontró que la tecnología identificaba a los hombres de piel clara con mucha más precisión que a las mujeres de piel oscura; El sistema IBM se comportó peor con una diferencia en la tasa de error entre los dos grupos del 34,4%.

También en 2018, la ACLU probó el reconocimiento de Amazon y descubrió que 28 miembros del Congreso habían sido identificados falsamente como criminales, un error que afecta de manera desproporcionada a muchas personas de color. La organización escribió su propia carta abierta a Amazon pidiendo a la empresa que prohibiera el uso de la tecnología por parte del gobierno. como hizo el Caucus Negro del Congreso– Pero Amazon no hizo ningún cambio.

«Si vamos a comprometernos con la justicia racial en el sistema de justicia penal … una de las cosas más fáciles y claras que puede hacer es dejar de usar la tecnología de reconocimiento facial».

Kate Ruane, ACLU

Sin embargo, durante los movimientos de justicia racial del verano pasado contra la brutalidad policial, Amazon sorprendió a muchos al anunciar que pondría fin al uso policial de Rekognition, con la excepción de los agentes de la ley federales como ICE. El anuncio de la compañía esperaba que la pausa «le diera al Congreso el tiempo suficiente para establecer las reglas adecuadas».

Evan Greer es el director de Fight for the Future, un grupo de defensa de la tecnología que cree en la eliminación de la tecnología de reconocimiento facial y dice que el apoyo público a su regulación está creciendo. Ella dice que la extensión de esta semana de la moratoria muestra que «Amazon está respondiendo a esta tremenda presión que están recibiendo, no solo en el reconocimiento facial», y agrega: «Le doy a los disturbios de justicia racial en todo el país un reconocimiento realmente tremendo el último año y medio . »

«Una realidad política»

Si bien aumenta la presión sobre los grandes proveedores de tecnología, la realidad es que la mayoría de los usuarios de las fuerzas del orden público y del gobierno no comprarán software de reconocimiento facial de empresas como Amazon. Si bien las moratorias y prohibiciones de los grupos de interés son bienvenidas, no necesariamente impiden el uso de las tecnologías. Mientras tanto, el Congreso aún no ha aprobado leyes federales de reconocimiento facial en entornos de aplicación de la ley, gubernamentales o comerciales que regulen a los proveedores más pequeños.

Sin embargo, algunos esperan que la legislación federal llegue pronto, ya sea a través de la acción directa del Congreso, una orden presidencial o próximos proyectos de ley de apropiación y reforma policial.

«Creo que el mejor escenario es que el Congreso apruebe una moratoria sobre su uso», dijo Kate Ruane, asesora legislativa senior de la ACLU. Ella cree que los nuevos usos solo deberían permitirse después de más trabajo legislativo.

Se han propuesto varias leyes federales que restringirían el acceso al reconocimiento facial.

  • La Ley de moratoria sobre reconocimiento facial y tecnología biométrica establece la prohibición del uso del software por parte de agencias federales y la retención de subvenciones federales de agencias estatales y locales que no promulguen una moratoria propia. Fue propuesto por cuatro miembros demócratas del Congreso y presentado al Senado el año pasado.
  • La Ley de Justicia en la Policía de George Floyd evitaría el uso del reconocimiento facial en las cámaras corporales. El proyecto de ley ya ha sido aprobado internamente y se espera que llegue al Senado la próxima semana. El presidente Biden ha solicitado que el proyecto de ley se apruebe antes del aniversario de la muerte de George Floyd el 25 de mayo.
  • La cuarta enmienda no es una ley de venta, una ley no partidista introducida por 18 senadores que impide que el gobierno trabaje con proveedores de tecnología que violen los Términos de servicio. En la práctica, esto le daría al gobierno acceso a sistemas que se ocupan del web scraping, como: B. Clearview AI, prevenir en gran medida.

Mutale Nkonde, el director ejecutivo fundador de AI for the People, una organización sin fines de lucro que hace campaña por la justicia racial en la tecnología, cree que es probable que veamos legislación federal adicional en las elecciones de mitad de período del próximo año.

«Creo que habrá una legislación federal que regulará todos los sistemas algorítmicos, incluido el reconocimiento facial», dice Nkonde. «Creo que es una realidad política».

Según Nkonde, el concepto de evaluación de impacto, que evalúa los sistemas tecnológicos sobre la base de los derechos civiles, está ganando terreno en los círculos políticos de ambos lados del pasillo.



Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *