Amazon, IBM y Microsoft ya no venden reconocimiento facial a la policía

El presidente de Microsoft, Brad Smith, anunció el jueves que su compañía no venderá el reconocimiento facial a la policía y no lo hará hasta que el gobierno apruebe las leyes federales que regulan la tecnología. Su declaración sigue a un anuncio de Amazon el miércoles de que la compañía impondría una moratoria de un año al uso policial de Rekognition, el software de reconocimiento facial de la compañía.

Este cambio también sigue al anuncio de IBM a principios de esta semana de que ya no ofrece productos de reconocimiento facial, refiriéndose al mal uso o abuso de la tecnología. Dado el creciente control de las agencias de aplicación de la ley, parece haber un referéndum sobre las herramientas de monitoreo a las que puede acceder la policía, aunque se sabe que es difícil determinar qué sistemas de monitoreo tienen las autoridades policiales. Las agencias de aplicación de la ley y las compañías de tecnología generalmente son secretas acerca de estos productos, que de ninguna manera se limitan al reconocimiento facial.

Sin embargo, esto es ciertamente una señal de que la aguja de aceptación pública del reconocimiento facial se está moviendo. Durante años, grupos de interés como la Unión Estadounidense de Libertades Civiles (ACLU) y el Grupo de derechos digitales Lucha por la alarma del futuro han estado diciendo que el reconocimiento facial plantea preocupaciones importantes sobre la privacidad y la vigilancia. Y los investigadores como Joy Buolamwini, Timnit Gebru y Deborah Raji han demostrado que estas tecnologías pueden surgir en relación con los prejuicios racistas y de género incorporados.

El momento de estas indicaciones de reconocimiento facial es importante. La última revisión tecnológica se encuentra en medio de manifestaciones en curso contra la brutalidad policial que han llamado la atención sobre las herramientas de monitoreo que las grandes compañías tecnológicas pueden vender y venden a las agencias policiales. La noticia también llega porque los legisladores se han centrado en el acceso de las agencias de aplicación de la ley a las herramientas de vigilancia y su posible uso en las protestas. Este fue el tema de una carta que los miembros del Congreso enviaron a los líderes de varias agencias federales a principios de esta semana. En medio de varias grandes empresas que hacen anuncios sobre reconocimiento facial, es posible que legisladores estén más preocupados por la regulación que antes.

El reconocimiento de Amazon se ha encontrado con críticas y resistencia durante años.

El software de reconocimiento de Amazon se lanzó en 2016 y es parte de la división de computación en la nube de la compañía, Amazon Web Services (AWS). En el sitio web de la compañía, Amazon afirma que su reconocimiento facial “proporciona análisis faciales de alta precisión y capacidades de búsqueda facial que le permiten reconocer, analizar y comparar rostros para una variedad de casos de uso, tales como verificación de usuarios, conteo de personas y seguridad pública. Desde su debut, la compañía ha estado tratando de difundir la tecnología a una serie de agencias policiales. Ha sido probado por las agencias policiales en Oregon y Orlando, Florida.

La tecnología de reconocimiento de Amazon ha sido destacada específicamente por los críticos que han demostrado cómo puede asociarse con prejuicios racistas y de género. A pesar del retroceso inicial de la compañía al trabajo de Buolamwini y Raji, Amazon ahora está repensando su plan de reconocimiento.

"Estamos introduciendo una moratoria de un año sobre el uso policial de la tecnología de reconocimiento facial de Amazon", dice la compañía. "Hemos estado a favor de que los gobiernos introduzcan regulaciones más estrictas para regular el uso ético de las tecnologías de reconocimiento facial. En los últimos días, el Congreso parece estar listo para enfrentar este desafío". Esperamos que esta moratoria de un año le dé al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudarlo si lo solicita. “

En particular, Amazon resolvió excepciones a la moratoria. La compañía dijo que continuará utilizando la tecnología para ayudar a las organizaciones que luchan contra la trata de personas y encontrar niños desaparecidos. Amazon se negó a hacer más comentarios sobre los motivos de la moratoria, los planes para poner fin a sus alianzas policiales con Ring o el acceso de su tecnología a las agencias que no pertenecen a la ley.

Hoy en día, los detalles exactos de cómo los funcionarios encargados de hacer cumplir la ley usan el reconocimiento siguen sin estar claros. Andy Jassy, ​​CEO de AWS, dijo a la prensa a principios de este año que la compañía no sabe cuántos departamentos han usado o cómo usan el reconocimiento.

La tecnología y su uso por los organismos encargados de hacer cumplir la ley han sido en gran medida suprimidos por abogados e investigadores de las libertades civiles. Esta preocupación tiene sus raíces en la investigación publicada por Buolamwini y Gebru en 2018, que destaca hasta qué punto los sistemas de reconocimiento facial pueden mostrar prejuicios racistas y de género basados ​​en trabajos anteriores de Buolamwini. Esta investigación formó la base para una investigación realizada por la ACLU, que descubrió que el reconocimiento de Amazon coincidía incorrectamente con los rostros de 28 legisladores con los rostros de las personas que habían sido arrestadas. La organización instó al Congreso a imponer una moratoria sobre las ventas de tecnología a las agencias policiales.

En un informe de seguimiento, Buolamwini y Raji examinaron el sesgo de reconocimiento y descubrieron que el sistema amazónico también tenía un sesgo racial y de género significativo y se desempeñaba peor en mujeres con piel más oscura. Amazon publicó dos publicaciones de blog corporativo que se oponían a sus resultados. Esto provocó una respuesta de casi 80 investigadores que unieron fuerzas para defender la investigación de Buolamwini y Raji y llevó a Amazon a dejar de vender la tecnología a las agencias policiales.

Otras organizaciones de derechos y libertades civiles también han protestado por las ventas de la compañía a las agencias policiales. El año pasado, los activistas de Fight for the Future viajaron al Capitolio para realizar un reconocimiento facial en vivo a funcionarios gubernamentales y demostrar cuán invasiva podría ser la tecnología de reconocimiento. Los empleados de Amazon también se manifestaron en contra de la venta de reconocimiento facial de la compañía a las agencias de aplicación de la ley, junto con la venta de AWS a Palantir, que trabaja con el Servicio de Inmigración y Control de Aduanas, en 2018, a pesar de la solicitud de la compañía de vender Para detener el reconocimiento, la policía no había cumplido. Todavía no está claro qué papel han desempeñado estos empleados de Amazon en esta reciente decisión.

No todos están contentos con el enfoque de Amazon para los problemas de reconocimiento. Evan Greer, subdirector de Fight for the Future, describió el anuncio de Amazon como un "truco de relaciones públicas". El Proyecto de Supervisión de Tecnología de Vigilancia, una organización legal contra la vigilancia con sede en Nueva York, describió la medida de la compañía como "muy poco, muy tarde". Su director, Albert Fox Cahn, agregó en un correo electrónico: "Amazon no debería simplemente terminar esta práctica durante un año o una década. Debería terminarla para siempre"

Ahora los ojos están puestos en el Congreso: y empresas de reconocimiento facial de las que nunca has oído hablar.

El llamado a la regulación no debería sorprendernos. Actualmente no existe una ley federal integral sobre reconocimiento facial, y algunos lugares han asumido la tarea de regular la tecnología ellos mismos. Amazon lanzó previamente sus propias recomendaciones para regular el reconocimiento facial. Al igual que muchos otros proveedores de reconocimiento facial, la compañía quiere evitar las regulaciones de parches que significan que existen diferentes leyes en diferentes estados. Mientras tanto, los críticos de la tecnología de reconocimiento facial han advertido que los llamados corporativos a la regulación deben ser vistos con escepticismo ya que las compañías pueden hacer cumplir leyes débiles y, en última instancia, defender sus intereses. Recuerde que se sabe que estas compañías tienen grandes presupuestos de cabildeo.

También existe la preocupación de que los proveedores de reconocimiento facial más pequeños ocuparán su lugar cuando las grandes empresas de tecnología como IBM, Amazon y Microsoft se alejen del despliegue temporal de la tecnología. Recode contactó a dos proveedores de esta tecnología, Vigilant Solutions y NEC, pero no escuchó una respuesta al momento de la publicación.

En una declaración compartida con Recode, el fundador y CEO de Clearview AI, Hoan Ton-That, dijo que la tecnología de su compañía "no debe usarse como herramienta de monitoreo en conexión con protestas u otras circunstancias" y lo espera con ansias. , "trabajar con el gobierno y los formuladores de políticas para ayudar a desarrollar protocolos apropiados para el uso correcto del reconocimiento facial".

Sin embargo, como Recode ha informado, Clearview ha tergiversado repetidamente varios aspectos de su trabajo, incluyendo qué tan bien funciona la tecnología y quiénes son sus clientes.

Aún así, es notable que tres grandes compañías como Amazon, IBM y Microsoft están tomando un descanso del uso de esta tecnología, pero esto podría ser una señal de que los estándares con respecto al reconocimiento facial están cambiando. Ahora es probable que los ojos se dirijan a otras compañías que venden la tecnología, así como a la legislatura federal, a la que una de las compañías más grandes del mundo le ha dado un plazo informal.

"Sus productos tienen el potencial alarmante de violar los derechos de privacidad estadounidenses de una manera que recientemente pensamos que sería inimaginable", dijo el senador Edward Markey (D-MA) después del anuncio de Amazon. "Tomar un descanso del uso de esta tecnología por parte de las fuerzas del orden público es un paso positivo, pero lo que Amazon realmente debería hacer es dar la vuelta y poner fin al negocio de vigilancia peligrosa".

Esto difiere de otras ideas legislativas sobre el futuro de la legislación federal sobre reconocimiento facial. Por ejemplo, el senador Jeff Merkley (D-OR) le dijo a Recode a principios de este año que la tecnología debería ser útil si la policía puede recibir una orden de arresto, y parecía distinguir entre el reconocimiento facial que podría usarse para la vigilancia constante, y Detección de rostro que se usaría durante un examen. Algunos legisladores federales ya han propuesto restringir el reconocimiento facial en hogares patrocinados por el gobierno.

La forma en que se verá esta regulación finalmente no está clara. El hecho de que Amazon al menos solo esté pausando su negocio de reconocimiento facial (Microsoft solo parece estar esperando que la legislación entre en vigencia antes de proceder) parece implicar que algunas compañías creen que la policía tendrá prohibido usar la tecnología tabla está fuera de la cuestión. Con o sin regulación, muchos organizadores aún advierten que el reconocimiento facial podría ser demasiado peligroso para usar.

Actualización, 11 de junio, 4:00 p.m. ET: Este artículo se ha actualizado para incluir más contexto y las noticias de que Microsoft no ofrecerá reconocimiento facial a la policía hasta que se aprueben las leyes federales que regulan el reconocimiento facial.

Open Sourced es posible gracias a la Red Omidyar. Todo el contenido de código abierto es editorialmente independiente y es producido por nuestros periodistas.

---

Apoye el periodismo explicativo de Vox.

Todos los días en Vox queremos responder a sus preguntas más importantes y brindarle a usted y a nuestro público de todo el mundo información que tenga el poder de salvar vidas. Nuestra misión nunca ha sido más importante de lo que es ahora: fortalecerla a través de la comprensión. El trabajo de Vox llega a más personas que nunca, pero nuestra marca distintiva de periodismo explicativo consume recursos, especialmente durante una pandemia y una recesión económica. Su contribución financiera no constituye una donación, pero permite que nuestros empleados continúen ofreciendo artículos, videos y podcasts gratuitos en la calidad y cantidad requerida para este momento. Por favor considere contribuir a Vox hoy.