Rite Aid utilizó el reconocimiento facial en cientos de tiendas



  Una mujer enmascarada tira de un automóvil en una esquina urbana.
Ampliar / Una mujer con una máscara camina junto a una tienda de Rite Aid en Portland, Oregon, en mayo de 2020.

La cadena de farmacias Rite Aid usó tecnología de reconocimiento facial en cientos de tiendas en las ciudades más grandes del país, particularmente en áreas de bajos ingresos donde viven predominantemente personas de color.

Reuters publicó hoy un informe detallado en tecnología citando documentos internos, entrevistando a más de 40 fuentes familiarizadas con los sistemas y observando de primera mano las cámaras en las tiendas que tenían tecnología en al menos 200 tiendas se utilizó, incluidos 75 en Nueva York y Los Ángeles.


Cada vez que un cliente ingresaba a una tienda que usaba la tecnología, su imagen se registraba en una base de datos. En visitas repetidas, el software agregó nuevas imágenes a los perfiles de clientes existentes. Luego, estas imágenes se compararon con una lista de "personas que Rite Aid había observado previamente en una posible actividad criminal". Cuando el software coincidía, el personal de seguridad recibió una notificación automática para teléfonos inteligentes.

Rite Aid se negó a determinar dónde se utilizó la tecnología, pero los periodistas de Reuters en Manhattan y Los Ángeles identificaron 33 en 75 tiendas.

] De estas 75 tiendas, según Reuters, el reconocimiento facial fue significativamente mayor en las tiendas de las zonas más pobres que en las tiendas de las zonas de mayores ingresos: el 68 por ciento de las tiendas que visitó Reuters en las zonas de menores ingresos las tenían en En comparación con el 25 por ciento de las tiendas en barrios ricos. En áreas donde los residentes negros o latinoamericanos eran el grupo demográfico más grande, las ubicaciones de Rite Aid tenían más de tres veces más probabilidades de usar reconocimiento facial que en los vecindarios predominantemente blancos.


Una de las herramientas que Rite Aid usó supuestamente fue DeepCam, que está asociada con fondos mutuos de propiedad estatal de China. El senador Marco Rubio (Florida) dijo a Reuters que la conexión era "escandalosa" y agregó que "los esfuerzos de China para exportar su estado de vigilancia para recopilar datos en Estados Unidos son una amenaza grave e inaceptable".

Rite Aid confirmó la existencia del programa a Reuters en febrero y en ese momento defendió el uso de la tecnología. Una semana antes de que Reuters publicara su historia, Rite Aid aparentemente dijo que ya no usaba el software y que las cámaras estaban apagadas.

"Esta decisión se basó en parte en una discusión importante de la industria", dijo a Reuters un representante de Rite Aid. "Otras grandes compañías tecnológicas parecen estar reduciendo o repensando sus esfuerzos de reconocimiento facial a medida que aumenta la incertidumbre sobre los beneficios de la tecnología".

Esta "conversación de la industria más amplia"

La tecnología de reconocimiento facial muestra notorias diferencias en la efectividad dependiendo de la persona que intenta identificar. En general, los algoritmos utilizados funcionan mejor para hombres y personas de piel clara que para mujeres y personas de piel clara. Agregar máscaras a la mezcla que se encuentra actualmente en una pandemia hará que los sistemas de reconocimiento facial funcionen aún peor.

Un empleado de Rite Aid con sede en Detroit, más del 75 por ciento de cuya población es negra, contó sin rodeos a Reuters que el software que inició la compañía "no tomó bien a los negros". El empleado de prevención de daños agregó: "Si sus ojos son iguales o si usa su banda para la cabeza como alguien más usa una banda para la cabeza, recibirá un golpe".

La Unión Estadounidense de Libertades Civiles Recientemente se presentó una queja contra la policía de Detroit en nombre de un hombre de Michigan arrestado en enero por un juego falso positivo creado por un software de reconocimiento facial. En vista de la denuncia, el jefe de policía de Detroit admitió: "Si solo usáramos la tecnología para identificar a alguien, diría que se identifica erróneamente el 96 por ciento de las veces".

Los diferentes efectos del reconocimiento facial en las personas negras se han convertido en parte de la discusión en medio de protestas en todo el país contra la brutalidad y la transgresión policial y en apoyo de las comunidades negras. IBM se despidió del negocio de reconocimiento facial en junio. El CEO Arvind Krishna dijo: "Los vendedores y usuarios de sistemas de inteligencia artificial comparten la responsabilidad de garantizar que la inteligencia artificial sea probada para detectar sesgos, especialmente cuando los utilizan las agencias de aplicación de la ley, y que tales pruebas de sesgos se realicen". comprobado e informado. "Días después, Amazon también impuso una moratoria de un año para permitir a la policía utilizar la plataforma de reconocimiento facial Rekognition.


Deja una respuesta

Tu dirección de correo electrónico no será publicada.