La lucha de Detroit por la vigilancia policial y el reconocimiento facial es un microcosmos de la nación


Una confluencia de eventos nacionales ha puesto en foco la lucha de larga data por el reconocimiento facial y la vigilancia. El movimiento policial está ganando impulso después del asesinato policial de George Floyd y la posterior brutalidad policial contra los manifestantes. El movimiento es tan poderoso que tres grandes compañías tecnológicas, IBM, Amazon y Microsoft, recientemente se han comprometido a no vender su tecnología de reconocimiento facial a las agencias policiales. La ciudad de Nueva York acaba de aprobar la Ley POST, que exige que la policía de Nueva York divulgue las tecnologías de vigilancia que utiliza. A nivel federal, representantes del congreso como Jimmy Gómez (D-CA) y Rashida Tlaib (D-MI) están ejerciendo presión legislativa sobre el reconocimiento facial. Justo ayer, el Ayuntamiento de Boston prohibió el reconocimiento facial y se unió a otros lugares en Massachusetts y California que hicieron lo mismo. Y hoy, los miembros del Congreso han presentado un proyecto de ley que prohíbe la financiación federal para el reconocimiento facial u otra vigilancia biométrica.

Aunque esta lucha está en todo el país, no busque más allá de la ciudad de Detroit para encontrar un claro ejemplo de la realidad. Desafíos globales, implicaciones, fracasos y victorias en reconocimiento facial y vigilancia.

Una lucha local de importancia nacional

Detroit es el hogar del proyecto Greenlight, un controvertido programa de vigilancia policial en el que las cámaras de la ciudad vigilan a la población. Con Project Greenlight, la policía puede usar un software de reconocimiento facial para capturar imágenes fijas y videos para comparar la cara de un sospechoso con una base de datos. Se ha demostrado que sistemas como este funcionan peor para las mujeres y las personas con piel más oscura, lo que es aún más indignante en Detroit, la "ciudad más negra de América" ​​con una población de casi el 80% de negros.

Bajo la aguda presión de los activistas locales, incluidos Detroit Will Breathe y el Proyecto de Tecnología Comunitaria de Detroit, el Ayuntamiento de Detroit tomó la decisión de renovar algunos de sus contratos de software y datos relacionados con la policía y el software.

VB Transform 2020 en línea – 15.-17. Julio . Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Tres de estos temas estaban en la agenda de la reunión del Consejo de la Ciudad de Detroit el 16 de junio. Uno de ellos se refería a la renovación del contrato para DataWorks Plus, el principal proveedor de software de reconocimiento facial para Detroit PD. El ítem de la agenda fue eliminado, pero la reportera de investigación Allie Gross de la Detroit Free Press adquirió una captura de pantalla . El contrato fue originalmente por tres años y más de $ 1.2 millones y la extensión propuesta agregaría $ 219,934.50. El contrato original expira el 24 de julio.

Los otros dos artículos se referían a la financiación de CLEAR Investigative Services, un servicio de base de datos de Thompson Reuters que la policía de Detroit utiliza para las investigaciones. Juntos, los dos artículos totalizaron $ 421,543.64. Los dos puntos CLEAR permanecieron en la agenda, pero al final el Consejo nunca los votó en su reunión del 16 de junio. Ninguno de los tres puntos estaba en la agenda de la reunión del Consejo de la Ciudad el 23 de junio.

Sin una extensión de contrato, el destino de los esfuerzos de reconocimiento facial del Departamento de Policía de Detroit podría estar en la balanza. Detroit Will Breathe, uno de los grupos activistas locales que, según se dice, asume cierta responsabilidad por las dudas del consejo de la ciudad, tiene un mandato mayor para decepcionar a la policía. "Desactivar a la policía" significa cosas diferentes para diferentes personas, pero todo se trata de desviar recursos de los departamentos de policía e invertir en la construcción de la comunidad y proporcionar más servicios sociales. Los activistas parecen estar transmitiendo su mensaje; Incluso el gobernador de Michigan, Gretchen Whitmer, quien es White, dijo en el archivo que estaba segura de desactivar a la policía con respecto a la redistribución de recursos.

Como se esperaba, la injusticia es

El abuso policial del reconocimiento facial sigue siendo teórico en muchos lugares, pero no en Detroit. Para ilustrar perfectamente los problemas asociados con el sistema, Kashmir Hill de New York Time presentó ayer un informe detallado del arresto ilícito de Robert Julian-Borchak Williams. Después de un robo en una joyería, la policía del estado de Michigan subió una imagen fija de la cámara de vigilancia de la tienda y usó un software de reconocimiento facial para compararla con la foto de la licencia de Williams. Al igual que millones de otros registros, la imagen se almacena en la base de datos SNAP (Statewide Network of Agency Photos) del estado. La policía de Detroit arrestó a Williams, quien es negro, por el juego.

La Unión Americana de Libertades Civiles (ACLU) de Michigan se hizo cargo del caso de Williams y envió una carta de queja a la oficina del investigador jefe de Detroit. El fiscal del condado de Wayne retiró los cargos. En respuesta al artículo de Hill, el fiscal emitió una declaración explicando por qué se cerró el caso. En resumen, se debió al pésimo trabajo policial que implicaba violar los protocolos de reconocimiento facial que la policía y los fiscales de Detroit habían acordado previamente.

La declaración incluía una nota del fiscal de distrito Kym Worthy: “En el verano de 2019, el Departamento de Policía de Detroit me pidió personalmente que adoptara sus pautas de reconocimiento facial. Rechacé y cité estudios sobre la falta de fiabilidad del software, en particular los relacionados con el color. Eres consciente de mi actitud y mi posición sigue siendo la misma. Cualquier caso llevado a mi oficina que use esta tecnología debe presentarse a un supervisor y contar con evidencia de respaldo fuera de esta tecnología. Este caso ocurrió antes de esta directiva. Sin embargo, este caso no debería haberse publicado en base a la investigación del DPD, y nos disculpamos por esto. "

Rank One, la compañía cuyo software de reconocimiento facial fue utilizado en el caso de Williams, prometió en un correo electrónico a Reuters que" agregaría un remedio legal a cualquier uso de nuestro software que viole nuestro código de ética infringe, revoca y realiza una revisión técnica de medidas de protección adicionales que podemos integrar en nuestro software para evitar un posible uso indebido. "

En un artículo que escribió para Williams escribió en el Washington Post:" Nunca pensé que tendría que explicarles a mis hijas por qué arrestaron a papá. ¿Cómo les explica a dos niñas que una computadora hizo algo mal pero que la policía lo escuchó de todos modos? “

El arresto ilícito de Williams es un claro ejemplo de lo que trataban aquellos que estaban preocupados por el uso de reconocimiento facial por parte de la policía. La tecnología no funcionaba correctamente y la policía no seguía sus propios protocolos para corregir tal falla tecnológica. Que el Fiscal de Distrito Williams salvado al lanzar el caso no es prueba de que el sistema funcione. Esto sigue siendo un problema para la policía, que utiliza el reconocimiento facial para abusar de su poder sobre una persona negra. Y no importa si la policía pretendía malicia o no; Williams es un hombre inocente acusado injustamente de delito, arrestado frente a su familia e interrogado bajo custodia policial. Pasó una noche en prisión y luego tuvo que defenderse en la corte.

El caso Williams es enojado y molesto, pero también muestra protestas de activistas y políticos contra los peligros del reconocimiento facial en el trabajo policial. La moratoria de facto del Consejo de la Ciudad de Detroit para refinanciar el programa de reconocimiento facial de su departamento de policía podría requerir un progreso real en los esfuerzos para poner fin a la práctica en su conjunto. Parece que el celo nacional y local y la presión política están cambiando el uso de las tecnologías de reconocimiento facial. La forma en que suceden las cosas en Detroit podría ser un microcosmos de lo que está sucediendo en todo el país.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *