AI semanal: limitar las tecnologías de vigilancia es un primer paso importante, pero no es suficiente


En una carta a los líderes de la Cámara de Representantes de Estados Unidos el miércoles, más de 100 grupos de libertades raciales y civiles pidieron al Congreso que pusiera fin a los fondos federales para las tecnologías de vigilancia que la policía usó para espiar a activistas y manifestantes. En el Consejo de la Ciudad de Nueva York votó a favor de la Ley de Supervisión de Tecnología de Vigilancia Pública (POST), una ley que requiere que el Departamento de Policía de la Ciudad de Nueva York (NYPD) divulgue su uso de la vigilancia. En Detroit, los residentes y activistas instaron al consejo de la ciudad a rechazar un contrato que ampliaría el uso del reconocimiento facial por parte de las agencias policiales locales.

Antes de dicha legislación, algunos proveedores se comprometieron voluntariamente a terminar o interrumpir sus relaciones con las autoridades policiales. Amazon y Microsoft dijeron que dejarían de vender soluciones de reconocimiento facial a los funcionarios encargados de hacer cumplir la ley, al menos temporalmente, alegando falta de regulación. IBM anunció planes para poner fin a su negocio de reconocimiento facial de uso general, y Foursquare, una plataforma de tecnología de ubicación utilizada por una gama de aplicaciones y servicios móviles, decidió no proporcionar análisis de datos de protestas recientes.

Si va en la dirección correcta, es necesaria una buena dosis de escepticismo sobre las intenciones de estas empresas. Los gigantes de la tecnología atribuyen rápidamente sus acciones (o reacciones) a preocupaciones nobles, pero las motivaciones fiscales o políticas a menudo juegan un papel importante. Deborah Raji, oficial de tecnología en AI Now Institute, señaló que IBM eliminó en silencio las funciones de reconocimiento facial de sus API el otoño pasado, y Associated Press informó que la decisión de la compañía "es poco probable que afecte el resultado final" . Y Amazon ha estado bajo una presión cada vez mayor por parte de los reguladores, consumidores, accionistas y empleados porque su servicio en la nube de reconocimiento se sigue vendiendo a la policía.

Incluso las compañías que parecen tener menos caballos en la carrera pueden no actuar por la bondad de sus corazones. Microsoft, cuyo presidente Brad Smith describió recientemente la posición de la compañía sobre el uso del reconocimiento facial como "en principio", ya había intentado vender su tecnología de reconocimiento facial a la Administración Estadounidense de Control de Drogas en 2017, la Unión Americana de Libertades Civiles. Un informe de Intercept y el Fondo de Investigación sin Fines de Lucro del Instituto Nacional muestra que IBM, en asociación con el Departamento de Policía de la Ciudad de Nueva York (NYPD), ha desarrollado un sistema que permite a los funcionarios buscar el color de la piel, el color del cabello, el sexo, la edad y las características faciales de diferentes personas.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Jathan Sadowski de OneZero, un becario postdoctoral en Smart Cities de la Universidad de Sydney, tomó prestada una oración de Chris Gilliard, profesor del Macomb Community College, esta semana: “Black Power Wash. “Si bien las moratorias para la venta de tecnologías de vigilancia tienen más peso que los tweets contra el racismo sistémico, por ejemplo, en última instancia, son decisiones calculadas. Si hacer el bien es lo mejor para una empresa, tales acciones necesariamente van a la zaga de los estándares éticos.

Sadowski aboga por responsabilizar a las empresas desmantelando la infraestructura de vigilancia policial, desde dispositivos Stingray para rastrear teléfonos celulares hasta análisis en tiempo real, algoritmos de pronóstico y sistemas de adquisición de datos. Afirma que, por un lado, son profundamente defectuosas a nivel tecnológico. Utilizando el reconocimiento facial como ejemplo, un estudio realizado por el Instituto Nacional de Estándares y Tecnología (NIST) en diciembre pasado descubrió que los sistemas identificaron erróneamente a los negros con más frecuencia que a los blancos después de que Raji, Joy Buolamwini, Timnit Gebru y Helen Raynham realizaran un trabajo pionero en tecnologías de reconocimiento facial El mismo resultado.

La ley POST, y las 13 leyes similares aprobadas por las ciudades de todo el país, son un paso positivo. Esto también se aplica a las regulaciones sobre el uso de drones por parte de las agencias policiales en 44 estados. las prohibiciones de reconocimiento facial en San Francisco, Oakland, Somerville, Brookline y San Diego; y la ley de reforma propuesta por los demócratas de ambas Cámaras del Congreso, que contiene restricciones sobre el uso de cámaras policiales. Todas estas medidas evitan que compañías como Palantir, Ring, Clearview AI, y en menor medida Microsoft, Google y Amazon, persigan contratos que violen los derechos de la gente común.

"El orden de poder existente es insostenible", escribe Sadowski. “Las compañías que se han beneficiado de las tecnologías [surveillance] y los gobiernos que las han usado contra el público no tienen autoridad moral para decirnos qué conservar y qué desechar. El desmantelamiento de la maquinaria policial es un método necesario para contrarrestar las formas de poder que se gestionan a través de esta infraestructura. “

Esta parece ser cada vez más la mejor opción.

Envíe consejos de noticias a Khari Johnson y Kyle Wiggers para informes de AI, y asegúrese de suscribirse al boletín semanal de AI y marcar nuestro canal de AI.

Gracias por leer,

Kyle Wiggers

AI Staff Writer

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *