AI Weekly: Vigilancia, racismo estructural y la campaña presidencial de Biden 2020


Recientemente ha habido algunas noticias históricas de IA en el Reino Unido con respecto al uso gubernamental de la tecnología. Primero, el uso del reconocimiento facial por parte de la Policía de Gales del Sur fue declarado ilegal por un juez de la Corte de Apelaciones, en parte debido a violaciones de la privacidad, los derechos humanos y al hecho de que la policía no verificó que la tecnología no fuera racista o con prejuicios de género. La forma en que el Reino Unido maneja el reconocimiento facial es importante, ya que Londres tiene más cámaras de CCTV que cualquier otra ciudad importante fuera de China.

Los funcionarios del gobierno británico utilizaron un algoritmo que finalmente benefició a los niños que asistían a escuelas privadas y degradó a los estudiantes de entornos desfavorecidos. El primer ministro Boris Johnson defendió los resultados de la evaluación del algoritmo como "robustos" y "fiables para los empleadores". Los estudiantes grabaron los resultados del examen en Parliament Square y cantaron "A la mierda el algoritmo". En última instancia, el gobierno les dio a los estudiantes la posibilidad de elegir entre una calificación de maestro o una puntuación de algoritmo.

En los Estados Unidos, el uso de inteligencia artificial por parte del gobierno también ha sido cuestionado, ya que la policía de Miami y Nueva York utilizó el reconocimiento facial para identificar a los manifestantes en las protestas importantes de Black Lives. Tanto los demócratas como los republicanos en el Congreso han hablado extensamente sobre evitar el reconocimiento facial durante las protestas, ya que puede interferir con el derecho constitucional de las personas a la libertad de expresión. Aproximadamente cuando se anunció que Clearview AI se estaba asociando con ICE la semana pasada, la Oficina de Responsabilidad del Gobierno (GAO) publicó un informe que identificaba un aumento en el reconocimiento facial corporativo y recomendó que el Congreso tomara medidas. Un grupo destacado que representa a las empresas de reconocimiento facial también elaboró ​​sus propias pautas éticas, que algunas empresas ya han violado.

En medio de toda esta polémica, esta semana se llevó a cabo la Convención Nacional Demócrata, donde la tecnología fue a la vez tema de discusión política y precursora del evento en sí. Fue una reunión completamente virtual donde votaciones nominales para nominar candidatos, Los discursos, las actuaciones musicales y los discursos clave en todo el país se han grabado o interpretado en directo.

En su discurso de aceptación el jueves, Biden habló sobre su plan para abordar el COVID-19 cuando sea electo y dijo que Estados Unidos enfrenta cuatro crisis históricas: COVID-19, la peor crisis económica desde la Gran Depresión, exige una reforma de la justicia racial. y cambio climático. Habló sobre la idea de esta generación de eliminar las manchas de racismo del carácter estadounidense. También habló sobre un plan para crear 5 millones de nuevos puestos de trabajo en manufactura y tecnología. Un plan elaborado el mes pasado exige una inversión de investigación y desarrollo de $ 300 mil millones en áreas como 5G e inteligencia artificial.

En su discurso de aceptación, la candidata demócrata a la vicepresidencia, Kamala Harris, se presentó al país, la primera vicepresidenta mujer negra e india en la historia de Estados Unidos. Mencionó el centenario de la adopción de la 19ª Enmienda, que dio a algunas mujeres el derecho al voto. habló sobre cómo el presidente Trump no es apto para el cargo; y reconoció que las personas negras, latinoamericanas y nativas mueren a causa del COVID-19 en tasas desproporcionadamente más altas.

“Esto no es una coincidencia. Es el efecto del racismo estructural, las desigualdades en educación y tecnología, atención médica y vivienda, seguridad laboral y transporte ", dijo Harris.

Una mirada más cercana al Plan de la Campaña Biden 2020 para Combatir la Desigualdad Racial revela un Plan de Acción que abarca una variedad de áreas, desde contratos gubernamentales justos y oportunidades para empresarios y pequeñas empresas hasta cerrar la brecha de prosperidad racial, poner fin a la vivienda y la discriminación en la vivienda la eliminación de los sistemas de fianza en efectivo.

La inteligencia artificial también se incluye en varias partes de la plataforma. como el Plan de Educación de Biden, que tiene como objetivo llevar la educación informática a las escuelas primarias para que los niños puedan crecer y conseguir trabajos en IA, y el Plan de Política Exterior de Biden, que dice: “Debemos asegurarnos de que las tecnologías del futuro, como la IA, cumplan con las leyes y la ética están vinculados y promueven una prosperidad y una democracia más comunes. "

El plan de política exterior también establece:" Las empresas de tecnología, que se benefician de los frutos de la democracia, deben concretar las promesas de cómo pueden garantizar que sus algoritmos y plataformas no fortalezcan el estado de vigilancia que facilita la opresión en China y en otros lugares, Difundir el odio, incitar a la violencia y permanecer vulnerable al abuso. “

La plataforma también promete esto, ya que el presidente Joe Biden encomendaría a la Oficina de Protección de Finanzas al Consumidor que se asegure de que los algoritmos utilizados para las calificaciones crediticias estén libres de discriminación.

Los sesgos algorítmicos se mencionan en relación con las puntuaciones de crédito y las plataformas de redes sociales. Sin embargo, los planes de Biden para combatir la desigualdad racial y la justicia penal parecen no incluir apoyo o planes para limitar la tecnología de vigilancia o reconocer un historial de colaboración entre las grandes empresas tecnológicas y la policía.

La Plataforma del Partido Demócrata 2020 menciona cuatro veces la inteligencia artificial, especialmente en el contexto de la investigación y el desarrollo, pero también menciona la importancia de las inversiones militares, que son necesarias para “enfrentar las amenazas del futuro”. También dice: "Los demócratas creen que los algoritmos y las plataformas deberían empoderar a las personas en lugar del estado de vigilancia".

En cambio, la lucha contra la vigilancia es parte de la plataforma política del movimiento por la vida de los negros. Los organizadores crearon la primera plataforma en 2016 y la actualizaron a principios de este mes antes de la Convención Nacional Negra. Este enfoque es similar a la creación de una agenda nacional a partir de una reunión similar que tuvo lugar por primera vez en 1972. Más de 50 organizaciones que forman parte de esta plataforma The Black Community respaldaron el plan.

Al igual que la campaña Biden 2020, el Movimiento Black Lives también pide el fin del sistema de fianza en efectivo, pero también el fin de la detención preventiva y la evaluación de riesgos en los tribunales, para lo cual The Partnership for KI dijo que los algoritmos para automatizar el rescate Los procesos aún no están operativos en el último año.

Con base en el plan Biden 2020 y la plataforma del Partido Demócrata, tenemos una idea de lo que Harris quiso decir cuando dijo que la tecnología juega un papel en la estructura del racismo. VentureBeat se acercó a la campaña Biden 2020 para obtener más detalles.

En el pasado, se suponía que otro invierno de IA sería el resultado de limitaciones computacionales o avances en la investigación que chocaban contra una pared. ¿Qué pasa si llega el invierno porque las interacciones negativas o las percepciones de tecnologías como el reconocimiento facial entre el público en general están afectando la voluntad de aceptar o confiar en los resultados? Hasta cierto punto, parece bueno que se recuerde a la gente que los algoritmos cometen errores, pero cuando las personas en el poder utilizan algoritmos para tomar decisiones sobre la vida de las personas, sucede que La desconfianza se establece, como fue el caso recientemente en la Universidad de Nueva York y la Universidad de Stanford, sugirió un estudio del gobierno federal de EE. UU. Sobre IA.

La Campaña Biden-Harris compartió algunas de sus opiniones sobre la IA; Ciertamente, existe una conciencia del prejuicio algorítmico en la plataforma, y ​​Kamala Harris ha desafiado el prejuicio racial, incluido el reconocimiento facial, en el pasado. También tiene una larga trayectoria en Silicon Valley y ha propuesto leyes como la AI in Government Act para eliminar las barreras a la adopción gubernamental de la tecnología.

Dependiendo de cómo transcurra el día de las elecciones el 3 de noviembre, se aplicarán leyes como una moratoria de reconocimiento facial y un tratamiento facial. Una prohibición de reconocimiento o una ley biométrica nacional aprobada recientemente en el Senado de EE. UU. Podría estar en camino del Congreso o el próximo Sea la administración presidencial. Queda mucho por decidir antes de esa fecha, pero independientemente de quién gane las próximas elecciones presidenciales, el uso de vigilancia policial predictiva, evaluaciones de riesgo previas al juicio, reconocimiento facial y otras aplicaciones de inteligencia artificial seguirá siendo una parte controvertida de la reforma de la justicia racial. El temor legítimo de que estos sistemas solo exacerbarán y exacerbarán las injusticias existentes significa que incluso si esta IA se prueba ampliamente antes de su implementación, existe el riesgo de disminuir la confianza en la IA y en los gobiernos por igual.

Para obtener cobertura de IA, envíe consejos de noticias a Kyle Wiggers y Khari Johnson, y asegúrese de marcar nuestro canal de IA como favorito.

Gracias por leer,

Khari Johnson

Redactor senior de AI

Deja una respuesta

Tu dirección de correo electrónico no será publicada.