La promesa utópica y el potencial distópico de la detección en tiempo real de emergencias policiales, de bomberos y médicas


En 2014, John Garofolo fue a Baltimore para reunirse con el teniente. Samuel Hood del Departamento de Policía de Baltimore para visitar. Garofolo dirigió anteriormente Aladdin, un programa de la Oficina del Director del Servicio Nacional de Inteligencia para automatizar el análisis de una gran cantidad de videoclips. Garofolo organizó talleres con miembros de la comunidad de investigación de IA en 2012 para promover sistemas de seguimiento multicámara. El atentado con bomba del Maratón de Boston ocurrió en 2013 y Garofolo se unió a la Oficina de Política de Ciencia y Tecnología de la Casa Blanca para continuar con ese trabajo. Este foco de investigación lo llevó a Baltimore para ver la red CitiWatch de 700 cámaras en acción.

Garofolo dijo que lo que vio fue terrible: video de una mujer cayendo al puerto, donde se ahoga. Nadie vio las imágenes de vigilancia de ella caer a tiempo para salvarla.

"Tenían un video al día siguiente, pero no sabían qué ver. Si hubieran sabido qué ver, ella estaría viva ahora", dijo. "Y entonces pensé, ' Podemos desarrollar tecnologías que puedan solucionar algunos de estos problemas, cuando las personas se encuentran en una emergencia, y los monitores [human] facilitan la visualización del video correcto y se desvían de un uso más forense de ese video video para uso en tiempo real para la respuesta de emergencia ". [19659002] Es por eso que Garofolo ayudó a crear el desafío de Análisis automatizado de corrientes para la seguridad pública (ASAPS), un desafío de dos años basado en un gran conjunto de datos compilados por el gobierno federal para alentar a las personas en la comunidad de visión por computadora a Cree IA que proporcione información automatizada a los operadores de emergencias que trabajan con la policía, los bomberos y el personal médico.

Computer -subst El software de envío ützte que utilizan los operadores de emergencia en la actualidad a menudo muestra información específica como: B. eventos de emergencia reportados, ubicación de vehículos de emergencia y algunas formas de visualización de datos. El objetivo, sin embargo, es dar a los servicios de emergencia la oportunidad de reconocer las emergencias en acción y enviar a la policía, los bomberos o los servicios médicos. Para capacitar a los sistemas de inteligencia artificial para hacer esto, ASAPS dispersa eventos como ataques, emergencias médicas e incendios estructurales en una variedad de datos de imagen, audio y texto creados por el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU. Y sus contratistas.

Arriba: una cuadrícula de videos recopilados por MUTC.

Crédito de la foto: Instituto Nacional de Estándares y Tecnología

Como parte del proceso de creación de registros de ASAPS, 150 personas participaron en emergencias escenificadas en el Centro de Capacitación Urbana de Muscatatuck (MUTC) en julio. Los asistentes incluyeron 19 actores de acrobacias y 14 agentes de seguridad pública, dijo Garofolo. MUTC se encuentra en Butlerville, Indiana. Usado normalmente para entrenamiento militar, MUTC es la instalación de entrenamiento urbano más grande para el Departamento de Defensa en los Estados Unidos. En emergencias organizadas personalmente, se produjeron imágenes para alrededor de 30 cámaras de video, e imágenes y videos contribuyeron a una colección de hasta 15,000 publicaciones en redes sociales en el registro de EE. UU.

ASAPS también incluye detección de disparos simulados, texto de llamadas de emergencia y más de 50 horas de transmisión de radio y llamadas al 911 grabadas por actores y actrices. Todas las emergencias se encuentran en una ciudad de 200 acres. El conjunto de datos está completamente creado o organizado para proporcionar un nivel completo de flexibilidad para los participantes del desafío, dijo a VentureBeat Craig Connelly, gerente del programa de I + D del NIST.

El conjunto de datos completo de eventos de emergencia sintéticos y reales se publicará en el otoño de este año. Se dará un primer vistazo a los participantes del desafío en los talleres virtuales que tendrán lugar del 23 al 24 de septiembre.

ASAPS también es único en el sentido de que desafía a los profesionales de la IA a crear sistemas que puedan extraer datos de varias fuentes y determinar si hay una emergencia en curso. Según Garofolo, ASAPS es el conjunto de datos más grande creado para el análisis de video en vivo.

“Por el momento no hay nada igual. Todos los desafíos siempre usan datos predefinidos y todos los datos se presentan a los sistemas para que puedan verlos todos antes de tomar una decisión ”, dijo. “Dudo que lo resolvamos por completo en los dos años del programa. Eso es muy poco tiempo. Sin embargo, creo que crearemos una semilla para el crecimiento de esta tecnología y el interés de la comunidad en el análisis multimodal en tiempo real. “

El conjunto de datos ASAPS fue compilado por NIST, una agencia federal que realiza análisis, por ejemplo, de sistemas de reconocimiento facial. NIST ha desarrollado un plan para que las agencias federales trabajen con instituciones privadas para crear estándares para los sistemas de IA.

El desafío ASAPS consta de cuatro competencias separadas: las dos primeras se centran en analizar el momento, el lugar y el tipo de emergencias. Los dos últimos están destinados a mostrar información para los socorristas en los centros de operaciones. Para ganar, los equipos deben desarrollar un sistema con un nivel de confianza que sea adecuado para alertar a un operador humano sobre un evento sin generar demasiados falsos positivos.

"Es un poco como el juego de Clue", dijo Garofolo. “Estás dando vueltas por el consejo y tienes que tomar una decisión estratégica cuando dices que crees que sabes la respuesta. Si lo declaran demasiado pronto y se equivocan, se involucrarán con la métrica. Si lo declaran mucho más tarde que otros participantes, no obtendrán una puntuación tan alta para la métrica. “

¿Salvador o estado de vigilancia distópico?

IA que pide ayuda cuando te atacan en la calle o en la calle Tu casa está en llamas como un sueño, pero una IA que rastrea a las personas a través de múltiples sistemas de cámaras y envía a la policía a tu ubicación podría ser distópica Sea una pesadilla.

Las protestas contra Black Lives Matter, que comenzaron en junio y continúan hasta el día de hoy, son históricamente amplias y de gran alcance. Una plataforma política creada por organizaciones comunitarias negras exige una reducción en la vigilancia de las comunidades negras y el reconocimiento del papel que juega la vigilancia en el racismo sistemático. Pero no tiene que pensar mucho más allá de Baltimore para comprender cómo los usos potenciales de la IA como la que ASAPS busca generar podrían ser motivo de preocupación.

La inteligencia artificial se ha utilizado en Baltimore para encontrar algo más que personas que llegan al puerto. Además de utilizar cámaras de propiedad de la ciudad instaladas en lugares públicos, CitiWatch también utiliza cámaras de socios como la Universidad Johns Hopkins e incluso de empresas privadas o ciudadanos.

Cuando estallaron protestas y disturbios en Baltimore después de la muerte de Freddie, Gray, quien estaba bajo custodia policial en 2015, la policía utilizó una variedad de formas de vigilancia, que incluyen: B. Tecnología de rastreo de teléfonos celulares y geofeedia para monitorear personas en Facebook, Instagram y Twitter. Trabajando con cámaras CitiWatch en tierra, un avión de vigilancia sobrevoló la ciudad. En una demanda presentada a principios de este año para detener el uso policial de la Investigación de Investigación Aérea (AIR), la ACLU describió el programa como "el imán de vigilancia de mayor alcance jamás desplegado en una ciudad estadounidense".

La policía también utilizó el reconocimiento facial para identificar a las personas a partir de imágenes de cámaras y fotos de las redes sociales. El ex presidente del Comité de Reforma y Supervisión de la Cámara de Representantes, el representante Elijah Cummings (D-MD), dijo que el uso del reconocimiento facial entre los manifestantes y la evidencia de sesgo discriminatorio en los sistemas de reconocimiento facial fueron parte de la razón por la que decidió hacer una serie el año pasado. convocado por audiencias del Congreso para discutir la regulación del reconocimiento facial. Los sistemas de reconocimiento facial son más propensos que los blancos a identificar erróneamente a los estadounidenses de origen asiático y a las personas con tonos de piel más oscuros, según un estudio del NIST.

Los demócratas y los republicanos se han opuesto al uso del reconocimiento facial durante las protestas o mítines políticos debido a su potencial efecto disuasorio sobre el derecho constitucional de las personas a la libertad de expresión. Durante las últimas semanas, la policía de Miami y Nueva York ha utilizado el reconocimiento facial para identificar a los manifestantes acusados ​​de delitos. Se ha demostrado que otros temores ardientes de un estado creciente de vigilancia y vigilancia policial predictiva por parte de empresas como Palantir, que operan en ciudades como Los Ángeles y Nueva Orleans, muestran prejuicios raciales. A nivel mundial, proyectos como Sidewalk Labs en Toronto y el despliegue de soluciones Huawei 5G Smart City en docenas de países de todo el mundo también han suscitado preocupaciones sobre la vigilancia y la propagación del autoritarismo.

Garofolo dijo que el reconocimiento facial y la lectura de matrículas se mantuvieron deliberadamente fuera del desafío por razones de privacidad. También dijo que ya se le acercó una empresa de vigilancia que quiere usar ASAPS, pero rechazó la solicitud. De hecho, el NIST requiere que los participantes solo utilicen los datos para análisis de emergencia. Los participantes pueden rastrear personas a través de múltiples cámaras, pero no pueden identificar sus rostros.

“Hicimos todo lo posible para proteger la privacidad y el desafío. Entendemos que, como cualquier tecnología, se puede utilizar para bien o para mal. Necesitamos comenzar a desarrollar pautas para usar estas tecnologías. Esto va más allá de lo que hacemos en ASAPS, pero creo que ASAPS ilustrará el desafío y, con suerte, tendrá una buena discusión al respecto ”, dijo Garofolo.

Incluso si se anonimiza, un sistema de inteligencia artificial que detecta un presunto ataque de cámara podría, por ejemplo, aumentar la probabilidad de que una persona negra entre en contacto con la policía.

Como vimos esta semana cuando James Blake recibió siete disparos en la espalda en Wisconsin, cualquier escenario que lo permita son personas mortales que entran en contacto con la policía, especialmente negros. Un estudio de la Northeastern University publicado a principios de este año encontró que los negros tienen el doble de probabilidades de morir por disparos policiales que los blancos.

También existe el riesgo de que la misión se filtre en la que la tecnología de vigilancia adquirida para un propósito se utilice más tarde para otro. Los ejemplos más recientes provienen de San Diego, donde originalmente se pretendía que las farolas inteligentes se usaran para recopilar datos de tráfico y ambientales. Luego, la policía solicitó acceso al material de la película, inicialmente solo por delitos violentos graves, pero finalmente también por delitos menores como los vertidos ilegales. El Departamento de Policía de San Diego tiene políticas que prohíben el uso de lectores faciales o de matrículas en las imágenes de la cámara. Sin embargo, también han solicitado videos de protestas contra Black Lives Matter.

El Concejo Municipal de San Diego está considerando establecer un comité asesor de privacidad o adoptar una política formal de adopción de tecnología de vigilancia que revisará la adopción de nuevas tecnologías y el uso de tecnologías existentes por parte de funcionarios gubernamentales. Las pautas de revisión de la tecnología de vigilancia aún no son comunes para los gobiernos de las ciudades, pero las principales ciudades de California, Oakland y San Francisco, aprobaron estas leyes en 2018 y 2020, respectivamente.

China, sistemas de vigilancia y visión por computadora

Garofolo comenzó a promover el uso de sistemas de vigilancia multicámara en conferencias como Visión por computadora y reconocimiento de patrones (CVPR) en 2012. (CVPR es uno de los más populares según el informe AI Index 2019 Las conferencias anuales de investigación de IA más grandes del mundo). Hacia una meta Garofolo y Connelly asistieron al taller de AI City Challenge en CVPR en junio para promover ASAPS entre los miembros de la comunidad de visión por computadora.

El AI City Challenge se lanzó para resolver desafíos en las operaciones de transporte con AI y para desarrollar sistemas inteligentes de transporte público. Un desafío para 2020, por ejemplo, se centra en la detección de automóviles bloqueados o accidentes de tráfico en la autopista. Alrededor de 30 equipos participaron en el desafío de apertura en 2017. Este año, 800 investigadores individuales estuvieron representados en 300 equipos de 36 países. 72 equipos finalmente enviaron el código final.

El AI City Challenge siempre ha sido una competición internacional en la que participan equipos de todo el mundo. Desde el principio, prácticamente todos los equipos ganadores proceden de China y Estados Unidos. Los equipos de la Universidad de Washington y la Universidad de Illinois recibieron las mejores calificaciones en 2017. En 2018, un equipo de la Universidad de Washington obtuvo el primer lugar en dos de las tres competiciones, y un equipo de la Universidad de Beijing ocupó el segundo lugar. Ese año, un equipo de la Universidad Carnegie Mellon ganó una sola competencia, pero equipos de universidades chinas y compañías como Baidu ganaron tres de cuatro competencias, y los equipos chinos también obtuvieron la mayor cantidad de finalistas.

Garofolo dijo que creía que los resultados del AI City Challenge 2020 “dan un mensaje sobre dónde estamos en términos de competitividad en Estados Unidos. Vas a CVPR y puedes ver que una gran [number] de los jefes de la fuerza laboral en IA son ahora del extranjero. Creo que este es un tema importante que nos afecta a todos. Por eso, es de esperar que ASAPS proporcione uno de los muchos lugares de investigación diferentes para que los científicos y las organizaciones estadounidenses sean competitivos ”, dijo Garofolo.

Los desafíos de ASAPS se otorgan hasta $ 150,000 y, debido a que el gobierno de los EE. UU. Recibe el premio, ellos participan.Los equipos deben estar dirigidos por una persona, empresa o universidad de los EE. UU.

Los investigadores han sido noticia en los últimos meses a medida que aumentan las tensiones entre China y Estados Unidos. Las disputas sobre las actividades de investigación llevaron al cierre de una embajada china en Texas. y los republicanos en el Congreso criticaron a Microsoft y Google el año pasado por presuntamente colaborar con investigadores militares chinos. Dado que la economía y China son temas centrales para la campaña de reelección de Trump en 2020, pueden surgir disputas similares en los próximos meses.

A pesar del nacionalismo técnico en el escenario político, la colaboración entre investigadores continuó. Al final del taller AI City Challenge, los organizadores dijeron que están considerando una competencia de análisis de video en vivo que se parece más a ASAPS.

El Desafío ASAPS se llevará a cabo en los próximos dos años. Los problemas de privacidad y seguridad del dispositivo Edge en caso de problemas de detección de emergencia podrían motivar desafíos futuros con el conjunto de datos, dijo Garofolo.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *