MP Jimmy Gomez sobre el futuro de la regulación del reconocimiento facial en el Congreso


Amazon, IBM y Microsoft han anunciado que no venderán productos de reconocimiento facial a las agencias policiales estadounidenses mientras continúan las protestas contra el asesinato de George Floyd en todo el país. Si bien los detalles y los términos de sus compromisos difieren (Amazon y Microsoft acordaron interrupciones temporales, mientras que IBM dejará de vender productos de reconocimiento facial), las tres compañías han pedido una regulación tecnológica de Washington, DC

. Se presentaron varios proyectos de ley al Congreso. Se propuso abordar los prejuicios de reconocimiento facial y el posible uso indebido por parte de los organismos encargados de hacer cumplir la ley, pero las conversaciones más avanzadas hasta ahora sobre la regulación del reconocimiento facial han tenido lugar en el Comité de Supervisión y Reforma de la Cámara.

Allí, los legisladores democráticos y republicanos acordaron que el FBI por la falta de estándares en su programa de reconocimiento facial, y los legisladores de ambos partidos acordaron que el reconocimiento facial no debe usarse para enfriar el derecho a la libertad de expresión en protestas o manifestaciones políticas. . También parecía haber un acuerdo bipartidista de que las empresas y las agencias de aplicación de la ley necesitaban barandas para usar esta tecnología.

Las audiencias sobre el tema comenzaron en mayo de 2019, y la presidenta del comité Carolyn Maloney (D-NY) prometió introducir leyes en breve en enero. Ahora, los legisladores en el Congreso están considerando leyes que podrían incluir una moratoria temporal sobre el reconocimiento facial de las fuerzas del orden.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Parte del trabajo del Comité de Reconocimiento Facial proviene del liderazgo del ex diputado Elijah Cummings, quien falleció el otoño pasado, pero sus esfuerzos incluyen protestas en su distrito de Baltimore después de la muerte de Freddie Gray.

El representante Jimmy Gómez (D-CA) de Los Ángeles se desempeñó como vicepresidente del comité y se interesó en el sesgo algorítmico después de ver un panel técnico de SXSW sobre la falta de diversidad técnica en 2017 que condujo a sistemas inherentemente sesgados . Pero lo que realmente puso a Gómez en acción fue que Amazon lo clasificó como criminal en una prueba de ACLU de 2018. En ese momento, Rekognition tenía el doble de probabilidades de llamar criminal a un miembro del Congreso si era un criminal de color en lugar de blanco.

Gómez habló con VentureBeat esta semana sobre los próximos pasos para regular el reconocimiento facial en el Congreso, las dificultades que él y sus colegas han encontrado para tratar de obtener respuestas de Amazon, y el impacto de las protestas en la regulación del reconocimiento facial en Miles de ciudades de todo el país desde la muerte de George Floyd.

Esta entrevista fue editada por brevedad y claridad.

VentureBeat: ¿Qué opinas de las noticias de IBM esta semana? , Amazon y Microsoft?

Rep. Jimmy Gomez: Genial, necesitamos mucho más de ellos. ¿Es un verdadero despertar o comprensión de que tienen que cambiar? Quiero ver cambios reales en los negocios y cambios en la ley del Congreso, pero todavía tienen muchas preguntas que responder sobre lo que hicieron esta semana y cómo [can] juegan un papel productivo con otras partes interesadas que brindan soluciones para Encuentra este problema.

VentureBeat: ¿qué sigue?

Gómez: Cuando el reconocimiento facial es visto como el futuro de la vigilancia, solo se mantienen los mismos prejuicios que existen porque están sesgados en sí mismos. Es defectuoso Ha demostrado ser defectuoso y puede [misidentify] personas de color, principalmente mujeres negras, latinas, afroamericanas, y cuanto más oscuro es el color de la piel, más errores comete. Esto conducirá a más interacciones negativas entre las agencias de aplicación de la ley y las personas de color, lo que puede tener consecuencias fatales.

Siempre me preocupaba, pero si estas protestas no existieran, si no fuera por la sensibilización, no podríamos legislar. Por lo tanto, insto a la legislación [passed] en la que el Comité de Supervisión y Reforma ha estado trabajando durante varios años. Era una ley de moratoria, debería ser bipartidista, e insistiré en que al Congreso le tome más de un año tener tiempo real para hacer algo.

Tuvimos tres audiencias y [chair] Carolyn Maloney anunció a principios de este año que el Comité de Supervisión destacaría este proyecto de ley y lo pondría en práctica antes de fin de año. Así que ese sigue siendo mi objetivo. Actualmente, el comité tiene prisa por lograr esto, y creo que las compañías que anunciarán que impondrán una moratoria y retirarán el uso de [the technology’s] con suerte crearán más impulso. Todavía tenemos que tratar con los republicanos, y espero que podamos tenerlos a bordo, pero de cualquier manera, creo que los demócratas deberían impulsar esta ley.

VentureBeat: más allá de cuestiones como una moratoria Parecía haber un cierto acuerdo bipartidista sobre algunas cuestiones clave como no reconocimiento facial en manifestaciones políticas, medidas de protección contra el reconocimiento facial por parte de la policía durante las protestas , [and] algunas normas clave para el uso del reconocimiento facial por parte del FBI. Parecía que había acuerdo sobre muchas de estas cosas.

Gómez: Hubo acuerdo en que era un problema. Hubo acuerdo en que el uso del reconocimiento facial en estos entornos es un problema y que debemos tomar medidas para hacer algo al respecto. Y cuando comenzamos, el virus de la corona atacó y fue empujado a un segundo plano porque la ley del virus de la corona tuvo que ser aprobada. Pero todavía tenemos que encontrar un consenso sobre la solución legislativa para resolver estos problemas.

En realidad tenemos que lograr algo con esto [legislation]. Y es por eso que tenemos estas conversaciones con los republicanos mientras hablamos de ellos. Si creo que los republicanos se están moviendo muy lentamente, creo que deberíamos considerar un proyecto de ley solo para los demócratas.

VentureBeat: En este sentido, ¿te refieres específicamente a una moratoria? [19659002] Gómez: Tal vez un poco más ancho y un poco más robusto, con muchas de las cosas que acabas de mencionar. Y la razón por la que ahora tenemos el impulso y no podemos dejarlo ir.

¿Es más difícil aprobar el Senado? Si. Pero es un mejor marcador para un presidente democrático y, con suerte, un senado democrático. Entonces, en mi opinión, no es solo uno u otro.

VentureBeat: En su opinión, ¿se ve la definición de lo que regula la regulación del sentido común? ¿Ha cambiado esto desde la última muerte de George Floyd? ¿algunas semanas?

Gómez: Eso espero. Siempre me han preocupado el uso del reconocimiento facial en manos de las agencias de aplicación de la ley porque hay más errores entre las personas de color que pueden dar lugar a que la policía los atropelle y aún más consecuencias mortales, y eso siempre ha estado en el fondo en mi opinión. .

Si nos fijamos en algunas de mis declaraciones, en realidad he dado un escenario sobre alguien que fue detenido por la policía que es confundido con alguien que tiene un delito, y esta situación es estresante para las personas de color. ¿Ley? Da miedo. Y las personas de color también saben que los hombres afroamericanos y los latinos tienen más probabilidades de ser objeto de violencia por parte de los agentes de policía y similares. Es algo que siempre ha estado a la vanguardia de mis pensamientos. Espero que debido a la muerte de George Floyd y la discusión sobre la disparidad y los prejuicios raciales, los prejuicios y el racismo, otros miembros ahora entiendan por qué este tema fue tan importante para mí y para otras personas de color que son miembros [of Congress] que fueron mal identificados por la tecnología de reconocimiento de Amazon.

Porque, francamente, siento que la gente inicialmente pensó que los estaba destruyendo. Se sintió como si algunas personas pensaran que iba a hacer un gran problema con eso, y no es un gran problema hasta que usted sea el único cuya foto coincida con alguien que tiene una foto policial. Así que espero que los miembros del Congreso que no pertenecen a minorías ahora puedan tener una mejor idea de por qué este tema es tan importante para nosotros.

VentureBeat: ¿Puedes contarme algo sobre tu historia cuando intentaste hacer preguntas a Amazon sobre el software de reconocimiento facial?

Gómez: Creo que mis compañeros de trabajo se reunieron con ellos diez veces, pero siempre fue en círculos sin responder realmente las preguntas que teníamos en nuestras cartas.

Cuando obtuvimos la mayoría [in 2018] recurrí a [Rep.] Jamie Raskin [D-MD] y dije: "Oye, deberíamos tener una audiencia de reconocimiento facial". Me acerqué a Elijah Cummings, la silla en ese momento, y le dije: "Oye, eso es un gran problema. Deberíamos tener audiencias al respecto cuando sucedió por primera vez. “

A medida que comenzamos a involucrarnos más y más, Elijah Cummings estaba realmente emocionado y comenzamos a celebrar audiencias y progresamos un poco. Luego murió y perdimos ese impulso. Cuando Carolyn Maloney se hizo cargo, básicamente dije que esta era mi máxima prioridad y se comprometió a celebrar la audiencia. Y luego se comprometió a adelantar una factura y marcarla para fin de año. Luego me pidió que formara parte de su equipo y corrí a la vicepresidencia. Así que ese es un tema en el que estábamos golpeando lentamente el tambor, pero Amazon no era tan abierta como había imaginado.

Creo que para ellos [tech giants] en el entorno actual tuvieron que dar un paso y hacer algo más que simples tópicos, demostrando que toman en serio el papel de las empresas cuando tienen una sociedad más justa, crear un país justo, un país más justo. Y creo que sabían que surgiría este problema de reconocimiento facial, por lo que dieron esta moratoria, pero si la moratoria no es respaldada por la cooperación, son solo tópicos.

Necesitamos que trabajen juntos y se den información mutua para que podamos estar mejor informados sobre cómo legislar. Si no es así, solo trabajaremos con los grupos de derechos civiles y solo intentaremos hacer que se cumpla y, en mi opinión, probablemente intentarán rechazarlo al final del día si no les gusta, pero intentaremos hacer algo útil para avanzar. Creo que las partes interesadas están en la mesa, desde agencias de aplicación de la ley hasta grupos de derechos civiles, abogados y compañías que desarrollan esta tecnología. Pero si no están sentados a la mesa, eso no significa que nos detendremos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *