La protesta de IBM contra el reconocimiento facial, explicó


  Logotipo de fuente abierta

La noticia de que IBM ya no fabricará tecnología de reconocimiento facial puede no parecer particularmente extensa al principio. El compromiso de la compañía de oponerse a este tipo de tecnología de vigilancia racialmente sesgada encaja con una tendencia positiva de las medidas tomadas después de las protestas contra la brutalidad policial en la nación. Mientras que algunos advierten que el movimiento de IBM no terminará la era del reconocimiento facial, otros dicen que es un paso significativo en la dirección correcta.

IBM se opone al desarrollo de tecnologías que pueden conducir a violaciones de los derechos humanos. Activistas e investigadores han estado dando la alarma durante años sobre la miríada de problemas con la tecnología de reconocimiento facial, incluidos sus prejuicios racistas y de género y los riesgos de privacidad. Algunos acogen con beneplácito el anuncio de IBM como un paso notable y enfatizan que los recursos de la gran empresa de tecnología ahora se están trasladando a otro lugar. La decisión de IMB de retirarse del reconocimiento facial también podría enviar una señal a otros proveedores importantes de esta tecnología.

Este no fue un anuncio silencioso de IBM. En una carta a los miembros del Congreso, el CEO de IBM, Arvind Krishna, dijo que la compañía ya no fabricará software de análisis y reconocimiento facial universal y expresó su preocupación por el uso de la tecnología por parte de las fuerzas del orden público. Aclaró que IBM "rechaza decididamente el uso del reconocimiento facial" para la vigilancia masiva, el perfil racial, la violación de los derechos humanos y las libertades fundamentales. La carta también describe varios esfuerzos que la compañía está haciendo en respuesta a las continuas manifestaciones contra la brutalidad policial , por ejemplo, aprobaría un registro federal de mala conducta policial.

El mensaje sigue a los esfuerzos de los organizadores e investigadores que destacan cómo el reconocimiento facial puede hornear, en prejuicios raciales y de género. En particular, Joy Buolamwini y Timnit Gebru 2018 tienen un impacto influyente juntos Compuesto por un papel que destaca el sesgo en los sistemas de reconocimiento facial, este estudio innovador mostró diferencias raciales y de género en la precisión del software de clasificación facial basado en IA son, especialmente para mujeres con piel oscura. Específicamente, se presentó el análisis de las diferencias en la tecnología de IBM entre los sistemas vendidos por otras compañías. La investigación realizada por el Instituto Nacional de Estándares y Tecnología, publicada a principios de este año, ha proporcionado aún más evidencia de que la tecnología puede ser, y a menudo es, sesgada, según el género, la edad y la raza.

IBM no fue particularmente específico en su anuncio. Sin embargo, una persona familiarizada con el asunto dijo que IBM se limitaría a desarrollar el reconocimiento de objetos visuales y ya no proporcionaría API que pudieran hacer que el reconocimiento facial esté disponible para desarrolladores externos o internos. La compañía no haría más comentarios sobre su razonamiento para dejar de usar la tecnología. Deborah Raji, becaria de tecnología del AI Now Institute, señaló que la compañía había eliminado tácitamente el reconocimiento facial de su API el otoño pasado y advirtió que IBM estaba lejos de ser el proveedor más peligroso de esta tecnología.

"[Big companies] tienen un gran impacto en el debate público al respecto, y tienen un gran impacto en la discusión política al respecto", dijo Raji de la tecnología de reconocimiento facial. "Si pueden rechazar la tecnología, puede enviar una señal a los responsables políticos y al público de que la tecnología no está bien".

"IBM definitivamente se está moviendo en la dirección correcta y con suerte presionará a estas otras compañías para que den este paso", agregó, aunque tuvo cuidado de declarar una victoria completa hasta que otras compañías como Amazon dejen de presionar. su tecnología de aplicación de la ley.

La Associated Press, por su parte, informó que la decisión de IBM "es poco probable que afecte el resultado final" porque la compañía está muy enfocada en áreas como la computación en la nube y otras compañías han tenido más éxito en el mercado de tecnología de reconocimiento facial. Aún así, Mutale Nkonde, investigador asociado en Harvard y Stanford que dirige la IA sin fines de lucro para la gente, le dijo a AP que "la naturaleza simbólica de esto es importante".

A medida que el público se ha vuelto cada vez más consciente del uso del reconocimiento facial en los últimos años, varios lugares recientemente han prohibido a las agencias gubernamentales el uso de la tecnología. Sin embargo, las manifestaciones en curso contra la brutalidad policial han llevado a una mayor supervisión de la aplicación de la ley sobre el uso de la tecnología. La semana pasada, durante una sesión de comentarios públicos en Filadelfia sobre reconocimiento facial, los ciudadanos expresaron preocupación de que la policía recibiría fondos para la tecnología. Luego, el martes, el Ayuntamiento de Boston celebró una audiencia sobre un reglamento que prohíbe el reconocimiento facial del gobierno.

Buolamwini, fundadora de Algorithmic Justice League, habló en la audiencia en Boston, donde advirtió sobre los riesgos y problemas asociados con el reconocimiento facial. También publicó un artículo de Medium el martes, elogiando la decisión de IBM, que describió como "el primer paso hacia la responsabilidad corporativa para promover una IA justa y responsable".

"Este es un reconocimiento bienvenido de la tecnología de reconocimiento facial, particularmente como el uso por parte de la policía para socavar los derechos humanos y en particular para dañar a los negros, indígenas y otras personas de color (BIPOC)", escribió Buolamwini. También señaló que IBM respondió a su investigación, que mostró diferencias en su tecnología, con una declaración inmediata, a diferencia de otras compañías que venden reconocimiento facial.

Algunas de estas otras compañías en esta área tienen un negocio mucho más grande que se enfoca en el reconocimiento facial. La tecnología de reconocimiento facial de Amazon, Rekognition, se introdujo en 2016 y desde entonces se ha vendido a las estaciones de policía en los Estados Unidos. Los empleados de Amazon protestaron por las prácticas de la compañía después de una investigación de la Unión Americana de Libertades Civiles (ACLU) sobre el uso del reconocimiento por parte de las fuerzas del orden público. Aunque Amazon solicitó la regulación de la tecnología de reconocimiento facial, la compañía continúa vendiendo su tecnología de reconocimiento.

Otros que desarrollan y venden reconocimiento facial no son compañías tecnológicas bien conocidas. Por ejemplo, Clearview AI es una compañía que, según los informes, ha ofrecido la tecnología a cientos de agencias policiales estadounidenses. La compañía ha eliminado de manera controvertida miles de millones de imágenes de Internet sin el consentimiento de las personas, por lo que los agentes de la ley pueden identificar a alguien que solo tiene una imagen de su rostro. El 8 de junio, el senador Edward Markey preguntó si Clearview trabajaría con la policía para usar su tecnología en los manifestantes.

Por lo tanto, no está claro cómo el anuncio de IBM finalmente afectará lo que otras compañías de reconocimiento facial están haciendo. Amazon no respondió a las reiteradas solicitudes de comentarios sobre si tiene la intención de repensar la venta de su tecnología a las agencias policiales. Clearview AI no respondió a la solicitud de Recode de comentar sobre el uso del reconocimiento facial por parte de los manifestantes.

Mientras tanto, NEC, que supuestamente vende reconocimiento facial a agencias gubernamentales en los Estados Unidos, parecía estar listo para discutir el uso de la tecnología. Antes del anuncio de IBM, Mark Ikeno, presidente y CEO de NEC America, envió una declaración a Recode sobre los riesgos del reconocimiento facial para los manifestantes.

"Estaríamos totalmente en contra de cualquier esfuerzo por utilizar el reconocimiento facial u otras tecnologías de seguimiento para ejercer sus derechos de ajuste inicial", dijo Ikeno, "y no conocemos a ningún cliente de la ley que los use de esta manera. “

Los organizadores e investigadores aún tenían claro lo que querían después. En su presentación de Medium, Buolamwini instó a las compañías de tecnología que trabajan en inteligencia artificial a que hagan al menos $ 1 millón en donaciones a organizaciones que se centran en la justicia racial tecnológica, como Data for Black Lives y Black in AI y enfatizó que esta compañía de tecnología debe financiar grupos que puedan ser responsables externamente. También solicitó a las empresas que trabajan en reconocimiento facial que firmen el Compromiso Safe Face.

AI Now's Raji cree que las acciones de grandes compañías tecnológicas como IBM podrían ayudar a aumentar la aceptación regulatoria. "Esperemos que esta regulación afecte los NEC del mundo y las visiones claras que están listas", dijo.

En una entrevista con NPR esta semana, Nate Freed Wessler, un abogado del proyecto ACLU sobre voz, protección de datos y tecnología, se preguntó si alguien seguiría el ejemplo de IBM.

"Es bueno que IBM haya dado este paso, pero no puede ser la única compañía", dijo Freed Wessler. “Amazon, Microsoft y otras compañías están tratando de ganar mucho dinero vendiendo estas herramientas peligrosas y dudosas a las agencias policiales. Eso debería detenerse de inmediato. "

Pero, en última instancia, la falta de estrictas regulaciones gubernamentales, independientemente de lo que hagan las grandes empresas de tecnología, dejará la tecnología de reconocimiento facial abierta al abuso o abuso.

"Siempre habrá algunos pequeños, una empresa poco fiable que está dispuesta a hacer lo peor con la tecnología que puede hacer y venderla a cualquiera que la compre", dijo Evan Greer, subdirector de Digital Rights Group Fight for the Future versus Recode. "No será suficiente pedirles a las compañías que rescindan sus contratos o que se retiren del desarrollo de este tipo de tecnología". Necesitamos legisladores para intervenir y hacer su trabajo. "

Aunque ha habido varias propuestas, actualmente no hay una ley federal que regule el reconocimiento facial. Los políticos nacionales son cada vez más escépticos sobre la tecnología, particularmente el senador Jeff Merkley, quien ha trabajado en leyes relevantes. En mayo, la Algorithmic Justice League publicó un libro blanco que pedía la creación de una agencia federal para monitorear las tecnologías de reconocimiento facial. Mientras tanto, los gobiernos locales han impulsado sus propias regulaciones y propuestas para usar o prohibir la tecnología de reconocimiento facial.

Aunque el compromiso de IBM es solo simbólico, la compañía es lo suficientemente grande y poderosa como para mover la aguja para el reconocimiento facial. Esto solo podría dar forma al futuro de la tecnología.

Open Sourced es posible gracias a la Red Omidyar. Todo el contenido de código abierto es editorialmente independiente y es producido por nuestros periodistas.


Apoye el periodismo explicativo de Vox

Todos los días en Vox, queremos responder sus preguntas más importantes y brindarle a usted y a nuestra audiencia en todo el mundo información que tiene el poder de salvar vidas. Nuestra misión nunca ha sido más importante de lo que es ahora: fortalecerla a través de la comprensión. El trabajo de Vox llega a más personas que nunca, pero nuestra marca distintiva de periodismo explicativo consume recursos, especialmente durante una pandemia y una recesión económica. Su contribución financiera no constituye una donación, pero permite que nuestros empleados continúen ofreciendo artículos, videos y podcasts gratuitos en la calidad y cantidad requerida para este momento. Por favor considere contribuir a Vox hoy.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *