El reconocimiento facial en iPhones podría dificultar la prohibición federal del reconocimiento facial


  Logotipo de fuente abierta

El reconocimiento facial tiene una facturación. Las recientes protestas contra el racismo y la brutalidad policial han puesto de relieve las herramientas de vigilancia disponibles para las agencias de aplicación de la ley, y las grandes empresas de tecnología se han retirado temporalmente del reconocimiento facial e instan a los funcionarios federales a intervenir y regular.

A fines del mes pasado, supimos sobre el primer arresto falso conocido que fue causado por un sistema de detección de rostros defectuoso. Era un hombre negro en Michigan identificado por software que el jefe de policía de Detroit admitió más tarde y tenía una tasa de identificación errónea del 96 por ciento. Y un grupo político de la Association for Computing Machinery, una sociedad de computadoras con casi 100,000 miembros, ha pedido que se suspenda el uso de la tecnología por parte de las empresas y las agencias gubernamentales y expresó su preocupación de que sus prejuicios incorporados puedan dañar seriamente a las personas.

También hay presión del Congreso. Los parlamentarios Pramila Jayapal y Ayanna Pressley, y los senadores Jeff Merkley y Ed Markey han propuesto nuevas leyes que prohibirían el uso del reconocimiento facial por parte del gobierno federal y alentarían a los gobiernos estatales y locales a hacer lo mismo. Es una de las propuestas más completas para limitar la controvertida tecnología biométrica en los Estados Unidos y ha sido bien recibida por los defensores de la justicia racial y la privacidad.

Todo esto sigue un paso de varias grandes empresas de tecnología, incluidas IBM, Amazon y Microsoft, para detener o limitar el acceso de la policía a sus propios programas de reconocimiento facial.

Dado el enfoque en el uso gubernamental del reconocimiento facial, muchas compañías todavía están integrando la tecnología en una amplia gama de productos de consumo. En junio, Apple anunció que agregaría reconocimiento facial a sus accesorios HomeKit y expandiría la tecnología Face ID para ayudar a iniciar sesión en sitios web en Safari. En medio de la pandemia de Covid-19, algunas compañías han intentado proponer más tecnologías biométricas sin contacto, como el control de acceso con reconocimiento de rostros.

"Cuando pensamos en todas estas formas aparentemente inofensivas en las que se toman nuestras fotos, debemos recordar que no tenemos las leyes para protegernos", dijo Mutale Nkonde, un empleado del Centro Berkman Klein en Harvard Law School recodificación. "Y entonces estas fotos podrían usarse en tu contra".

La comodidad que encuentran muchos dispositivos de consumo con capacidades de reconocimiento facial contrasta fuertemente con la creciente presión para regular e incluso prohibir el uso de la tecnología por parte del gobierno. Esta es una señal de que los funcionarios que desean regular eficazmente la tecnología deben considerar sus usos, desde el reconocimiento facial para desbloquear un teléfono inteligente hasta las bases de datos con sonido distópico operadas por las agencias de aplicación de la ley.

Cuando Recode le preguntó al senador Jeff Merkley a principios de este año qué lo inspiró a regular la tecnología, señaló qué tan rápido la aplicación Photos en su iPhone podía identificar a los miembros de su familia. Estaba impresionado con la facilidad con que la policía podía rastrear a las personas con la tecnología, pero también con lo poderoso que se había vuelto en su propio dispositivo.

"Puedes conocer a esta persona y se mostrará cualquier foto que tomes con esa persona", dijo Merkley en ese momento. "Solo voy," Wow "."

El reconocimiento facial se está volviendo cada vez más común en los dispositivos de consumo.

Una de las aplicaciones más populares de reconocimiento facial es la verificación, que a menudo se usa para iniciar sesión en dispositivos electrónicos. En lugar de ingresar un código de acceso, una cámara frontal del teléfono toma una fotografía del usuario y luego utiliza algoritmos de reconocimiento facial para confirmar su identidad. Es una característica práctica (aunque no completamente infalible) que se hizo popular cuando Apple presentó Face ID al iPhone X en 2017. Muchas otras compañías telefónicas, incluidas Samsung, LG y Motorola, ahora ofrecen bloqueo de teléfono basado en reconocimiento facial, y la tecnología se usa cada vez más para facilitar el inicio de sesión en consolas de juegos, computadoras portátiles y todo tipo de aplicaciones.

Sin embargo, algunas aplicaciones de reconocimiento facial orientadas al consumidor van más allá de la verificación, lo que significa que intentan no solo identificar a sus propios usuarios sino también a otras personas. Un primer ejemplo de esto es el etiquetado de fotos basado en reconocimiento facial de Facebook, que busca fotos que los usuarios publican en la plataforma para sugerir a ciertos amigos que etiqueten. Tecnología similar también está disponible en aplicaciones como Google Photos y Apple Photos, que pueden identificar y marcar automáticamente ambos motivos en una foto.

Apple usa la función de marcador en su aplicación de fotografía para habilitar la nueva función de detección de rostros, cámaras de vigilancia habilitadas para HomeKit y timbres inteligentes. Las caras que se muestran en la alimentación de la cámara se pueden vincular a la base de datos a través de la aplicación Fotos, para que se le notifique cuando, por ejemplo, un cierto amigo llama a su puerta. Las cámaras Nest de Google y otros sistemas de seguridad de reconocimiento facial ofrecen características similares. El reconocimiento facial también aparece en algunos televisores inteligentes, que pueden reconocer qué miembro del hogar está mirando y sugerir contenido personalizado.

El reconocimiento facial se utiliza para la identificación y verificación en un número creciente de dispositivos, pero probablemente habrá oportunidades para la tecnología más allá de estas dos aplicaciones de consumo. HireVue escanea rostros con inteligencia artificial para evaluar a los solicitantes. Algunos automóviles, como el Subaru Forester, usan biometría y cámaras para rastrear si los conductores se están concentrando en la carretera, y varias compañías están examinando un software que puede sentir las emociones en una cara, una característica que se puede usar para monitorear a los conductores. Pero eso también puede conducir a nuevos problemas de distorsión.

“En el contexto de los autos sin conductor, quieren ver si el conductor está cansado. Y la idea es que, cuando el conductor está cansado, el auto se hará cargo ”, dijo Nkonde, quien también dirige la IA sin fines de lucro para las personas. "El problema es que no [all] emulamos de la misma manera".

La ​​línea borrosa entre el reconocimiento facial para la seguridad del hogar y la vigilancia privada para la policía.

Los sistemas de reconocimiento facial constan de tres componentes principales: una imagen fuente, una Base de datos y un algoritmo que está entrenado para unir caras en diferentes imágenes. La precisión de estos algoritmos puede variar considerablemente y, como han documentado investigadores como Joy Buolamwini del MIT, ha demostrado ser desproporcionadamente impreciso debido a categorías como el género y la raza. Sin embargo, los sistemas de reconocimiento facial pueden diferir en el tamaño de sus bases de datos, es decir, la cantidad de personas que un sistema puede identificar y la cantidad de cámaras o imágenes a las que tienen acceso.

El reconocimiento facial es un ejemplo de una tecnología de reconocimiento facial para la verificación de identidad. El sistema verifica si la cara de un usuario coincide con la cara que está intentando abrir el dispositivo. Para la identificación de la cara, los detalles de la cara de un solo usuario se registraron previamente en el dispositivo. Por lo tanto, el algoritmo de Apple solo responde a la pregunta de si la persona es el usuario del teléfono o no. No está destinado a identificar una gran cantidad de personas. Es solo la información biométrica de un usuario. Es importante que Apple no envíe estos datos biométricos a la nube. Permanece en el dispositivo del usuario.

Cuando hay más de una persona involucrada, la verificación de identidad basada en reconocimiento facial es más complicada. Tome el etiquetado de fotos de Facebook basado en el reconocimiento facial, por ejemplo. Busca las fotos de un usuario para identificar a sus amigos. Por lo tanto, no solo identifica al usuario, sino que es la única tarea de Face ID. Se intenta reconocer a los amigos del usuario que han optado por la función de etiquetado basada en el reconocimiento facial. Facebook dice que no comparte las plantillas faciales de las personas con nadie, pero la compañía tardó años en dar a los usuarios el control sobre la función. Facebook no pudo obtener el permiso del usuario antes de que se implementara la función de etiquetado de fotos en 2010. Este año, la compañía acordó pagar $ 550 mil millones para resolver una violación de la privacidad del usuario. Facebook no solicitó a los usuarios registrarse hasta 2019.

La cuestión del consentimiento se vuelve francamente problemática en relación con las imágenes de la cámara de vigilancia. Con Google Nest Cams, las cámaras Apple HomeKit y otros dispositivos, los usuarios pueden crear álbumes con caras conocidas para recibir una notificación cuando la tecnología de reconocimiento facial de la cámara detecte uno de ellos. Según Apple, los usuarios pueden usar la nueva función de detección de rostros HomeKit para activar las notificaciones cuando las personas etiquetadas en su aplicación de fotos aparecen frente a la cámara. También pueden establecer alertas para las personas que a menudo llegan a su puerta como un paseador de perros, pero no en su aplicación de biblioteca de fotos. Según Apple, la identificación es totalmente local para los dispositivos.

  Una cámara de nido está montada en una casa.

Las cámaras Google Nest proporcionan alimentación de video a través de una aplicación de teléfono inteligente y ofrecen funciones de reconocimiento facial por una pequeña tarifa mensual.
Smith Collection / Gado / Getty Images [19659025] La nueva función de Apple es similar a la característica familiar de reconocimiento facial que se puede usar con el timbre Nest y las cámaras de seguridad de Google. Sin embargo, el uso de la función, que está deshabilitada de manera predeterminada, está un poco nublado. Google advierte a los usuarios que, dependiendo de las leyes en las que viven, es posible que necesiten obtener la aprobación de aquellos para quienes agregan notificaciones y que algunos no puedan usarlos en absoluto. Por ejemplo, Google no proporciona la funcionalidad en Illinois, donde la estricta ley de privacidad de la información biométrica del estado requiere aprobación explícita para la recopilación de datos biométricos. (Esta ley estaba en el corazón del reciente acuerdo de $ 550 mil millones de Facebook.) Según Google, las bibliotecas faciales de sus usuarios están "almacenadas en la nube, donde están encriptadas durante el transporte y en reposo, y las caras no tienen su estructura ser compartido "

Por lo tanto, las cámaras de vigilancia con soporte de Google y Apple están dirigidas explícitamente a los consumidores, y las bases de datos utilizadas por sus algoritmos de reconocimiento facial son más o menos limitadas.

Sin embargo, la línea entre esta tecnología de consumo y el potencial de poderosas herramientas de vigilancia policial se desdibuja con los sistemas de seguridad fabricados por Ring. Ring, propiedad de Amazon, trabaja con las fuerzas policiales. Si bien Ring afirma que sus productos actualmente no utilizan tecnología de reconocimiento facial, varios informes indican que la compañía ha intentado crear listas de vigilancia del vecindario basadas en el reconocimiento facial. Ring también ha realizado encuestas a los beta testers para ver cómo se sentirían sobre las funciones de reconocimiento facial. El alcance de estas asociaciones es lo suficientemente preocupante como para que el representante Raja Krishnamoorthi, jefe del Comité de Supervisión de la Cámara de Representantes, solicite el jueves más información sobre las posibles integraciones del reconocimiento facial de Ring, incluidas preguntas sobre el antiguo problema del producto con el racismo.

Parece que los sistemas de reconocimiento facial se vuelven más problemáticos con la creciente ambición, cuando sus bases de datos crecen y sus algoritmos se encargan de tareas más difíciles. Matthew Guariglia, analista político de la Electronic Frontier Foundation, le dijo a Recode que el reconocimiento facial debe calificarse en una "escala móvil de daños".

Cuando se usa en su teléfono, la tecnología pasa la mayor parte del tiempo en su bolsillo y no escanea a través de espacios públicos. "Una cámara de anillo, por otro lado, no solo se usa para mirarte a la cara", dijo Guariglia. "Si se habilitara la detección de rostros, vería los rostros de cada peatón que pasara y pudiera identificarlos".

No sorprende, entonces, que los agentes del orden estén presionando de manera más agresiva a los funcionarios del orden para limitar el uso de la tecnología de reconocimiento facial. Las agencias de policía y agencias similares no solo tienen acceso a una enorme cantidad de imágenes de la cámara, sino también a bases de datos faciales increíblemente grandes. De hecho, en 2016, el Centro de Privacidad y Tecnología de Georgetown descubrió que más de la mitad de los estadounidenses se encuentran en una base de datos de reconocimiento facial que puede contener fotografías o simplemente fotos de perfil tomadas en el DMV.

Y recientemente, el tamaño de las bases de datos faciales disponibles para la policía ha aumentado. La controvertida startup Clearview AI afirma haber buscado en internet miles de millones de fotos publicadas en línea y en las redes sociales para crear una extensa base de datos de reconocimiento facial que ha puesto a disposición de las agencias policiales. Según Jake Laperruque, abogado principal del Proyecto de Supervisión del Gobierno, esto representa un futuro aterrador para la tecnología de reconocimiento facial.

"Los efectos, si están en manos del gobierno, pueden ser muy graves", dijo Laperruque. "Puede ser muy grave si no funciona, y tienes credenciales falsas que de repente se convierten en una pista que forma la base de un caso completo y puede resultar en que alguien sea detenido o arrestado".

Añadió: "Y puede ser muy grave si funciona bien y si se utiliza para catalogar listas de personas que participan en protestas o una manifestación política".

La regulación del reconocimiento facial tendrá lugar gradualmente.

La moratoria recientemente introducida sobre reconocimiento facial y tecnología biométrica en Capitol Hill es de gran alcance. Prohibiría el uso no solo del reconocimiento facial federal, sino también de otros tipos de tecnologías biométricas como el reconocimiento del habla y el reconocimiento de la marcha, hasta que el Congreso apruebe otra ley que regule la tecnología. El proyecto de ley sigue otras propuestas para restringir el uso de la tecnología por parte del gobierno, incluyendo una que requeriría una orden de reconocimiento facial y otra que limitaría la biometría en hogares patrocinados por el gobierno. Algunos gobiernos locales, como San Francisco, también han restringido su propia adquisición de la tecnología.

Entonces, ¿qué pasa con el reconocimiento facial cuando es utilizado en dispositivos personales por personas o por empresas privadas? El Congreso ha discutido el uso del reconocimiento facial comercial y la inteligencia artificial más ampliamente. Un proyecto de ley denominado Ley de Privacidad del Reconocimiento Facial del Consumidor requeriría el consentimiento explícito de las empresas que recopilan información biométrica de las personas, y la Ley de Transparencia Algorítmica requeriría que las grandes empresas perjudiquen su inteligencia artificial, incluidos los sistemas de reconocimiento facial.

Sin embargo, la ubicuidad del reconocimiento facial significa que la tecnología de regulación inevitablemente requiere una legislación gradual y atención al detalle para que no se pasen por alto ciertos casos de uso. Por ejemplo, San Francisco tuvo que cambiar su regulación de reconocimiento facial después de que accidentalmente, de manera ilegal, iPhones propiedad de la policía. Cuando Boston aprobó su última regulación de reconocimiento facial, se creó una exclusión de reconocimiento facial que se utiliza para iniciar sesión en dispositivos personales como computadoras portátiles y teléfonos.

"Los mecanismos para los reguladores son muy diferentes", dijo Brian Hofer, quien ayudó a fabricar el no reconocimiento facial de San Francisco, y agregó que ahora quiere crear leyes locales que se basen en la Ley de Protección de Datos Biométricos de Illinois centrarse más en los consumidores. "Las leyes son tan diferentes que probablemente sería imposible redactar un proyecto de ley limpio y bien entendido que rija tanto al consumidor como al gobierno".

Una sola ley que regula la tecnología de reconocimiento facial puede no ser suficiente. Investigadores de la Algorithmic Justice League, una organización que se enfoca solo en inteligencia artificial, han pedido un enfoque más amplio. Argumentan que la tecnología debe ser regulada y controlada por una oficina federal. En una propuesta de mayo, los investigadores describieron cómo la Administración de Alimentos y Medicamentos podría servir como modelo para una nueva agencia que podría adaptarse a una amplia gama de aplicaciones gubernamentales, comerciales y privadas de la tecnología. Esto podría proporcionar un marco legal para proteger a los consumidores de lo que compran, incluidos los dispositivos de reconocimiento facial.

Mientras tanto, la creciente ubicuidad de la tecnología de reconocimiento facial está normalizando alguna forma de vigilancia. Evan Selinger, profesor del Instituto de Tecnología de Rochester, argumenta: “Cuando las personas se adaptan al uso rutinario de un sistema de escaneo facial y queda en segundo plano como otro aspecto discreto de la vida digital mediada de hoy, sus deseos y creencias pueden revisarse. "

Incluso si la aplicación de la ley con reconocimiento facial está prohibida y, en cierta medida, es efectiva, la tecnología sigue siendo parte de la vida cotidiana. Tendremos que lidiar con las consecuencias en algún momento.

Open Sourced es posible gracias a la Red Omidyar. Todo el contenido de código abierto es editorialmente independiente y es producido por nuestros periodistas.


Apoye el periodismo explicativo de Vox.

Todos los días en Vox, queremos responder a sus preguntas más importantes y brindarle a usted y a nuestro público de todo el mundo información que tenga el poder de salvar vidas. Nuestra misión nunca ha sido tan importante como lo es ahora: fortalecerla a través de la comprensión. El trabajo de Vox llega a más personas que nunca, pero nuestra marca distintiva de periodismo explicativo consume recursos, especialmente durante una pandemia y una recesión económica. Su contribución financiera no constituye una donación, pero permite que nuestros empleados continúen ofreciendo artículos, videos y podcasts gratuitos en la calidad y cantidad requerida para este momento. Por favor considere contribuir a Vox hoy.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *