ACM insta a los gobiernos y las empresas a dejar de usar el reconocimiento facial


Un grupo de políticas tecnológicas de la Asociación de Maquinaria de Computación (ACM) instó hoy a los legisladores a dejar de usar inmediatamente el reconocimiento facial por parte de empresas y gobiernos, citando prejuicios étnicos, raciales y de género documentados. En una carta (PDF) publicada hoy por el Comité de Política Tecnológica de los EE. UU. (USTPC), el grupo admite que es probable que la tecnología mejore en el futuro, pero que aún no está "suficientemente madura" y, por lo tanto, es una amenaza para los derechos humanos representa.

"Las consecuencias de tal sesgo, de acuerdo con USTPC, pueden y con frecuencia van mucho más allá de los inconvenientes de lesiones graves, particularmente a la vida, el sustento y los derechos fundamentales de las personas en ciertos grupos demográficos, incluidos algunos de los grupos más vulnerables en Nuestra sociedad ", dice la carta.

Las organizaciones que investigan el uso de la tecnología, como el Proyecto de Formación Perpetua de la Universidad de Georgetown, concluyen que el uso generalizado de la tecnología tendrá un impacto negativo en las vidas de los negros en los Estados Unidos. Los grupos de interés para la protección de datos y la justicia racial, como la ACLU y la Liga de Justicia Algorítmica, han apoyado el cese del reconocimiento facial en el pasado. Con casi 100,000 miembros en todo el mundo, ACM es una de las organizaciones de TI más grandes del mundo. ACM también alberga importantes conferencias anuales de IA, como Siggraph y la Conferencia Internacional de Supercomputación (ICS).

La carta también incluye principios para regular el reconocimiento facial en cuestiones como la precisión, la transparencia, la gestión de riesgos y la responsabilidad. Los principios recomendados incluyen:

VB Transform 2020 Online – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.
  • Desglosar las tasas de error del sistema por raza, género, género y otros datos demográficos apropiados.
  • Los sistemas de reconocimiento facial deben ser verificados por terceros y sometidos a una "supervisión gubernamental sólida". [19659007] Se debe notificar a las personas cuando se utiliza el reconocimiento facial, y se deben definir los casos de uso apropiados antes de su uso.
  • Las organizaciones que utilizan el reconocimiento facial deben ser responsables si un sistema de reconocimiento facial perjudica a una persona o cuando lo hace.

La carta no exige una prohibición permanente del reconocimiento facial, sino una moratoria temporal hasta que se puedan introducir estándares de precisión para el rendimiento racial y de género, así como leyes y reglamentos. Las pruebas de los sistemas clave de reconocimiento facial en 2018 y 2019 por el proyecto Gender Shades y luego por el NIST del Departamento de Comercio mostraron que los sistemas de reconocimiento facial tenían prejuicios raciales y de género y un bajo rendimiento en personas que no coincidían con una identidad de género única. [19659002] La declaración del comité finaliza al final de un mes histórico para el software de reconocimiento facial. La semana pasada, los miembros del Congreso del Senado y la Cámara de Representantes introdujeron leyes que prohíben a los empleados federales usar el reconocimiento facial y recortaron los fondos para los gobiernos estatales y locales que eligen continuar usando la tecnología. Los legisladores locales, estatales y nacionales que consideran la regulación del reconocimiento facial a menudo citan el sesgo como el motivo principal para adoptar leyes contra su uso. Y poco después del pico de protestas contra Black Lives Matter, que se extendió a más de 2,000 ciudades en los Estados Unidos, Amazon, IBM y Microsoft dejaron de vender reconocimiento facial a la policía o terminaron con las ciudades más grandes de los Estados Unidos, el Imponer una prohibición de detección de rostros. El mismo día, la gente se enteró de la historia de Robert Williams, nacido en Detroit, la primera persona arrestada y acusada injustamente de un delito por reconocimiento facial incorrecto. El jefe de la policía de Detroit, James Craig, dijo el lunes que el software de reconocimiento facial utilizado por Detroit es inexacto en el 96% de los casos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *