Access Now está dejando de asociarse para la IA porque las empresas de tecnología no han cambiado


La organización internacional digital y de derechos humanos Access Now ha renunciado a su rol como miembro del Partnership for AI (PAI) en protesta porque las empresas afiliadas al grupo no han cambiado o se han incluido opiniones de organizaciones de la sociedad civil. PAI fue fundada en septiembre de 2016 por un consorcio de grandes empresas tecnológicas y gigantes corporativos como Apple, Amazon, Facebook, Google, IBM y Microsoft. Desde entonces, PAI ha crecido hasta incluir más de 100 organizaciones miembros, más de la mitad de las cuales son organizaciones sin fines de lucro, civiles o de derechos humanos como Data & Society y Human Rights Watch.

«Hemos aprendido de hablar con nuestros colegas, y PAI nos ha dado la oportunidad de contribuir a una discusión más amplia sobre inteligencia artificial en un nuevo foro», dijo una carta publicada el martes. “Sin embargo, hemos descubierto que la sociedad civil está desempeñando un papel cada vez menor dentro del PAI. Nos unimos a PAI con la esperanza de que este sea un foro útil para que la sociedad civil influya en el comportamiento empresarial y establezca pautas basadas en pruebas y mejores prácticas para garantizar que los sistemas de inteligencia artificial se utilicen en beneficio de las personas y la sociedad. . Si bien apoyamos el diálogo entre las partes interesadas, no hemos encontrado que PAI haya influido o cambiado las actitudes de las empresas miembro o las haya animado a responder sistemáticamente o consultar a la sociedad civil. «

Access Now también renunció porque el grupo abogó por prohibir el reconocimiento facial y otras tecnologías biométricas que pueden usarse para la vigilancia masiva. A principios de este año, la asociación AI creó un recurso educativo de reconocimiento facial para los responsables políticos y el público en general, pero PAI no se ha pronunciado sobre si la tecnología debe usarse o no. Access Now se unió a PAI hace aproximadamente un año. En la carta dirigida al equipo de liderazgo de PAI, los funcionarios de Access Now concluyeron que es poco probable que PAI cambie su postura y apoye la prohibición del reconocimiento facial.

«Los eventos de este año, desde la crisis de salud pública hasta la facturación de la justicia racial global, solo han subrayado la urgencia de abordar de manera significativa los riesgos que plantean estas tecnologías», dice la carta. «A medida que más agencias gubernamentales de todo el mundo se abren a la prohibición absoluta de tecnologías como el reconocimiento facial, queremos seguir centrando nuestros esfuerzos donde sean más eficaces para ayudarnos a cumplir con nuestras prioridades».

El uso gubernamental de la tecnología de vigilancia ha aumentado en los últimos años tanto en países democráticos como autoritarios. El Informe Freedom House 2020, publicado hoy por Freedom House, encontró una disminución año tras año en la libertad de Internet en muchas partes del mundo y los gobiernos utilizan cada vez más el COVID-19 como una excusa para permitir la vigilancia.

La Unión Estadounidense por las Libertades Civiles (ACLU), Amnistía Internacional y la Electronic Frontier Foundation (EFF), todos miembros de la PAI, han dirigido o respaldado prohibiciones de reconocimiento facial en las principales ciudades, legislaturas estatales y en el Congreso de los Estados Unidos. Por el contrario, los miembros de PAI como Amazon y Microsoft se encuentran entre los proveedores de reconocimiento facial más conocidos en todo el mundo. Durante las protestas más grandes en la historia de Estados Unidos en junio, Amazon y Microsoft anunciaron moratorias temporales sobre las ventas de reconocimiento facial a la policía en Estados Unidos. Los esfuerzos de reforma podrían estar en la agenda del próximo Congreso para abordar los problemas de privacidad, prejuicios raciales y libertad de expresión planteados por el reconocimiento facial.

Más de dos años después de su inicio, PAI comenzó a abordar cuestiones específicas de política y ética de la IA, como defender que los gobiernos emitan visas especiales para investigadores de IA. PAI también se opuso al uso de algoritmos en las evaluaciones de riesgo previas al juicio, como los utilizados por la oficina federal de prisiones a principios de este año para decidir qué prisioneros fueron liberados anticipadamente debido al COVID-19. PAI comparte públicamente los nombres de los miembros, pero rara vez comparte los nombres de miembros específicos que han contribuido a los documentos de posición preparados por el personal de PAI.

En respuesta a la carta de renuncia de Access Now, la directora ejecutiva de PAI, Terah Lyons, le dijo a VentureBeat que PAI está trabajando en estrecha colaboración con las empresas de tecnología para abordar y ajustar su comportamiento, y es de esperar que el trabajo se materialice durante el próximo año. Sin embargo, dijo que puede ser un desafío y llevar mucho tiempo involucrarse en un proceso de múltiples partes interesadas y tratar de llegar a un consenso entre las diferentes voces para garantizar que la IA beneficie a las personas y a la sociedad. .

«Definitivamente fue un viaje de aprendizaje para nosotros», dijo. “También es algo que lleva mucho tiempo mover la práctica de la industria de manera significativa, y dado que nosotros, como una encantadora y joven organización sin fines de lucro, llevamos dos años haciendo programación, supongo que necesitaremos más tiempo Para que realmente tenga sentido, mueva la aguja en este caso, pero creo que la buena noticia es que hemos establecido una gran cantidad de trabajo preliminar importante y ya estamos comenzando a ver evidencia de que los dividendos dan sus frutos y algunas de las decisiones incrementales que se toman. nuestros miembros corporativos se han reunido como resultado de su compromiso. «

Los ejemplos de los tipos de cambios incrementales que aplica provienen de compañías como Facebook y Microsoft que participan en el Desafío de Detección de Deepfake, que fue supervisado por el comité directivo de PAI. También señaló ejemplos específicos del trabajo de PAI sobre equidad, responsabilidad y transparencia, pero se negó a compartir los nombres de ciertas empresas u organizaciones participantes.

«Gran parte del trabajo que hemos hecho con ellos sobre este tema realmente ha contribuido a la forma en que han reflexionado y abordado los desafíos relacionados con estos temas internamente, además de algunas otras empresas involucradas, creo», dijo tú.

Según Lyons, PAI ha optado por no comentar sobre el reconocimiento facial, ya que la organización sin fines de lucro está evaluando cada problema caso por caso para determinar dónde PAI puede aprovecharlo al máximo.

“No es necesariamente que estemos en la mejor posición para tomar una posición en cada pregunta. Sin embargo, hacemos todo lo posible para asegurarnos de brindar servicio y valor para garantizar que estos debates, a medida que se desarrollan en entornos públicos o privados, estén tan bien informados y basados ​​en evidencia como sea posible. Permítales hablar directamente entre ellos sobre estos temas difíciles ”, dijo.

Sobre otras preguntas relacionadas con la ética y las políticas de la IA, Lyons dijo que PAI no presentó una investigación ni estableció un comité directivo para examinar el papel de la IA en la concentración de poder entre las empresas de tecnología. La semana pasada, un subcomité antimonopolio de la Cámara de Representantes concluyó una investigación de 16 meses con un informe en profundidad que encontró que Amazon, Apple, Facebook y Google son monopolios. El informe concluyó que el poder consolidado por las grandes empresas tecnológicas amenaza los mercados competitivos y la democracia. También dice que la inteligencia artificial y la adquisición de nuevas empresas en IA y campos emergentes son fundamentales para construir aún más la ventaja competitiva de las grandes empresas de tecnología. Sin embargo, PAI ha lanzado una iniciativa conjunta de prosperidad para tratar de distribuir el poder y la riqueza de manera más equitativa para que la concentración continua de poder por parte de las empresas de tecnología ya no se considere inevitable. El grupo común de ricos incluye a varios investigadores de ética de IA bien conocidos, descritos en una publicación de blog el mes pasado.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *