Según el CTO de Facebook, la contratación es importante para reducir el sesgo de AI, pero la compañía carece de estadísticas sobre la diversidad de investigación de AI

Mike Schroepfer, CTO de Facebook, apoya la idea de que las actitudes son una parte importante de la diversidad de la inteligencia artificial y evitan los prejuicios para los equipos que desarrollan productos para los usuarios. Sin embargo, no puede decirte cuántas personas negras trabajan en Facebook AI Research. Facebook AI Research fue fundada en 2013 con Yann LeCun y tiene ubicaciones en Silicon Valley, Nueva York y París. Con más de 100 empleados, FAIR se ha convertido en una de las organizaciones de investigación de IA más grandes e influyentes del mundo.

Un portavoz de Facebook AI dijo más tarde que Facebook había reportado cifras de diversidad de empleados durante seis años, pero no estadísticas de diversidad de equipos individuales. VentureBeat le preguntó a Facebook en julio de 2019 sobre la cantidad de empleados negros en Facebook AI Research y no recibió respuesta. En noviembre de 2019, VentureBeat solicitó a Google y Facebook (nuevamente) estadísticas de diversidad y ambas compañías le informaron que no proporcionan números de diversidad para los departamentos de investigación de IA.

En un aviso separado pero posiblemente relacionado, el CEO de Snap, Evan Spiegel, dijo a principios de este viernes en una reunión interna donde no quiere publicar estadísticas de diversidad porque solo aumentarán la conciencia de que Silicon Valley es un lugar menos diverso. es.

Schroepfer habló públicamente con periodistas de AI la semana pasada por primera vez desde las protestas contra el dominio blanco. El asesinato de George Floyd, iniciado por la policía, estalló en más de 2,000 ciudades en los Estados Unidos y en las principales ciudades del mundo. El problema de los modelos de sesgo se planteó después de que un periodista preguntó si Facebook calificó a los modelos ganadores del desafío de detección profunda de sesgos algorítmicos basados ​​en el tono de la piel.

"Mira, creo que la representación es realmente importante … Diría que nosotros [issues] estamos muy cerca de nuestros corazones, por eso nos hemos centrado tanto en las mejoras. Diversidad en todos los ámbitos de la empresa", dijo Schröder. “También creo que la solución real a estos problemas, por ejemplo, para garantizar que tenga un conjunto diverso de datos, es en realidad el proceso de comprender la formalización corporativa. Por lo tanto, existen métodos estadísticos para determinar si este conjunto de datos es representativo del estado en formas que son importantes para usted. “

Un análisis del coautor de la Ley de Responsabilidad Algorítmica Mutale Nkonde de 2019 mostró que Facebook AI Research no tenía empleados negros. La ley de responsabilidad algorítmica propuesta en abril de 2019 requeriría que las empresas evalúen la IA en busca de seguridad y sesgo.

Arriba: estadísticas del Informe de Diversidad de Facebook 2019 sobre personal técnico por etnia.

En respuesta a esto, Schroepfer generalmente encontró un sesgo en la IA porque los datos de capacitación no son representativos de los usuarios. Sin embargo, los formuladores de políticas en Washington, los investigadores de ética de IA y muchos otros enfatizan que contratar varios equipos pluralistas es esencial para crear IA para más personas.

Antes del asesinato de George Floyd, compañías como Facebook y Google por la diversidad habían hecho pocos progresos. Después de la muerte de Floyd, se les pide a los líderes gubernamentales y empresariales que luchen contra la supremacía blanca y el racismo institucional. Sin embargo, muchos críticos y miembros de la comunidad de tecnología negra están frustrados con la falta de progreso en la industria de la tecnología a pesar de años de informes de diversidad pública entre empresas como Facebook y Google y la falta de fondos históricos de nuevas empresas con fundadores negros. Tiffani Ashley Bell, fundadora de Human Utility, acuñó la frase "Make the Hire". Envía el cable. "Para responder sucintamente a la pregunta, cómo los capitalistas de riesgo y los gigantes tecnológicos pueden hacer una verdadera diferencia.

En las últimas semanas, el CEO de Facebook, Mark Zuckerberg, ha defendido el derecho del presidente Trump a usar la frase:" Cuando comienza el saqueo, comienzan los tiroteos "Para publicar asociado con la intolerancia y la represión de las protestas por los derechos civiles de la década de 1960. Twitter reprendió un tweet con el mismo mensaje por violar las políticas de la compañía y lo llamó" glorificar la violencia ". Varios empleados de alto perfil de Facebook han amenazado con retirarse debido a la postura de Zuckerberg, y los empleados realizaron una huelga virtual el 1 de junio. En los últimos días, varias agencias de noticias informaron que Facebook despidió a un ingeniero que participó en la protesta.

Los empleados actuales y anteriores de Facebook tuvieron cosas negativas antes de la muerte de George Floyd Cosas sobre eso Empresa para decir. En noviembre de 2018, el ex empleado de Facebook Mark Luckie dijo: "Facebook falla debido a sus empleados y usuarios negros". Un año después, un grupo anónimo publicó una docena de empleados de Facebook recientes y antiguos con informes de fallas repetidas. de los ejecutivos de la compañía para abordar problemas racistas en el lugar de trabajo se vuelven virales.

Pero Schröder defendió el historial de Facebook en términos de diversidad. Enfatice los esfuerzos de la compañía para construir sociedad en IA y laboratorios de innovación responsables en los últimos dos años. En una conferencia magistral sobre F8 en 2019, destacó el mayor uso de la inteligencia artificial para moderar el contenido a través de Facebook y el trabajo de equipos de innovación responsables que trabajan con equipos de productos en temas como la integridad electoral, la seguridad y la equidad algorítmica. Entre los aspectos más destacados del trabajo del equipo de equidad algorítmica el año pasado, Schroepfer dijo que un empleado negro "se encargó de sí mismo" para asegurarse de que la IA de la estimación de la postura utilizada para la cámara de Portal para la piel clara y las personas Las personas con piel oscura trabajan. [19659002] “Creo que es importante crear herramientas que funcionen y que se usen por defecto para que sean representativas por defecto. Pero cuanto más representativo sea el equipo, mejor podremos asegurarnos de que todas las perspectivas de nuestros usuarios fluyan hacia los productos que desarrollamos ”, dijo.

VentureBeat le pidió a un portavoz de Facebook más información sobre las actividades del equipo de equidad algorítmica y si había iniciativas específicas dentro de la compañía para probar algoritmos que Facebook usa en la producción, pero no recibió respuesta al momento en que se publicó esta historia. .

Un informe del Instituto AI Now sobre Diversidad en las principales empresas tecnológicas como Facebook y Google publicado el año pasado encontró que más del 80% de los académicos de TI que enseñan IA son hombres, con mujeres representan solo el 15% de los investigadores de IA en Facebook y el 10% de los investigadores de AI en Google. El informe insiste en que las empresas que no hacen un esfuerzo concertado para formar diferentes equipos pueden mantener la desigualdad estructural que existe hoy en día.