Robótica negra sobre racismo, parcialidad y construcción de una mejor IA


Jasmine Lawrence colabora con el proyecto Everyday Robots de la fábrica X-Moonshot de Alphabet. Ella cree que hay muchas preguntas éticas sin respuesta sobre cómo usar robots y cómo pensar en ellos: ¿son esclavos o herramientas? ¿Reemplazan o complementan a las personas? Como gerente de producto, dijo, hacerse algunas de estas preguntas puede dar miedo, y plantea la cuestión del sesgo y la responsabilidad del creador. Lawrence dijo que quería ser responsable de las cosas buenas y malas que construye.

"Quiero que me llamen. Quiero que me griten. Quiero ser desafiado Me gustaría ser alentada a usar energía renovable, o me gustaría escuchar de aliados y defensores de la comunidad que mi trabajo personal podría tener un impacto negativo ”, dijo. "Admito que tengo puntos ciegos … y me gustaría ver que la única propiedad de cualquier constructor, inventor, creador, estudiante es que podría lastimar a alguien. Sé que no lo he intentado "No soy intencional, pero podría suceder. Así que hay mucha búsqueda del alma y muchas medidas que realmente podemos tomar".

Chadwick Jenkins, profesor de la Universidad de Michigan y director del Laboratorio para el Progreso, dijo La idea que lo mantiene despierto por la noche es la idea de que la robótica ha ganado. No deberían usarse para avanzar en la humanidad, crear más empleos o ayudar con la exploración espacial, sino para producir productos más baratos y satisfacer las necesidades. en trabajo humano. Señaló que la Ley de Derechos Electorales y la Ley de Moore son contemporáneas que ambas salieron en 1965.

"[W]" Lo que viste es a la vez un aumento exponencial en nuestra potencia informática, según lo dado por la escala de Dennard y la ley de Moore, pero también ha visto un aumento exponencial en la detención ", dijo Jenkins. "Michelle Alexander pasa por esto en The New Jim Crow pero creo que me preocupa el futuro de Jim Crow, que me temo que estamos construyendo con tecnología de inteligencia artificial y computación a gran escala ". [19659005] VB Transform 2020 en línea – 15-17 Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Lawrence y Jenkins compartieron su optimismo, preocupaciones y pensamientos sobre los próximos pasos en Talrobotics como parte de un panel de discusión sobre raza, robótica e IA organizado por Silicon sin fines de lucro el martes por la noche. La conversación se centró en cómo se puede mejorar la experiencia de los estudiantes negros en la educación STEM y cómo el sector tecnológico puede reflejar mejor la diversidad en los Estados Unidos. Andra Keay, Director Gerente de Silicon Valley Robotics, actuó como moderador de la conversación.

Las protestas históricas en las últimas semanas contra el racismo institucional y el asesinato de Breonna Taylor, George Floyd y otros negros han llevado a algunas reformas policiales y compromisos renovados liderados por gigantes tecnológicos. Sin embargo, el progreso hacia la diversidad equitativa ha sido particularmente lento en las áreas de educación STEM, tecnología e IA.

Maynard Holliday, cofundador del Departamento de Innovación de Defensa, fue un equipo que ayudó al Pentágono a desarrollar nuevas tecnologías que se crearon durante el período de la administración Obama. Quiere que el pago ejecutivo se vincule directamente con las métricas de diversidad e inclusión, y que las juntas directivas corporativas sean responsables por el pobre progreso hacia la diversidad.

También apoya la idea de una declaración algorítmica de derechos para dar a las personas ciertos derechos inalienables cuando se trata de inteligencia artificial. Dicho documento garantizaría la transparencia y otorgaría a las personas el derecho a saber cuándo se utiliza un algoritmo para tomar una decisión al respecto, el derecho a remediar cuando un algoritmo comete un error y la libertad del sesgo algorítmico . Las leyes propuestas el año pasado, como la Ley de Responsabilidad Algorítmica y la Ley de Protección de Datos introducidas en el Congreso, también requerirían pruebas de sesgo o prohibirían el sesgo algorítmico. La idea de un juramento hipocrático para los investigadores de IA también surgió en el pasado.

Jenkins quiere instituciones académicas que permitan a los empleados pasar un año sabático en la industria para tener en cuenta los registros de diversidad de estas empresas.

“[T] Aquí hay muchas facultades universitarias que toman vacaciones y sabáticos para trabajar en empresas que han tenido poca representación. Solo puedo imaginar algunos ejemplos, como OpenAI o DeepMind de Google. Quizás las universidades no deberían ofrecer un permiso sabático a las facultades que trabajan en estas empresas ”, dijo Jenkins. "Esta es una medida de marcador de posición, pero al final [of the day] se trata de cómo influyes en el financiamiento que nos permite elegir ganadores y perdedores".

Jenkins también abogó por el cumplimiento de la guía en una carta abierta de blackincomputing.org que se publicó a principios de este mes. La carta establece que los negros en el aprendizaje automático saben lo que es ser tratado de manera diferente, y que "el racismo estructural e institucional que llevó a la nación a este punto también está arraigado en nuestra disciplina". La carta fue firmada por Jenkins, más de 100 negros en inteligencia artificial y computadoras, y más de 100 aliados.

"Sabemos que las computadoras se pueden usar de la misma manera para apilar el mazo contra los negros, también se puede usar para apilar el mazo contra cualquiera", decía la carta. “Vemos que la inteligencia artificial y los grandes datos se utilizan para abordar a los históricamente desfavorecidos. Las tecnologías que desarrollamos para el beneficio de la sociedad también afectan a las comunidades negras al difundir perfiles raciales. Vemos sistemas de aprendizaje automático que rutinariamente identifican a las personas negras como animales y criminales. Otros utilizan los algoritmos desarrollados por nosotros para promover aún más la desigualdad entre generaciones al sistematizar la separación en prácticas de vivienda, crédito, admisión y contratación. "

La carta también contiene llamados a la acción y demandas para el cumplimiento de las leyes de derechos civiles existentes como la Ley de Derechos Civiles de 1964; Título IX de la Ley de Cambios Educativos, que no garantiza la exclusión de género; y la Ley de Estadounidenses con Discapacidades de 1990. Jenkins cree que hacer cumplir estas leyes podría ayudar a abordar la falta de diversidad en la educación.

"[A] En la universidad, nuestro producto son nuestras ideas y personas, y estamos financiados por la matrícula y el público. Creo que deberíamos tratar de representar mejor a este público y a las personas del futuro dando forma a este incentivo económico "Dijo Jenkins.

Haciendo espacio para los negros en la robótica

Jenkins cree que las estructuras de incentivos dentro de las organizaciones también tienen que cambiar. Brinde a las personas una razón para promover la diversidad que no perjudique a las personas entusiastas de la diversidad.

"Sé que si estoy interesado en la diversidad y la igualdad de oportunidades, tengo que hacer un sacrificio profesional para hacer que la tutoría y los esfuerzos sean necesarios para ampliar la participación en nuestro campo", dijo.

Ponerse en contacto con personas en posiciones privilegiadas dentro de la estructura de poder existente puede ser una parte importante del acceso a la búsqueda, contratación, publicación, cotizaciones y otras cosas asociadas con los beneficios en el proceso de revisión por pares. Si el trabajo de diversidad no tiene un incentivo económico o no hace que una persona sea más atractiva para cosas como la contratación, la promoción o la tenencia, "entonces moverán esa pila hacia abajo y realmente nunca nos ocuparemos de eso".

Monroe Kennedy es profesor asistente de Ingeniería mecánica en la Universidad de Stanford, donde dirige el Laboratorio de manipulación robótica asistida (ARM). En el podio, habló desde la perspectiva de un educador académico y afirmó que involucrar a los jóvenes era esencial para los informáticos.

"Puedo decirle sin lugar a dudas, y solo los educadores lo saben, creo: si mirara a los ojos de un niño y viera ese momento, podría haber cambiado literalmente la dirección en la que esa persona podría ir", dijo. después de describir un encuentro con un joven estudiante negro en un salón de clases. "Los que investigamos en esta sala hacemos las cosas increíbles que tenemos, tenemos la profunda responsabilidad de entrar en estas salas y cambiar el status quo y reconocer el poder que tienen algunas palabras, y especialmente las suyas Tener tiempo. tiene cuando se trata de hacer una diferencia en este nivel. “

También conoce esta experiencia desde el otro lado. Saber que era lo suficientemente bueno como para convertirse algún día en profesor de asesores graduados, ninguno de los cuales era negro, llevó a Kennedy a convertirse en profesor. "Tengo confianza, pero es diferente cuando la persona que respetas y que tiene el rol de liderazgo te mira a los ojos y ve lo especial", dijo.

La repetición de los comentarios de Lawrence, Kennedy y otros robots negros El podio también discutió la importancia de comenzar a descubrir sus propios prejuicios. Lawrence dijo que nadie es inmune a los prejuicios.

"No soy inmune a eso solo porque soy una mujer negra. No tengo prejuicios, discriminación o juzgamiento. Entonces diría que los reconozca, los descubra, los desafíe y reconozca dónde ve estas áreas de crecimiento ", dijo.

También se unió a varios miembros del panel que enfatizaron que la responsabilidad de las iniciativas de diversidad no debe ser dirigida desproporcionadamente a los empleados negros que, como ellos, pueden querer evitar ser empleados como guerreros justicia social en lugar de un gerente de producto reflexivo que cree que la diversidad debería ser una prioridad.

"Hagan espacio para que resuelva problemas o para que nos congreguemos como minorías: veo el progreso allí simplemente no y tengo miedo de alienar a mis empleados o de tener una idea como yo eso puede arreglar eso o que todo está bien ", dijo

Jenkins dijo que apoya a las personas que están dispuestas a hablar públicamente sobre la necesidad de la diversidad, pero ha escuchado personalmente a personas que no están dispuestas a para hablar o participar en discusiones de diversidad sin ser clasificado como enojado. “Diría que muchos negros de ingeniería, robótica e IA todavía tienen problemas para decir la verdad desde su perspectiva. Creo que mucha gente todavía siente que habrá un castigo, se les considera enojados, groseros o peores. He oído que la terminología es peor ", dijo Jenkins.

"Sin justicia, sin robots"

Tom Williams también habló en el panel. Williams es White y profesor en la Escuela de Minas de Colorado. En una carta abierta publicada en línea a principios de este mes, titulada “¿Sin justicia? Sin robots ”, Williams y otros robots en Colorado prometieron no construir robots para la policía.

"No solo tenemos que negarnos a construir robots que causen daños de forma activa, lo que parece obvio … sino que también argumentaría que deberíamos rechazar, en colaboración con o para el uso de la policía, benigno o socialmente útil Construir robots porque esta acción le diría a nuestra comunidad sobre nuestros principios morales ”, dijo.

“Si elegimos construir robots para o con la policía, independientemente de cuán socialmente beneficiosos puedan ser estos robots, esta acción hace dos cosas. Primero, lava la reputación de la institución policial. Segundo, tolera la existencia y el comportamiento de esta institución, lo cual es profundamente problemático ”, dijo Williams.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *