Antes de invertir $ 100 mil millones en IA …


Estados Unidos está dispuesto a invertir miles de millones de dólares para seguir siendo líder en inteligencia artificial y computación cuántica.

Esta inversión se necesita con urgencia para revitalizar la ciencia que dará forma a nuestro futuro. Pero para aprovechar al máximo esta inversión, necesitamos crear un entorno que produzca innovaciones que no solo sean avances tecnológicos, sino que también beneficien a la sociedad y beneficien a todos en nuestra sociedad.

Por lo tanto, es importante invertir en abordar las desigualdades sistémicas que han impedido que los negros contribuyan a la IA y contribuyan a los productos que sin duda afectarán a todos. Los académicos, ingenieros y emprendedores negros actualmente tienen poca o ninguna voz en la IA.

Hay una serie de proyectos de ley que están pasando por la Cámara y el Senado para invertir hasta $ 100 mil millones en inteligencia artificial y computación cuántica. Esta legislación, por ejemplo la del Comité de Ciencia, Espacio y Tecnología de la Cámara, señala la importancia de la ética, la equidad y la transparencia, que son grandes principios pero no precisos y sin un significado claro. La ley de fronteras sin fin de dos cámaras transformaría la IA, pero tampoco está claro cómo eliminaría la desigualdad institucional en la IA y abordaría la experiencia vivida por los estadounidenses negros. Lo que estos proyectos de ley no abordan es la igualdad de oportunidades, que tiene un significado más específico y se basa en el movimiento de derechos civiles. Esta importante inversión en tecnología debería ayudarnos a lograr equidad y mejores resultados en investigación y desarrollo técnico. Debe asegurarse de que las personas que desarrollan estas tecnologías reflejen a la sociedad. No vemos eso en este momento.

Como afroamericano, estoy profundamente preocupado por los resultados y los efectos negativos que este aumento de fondos podría tener si no tenemos diversidad en nuestros equipos de desarrollo, laboratorios de investigación, aulas, salas de juntas y suites ejecutivas.

Si nos fijamos en las empresas que están creando IA en la actualidad, como OpenAI, Google DeepMind, Clearview y Amazon, están lejos de tener diferentes equipos de desarrollo o diferentes equipos ejecutivos. Y vemos el resultado en el arresto de Robert Williams provocado por IA en enero, así como en muchos otros abusos que están bajo el radar.

Por lo tanto, debemos vincular esta importante inversión gubernamental en IA con una clara responsabilidad por la igualdad de oportunidades. Si podemos unir la equidad y el avance tecnológico, desbloquearemos el potencial de la IA de manera que beneficie a la sociedad en su conjunto y esté a la altura de los ideales de Estados Unidos.

¿Cómo llegamos al problema?

] Entonces, ¿cómo garantizamos la igualdad de oportunidades en el desarrollo técnico? Comienza con cómo invertimos en investigación científica. De momento solo pensamos en el progreso tecnológico cuando se trata de inversiones. La igualdad de oportunidades no es una prioridad y, en el mejor de los casos, es una consideración menor.

Este es el sistema de innovación firmemente anclado al que estamos acostumbrados. La investigación científica es la fuente que promueve avances en nuestra productividad y calidad de vida. La ciencia ha tenido un increíble retorno de la inversión a lo largo de nuestra historia y está cambiando continuamente nuestras vidas. Pero también necesitamos innovación en nuestro motor de innovación. Sería un error asumir que todos los científicos están lo suficientemente iluminados como para involucrar, capacitar, orientar, cultivar e involucrar a la gente negra. Siempre debemos preguntarnos: ¿cuál es el resultado final que estimula y da forma a nuestros esfuerzos científicos?

La solución es realmente simple, y algo que podemos hacer casi de inmediato: necesitamos comenzar a hacer cumplir las leyes de derechos civiles existentes para la distribución de fondos estatales en apoyo del avance científico. Esto afectará principalmente a las universidades, pero también reformará otras organizaciones que son líderes en inteligencia artificial.

Piense en el gobierno como el capitalista de riesgo que tiene específicamente el interés de la gente como el resultado final.

Cuando empecemos a hacer cumplir los estatutos de derechos civiles existentes. Entonces, la financiación de la inteligencia artificial por parte del gobierno federal creará un ciclo positivo. No solo surgen ideas y tecnología avanzada de esta financiación. También son las personas que provienen de laboratorios de investigación respaldados y están capacitadas en ingeniería e innovación.

Y los laboratorios de investigación tienen un impacto en las aulas de ciencias. El cuerpo docente y los estudiantes que trabajan en investigación también entrenan las fuerzas innovadoras de la próxima generación. No solo afectan quién está en el aula, sino también quién obtiene oportunidades en los equipos de desarrollo que definen la industria. La financiación del gobierno debería recordar a las universidades su responsabilidad de nutrir y desarrollar a las generaciones futuras, no solo elegir ganadores y perdedores a través de la vigilancia.

Al determinar cómo invertir en ciencia con esta entrada masiva de efectivo, podemos crear innovadores más ilustrados que producirán mejores productos, y una inteligencia artificial que ayudará a solucionar algunos de los problemas con los que estamos lidiando actualmente. Ver tecnología. También seremos capaces de desarrollar nuevas tecnologías que amplíen nuestros horizontes más allá de nuestras ideas y dogmas actuales.

¿Cómo hacemos valer los derechos civiles para la I + D en IA?

Si un laboratorio de investigación o un curso universitario no es diverso y si se crea la igualdad de oportunidades prescrita legalmente, no debería ser elegible para financiamiento federal, incluidas las subvenciones para investigación. No deberíamos financiar a investigadores en departamentos de informática que solo han representado simbólicamente a estudiantes negros en sus clases de graduación. No deberíamos financiar a investigadores que han recibido millones en dinero público pero que nunca han sido mentores con éxito de un estudiante negro. En cambio, deberíamos recompensar a los investigadores que logran tanto la participación de académicos negros como la excelencia científica en su trabajo. Debemos alentar el cuidado atento y considerado por parte de los investigadores, como nos gustaría a nosotros mismos, a nuestros propios hijos y a nuestras tasas de matrícula.

Deberíamos considerar la igualdad de oportunidades de la misma manera que invertir en el mercado de valores. ¿Invertiría en una acción que no está creciendo, que se está estancando y tiene un rendimiento deficiente? Es poco probable que alguien ponga su propio dinero en esta acción a menos que vea señales de crecimiento. Lo mismo debería aplicarse a los departamentos universitarios, que construyen su reputación y rentabilidad principalmente con dinero del contribuyente estadounidense.

¿Quién sería responsable de estas decisiones? Idealmente, esto lo harían las propias agencias federales de financiación: la Fundación Nacional de Ciencias, los Institutos Nacionales de Salud, el Departamento de Defensa, etc. Estas agencias han logrado un inmenso retorno de la inversión que ha permitido que las innovaciones estadounidenses crezcan exponencialmente durante el siglo pasado. , pero su visión del mérito debe reconsiderarse en el contexto de 2020 y las realidades de nuestro nuevo siglo.

La parte difícil

Escribí anteriormente que esta era una solución fácil. Y está en papel. Para las instituciones de investigación, sin embargo, el cambio será difícil debido a su cultura institucional bien establecida. Las personas que pueden hacer los cambios necesarios han pasado por el sistema. Por lo tanto, no necesariamente ven la solución o el problema.

Soy profesor de informática e ingeniería en la Universidad de Michigan. Trabajo en robótica e inteligencia artificial desde hace más de 20 años. Conozco el sentimiento de alegría y aprobación cuando gano grandes subvenciones federales para apoyar mi investigación y a mis estudiantes. Pocas palabras pueden describir el sentido de honor y reconocimiento que viene con el apoyo federal a la investigación. Todavía me siento orgulloso cuando pienso en mi oportunidad de estrechar la mano del presidente George W. Bush en 2007 y las felicitaciones de mi congresista, la representante Debbie Dingle, por mi beca de la Iniciativa Nacional de Robótica.

También comprendo por experiencia lo difícil que es ver las cosas desde dentro. Si hacemos la analogía con la aplicación de la ley, se parece mucho a la policía que supervisa a la policía. Somos las personas que producimos la innovación tecnológica y nos beneficiamos de la financiación, pero también somos responsables de controlarnos. Hay poca responsabilidad externa, solo intentos "en evolución" de expandir la participación desde adentro.

No soy abogado ni funcionario, para ser perfectamente claro. Sin embargo, este momento de nuestra historia es un momento oportuno para redefinir la igualdad de oportunidades en toda la cartera de investigación federal. Una posibilidad es crear una agencia independiente que analice y haga cumplir la igualdad de oportunidades entre los programas para el financiamiento federal de la investigación científica, en contraste con la división de esta responsabilidad en sub-agencias individuales exclusivamente dentro del ejecutivo. Independientemente de cómo se implemente, es importante que supervisemos continuamente las políticas y prácticas de financiamiento en Inteligencia Artificial para garantizar que haya una representación y diversidad adecuadas, y para asegurarnos de que nuestro financiamiento federal no se gaste sin considerar diferentes tecnologías. deberían construirse y los problemas sistémicos más importantes involucrados.

Qué puede hacer

El momento de actuar es ahora, antes de que comience la financiación. Cuando se trata de discriminación y racismo, tenemos que lidiar tanto con los “diferentes efectos” ocultos en nuestros sistemas de innovación como con el tradicional “trato diferente” explícito (como los ilustrados en la película de 2016 Figuras ocultas ]).

Para aquellos que quieran actuar, lo primero que pueden hacer es mirar su propia organización y ambiente de trabajo y ver si cumple con las leyes de derechos civiles. Si está interesado en convertir la protesta en política, escriba a sus representantes en el Congreso y a sus funcionarios electos y dígales que la igualdad de oportunidades es importante en AI.

También deberíamos pedir a nuestros candidatos presidenciales que se comprometan con el tipo de responsabilidad que he descrito aquí. Independientemente de quién sea elegido, estos problemas de inteligencia artificial e igualdad de oportunidades darán forma a nuestro país en las próximas décadas. Es una prioridad nacional que requiere nuestra atención de más alto nivel. Todos deberíamos preguntarnos quién está desarrollando esta tecnología y qué la motiva. Hay tanto optimismo sobre la inteligencia artificial; no estaría en esta área si no lo creyera. Sin embargo, para aprovechar al máximo la IA, debemos escuchar todas las perspectivas de todos los ámbitos de la vida, conectarnos con personas de todos los códigos postales de nuestro país, adoptar nuestra ciudadanía global y atraer a las mejores personas de todo el mundo.

I. Realmente espero que algún día la igualdad en la IA esté a la orden del día y no requiera discusiones tan desafiantes. Sería mucho más divertido justificar por qué la propagación de creencias no paramétricas será una mejor opción que las redes neuronales para sistemas robóticos más poderosos y explicables.

Chad Jenkins es Profesor Asociado de Ciencias e Ingeniería Informática y Director Asociado del Instituto de Robótica de Michigan en la Universidad de Michigan. Es un especialista en robótica especializado en visión por computadora e interacción humano-robot y director del Laboratorio para el Progreso. Es el cofundador de BlackInComputing.org.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *