Necesitamos un nuevo campo de IA para luchar contra los prejuicios raciales – TechCrunch


Desde el comienzo de las protestas de desigualdad racial generalizadas, IBM ha anunciado que abandonará sus programas de reconocimiento facial para promover la justicia racial en la aplicación de la ley. Amazon ha suspendido el uso policial de su software de reconocimiento por un año para "introducir reglas más estrictas para el uso ético de la tecnología de reconocimiento facial".

Sin embargo, necesitamos más que solo cambios regulatorios. Todo el campo de la inteligencia artificial (IA) debe madurar del laboratorio de informática y aceptar el abrazo de toda la comunidad.

Podemos desarrollar una IA increíble que funciona en gran medida de manera imparcial en el mundo. Para lograr esto, la IA no puede ser solo una subárea de informática (CS) y tecnología informática (CE), como es el caso actualmente. Necesitamos crear una disciplina académica de IA que tenga en cuenta la complejidad del comportamiento humano. Tenemos que pasar de AI con TI a AI con TI. Los problemas con la IA no ocurren en el laboratorio. Ocurren cuando los científicos llevan la tecnología al mundo real de las personas. Los datos de capacitación en el laboratorio de CS a menudo carecen del contexto y la complejidad del mundo en el que usted y yo vivimos. Este error continúa los prejuicios.

Se descubrió que los algoritmos basados ​​en IA muestran prejuicios contra las personas y mujeres de color. Por ejemplo, en 2014, Amazon descubrió que un algoritmo de inteligencia artificial desarrollado para automatizar la caza de cabezas aprendió a actuar contra las candidatas. Los investigadores del MIT informaron en enero de 2019 que el software de reconocimiento facial es menos preciso para identificar a las personas con pigmentación más oscura. Más recientemente, en un estudio realizado por el Instituto Nacional de Estándares y Tecnología (NIST) a fines del año pasado, los investigadores encontraron indicios de prejuicio racista en casi 200 algoritmos de reconocimiento facial.

A pesar de los innumerables ejemplos de errores de IA, el celo continúa. Es por eso que los anuncios de IBM y Amazon han generado tantos informes positivos. El uso global de la inteligencia artificial aumentó un 270% entre 2015 y 2019. Se esperan ingresos de mercado de $ 118,6 mil millones para 2025. Según Gallup, casi el 90% de los estadounidenses ya usan productos de IA en su vida diaria, a menudo sin darse cuenta

Más allá de un descanso de 12 meses, debemos reconocer que crear IA es un desafío tecnológico, usar Sin embargo, la IA no requiere desarrollo de software, como: B. Ciencias sociales, derecho y política. A pesar de nuestro uso cada vez más ubicuo de la IA, la IA todavía se agrupa como un área de estudio en las áreas de CS y CE. En la Universidad Estatal de Carolina del Norte, por ejemplo, los algoritmos y la IA se enseñan en el programa CS. El MIT alberga el estudio de IA bajo CS y CE. AI necesita ingresar en programas de humanidades, planes de estudio de estudios raciales y de género y escuelas de negocios. Desarrollemos una pista de IA en los departamentos de ciencias políticas. En mi propio programa en la Universidad de Georgetown, enseñamos conceptos de inteligencia artificial y aprendizaje automático a estudiantes de estudio de seguridad. Esto debe convertirse en una práctica común.

Sin un enfoque más amplio para profesionalizar la IA, es casi seguro que mantendremos los prejuicios y las prácticas discriminatorias actuales. Solo podemos discriminar a un costo menor, no un objetivo noble para la tecnología. Necesitamos la creación deliberada de un espacio de IA que tenga como objetivo comprender el desarrollo de las redes neuronales y los contextos sociales en los que se utiliza la tecnología.

En tecnología informática, un estudiante estudia programación y conceptos básicos de informática. En ciencias de la computación, estudian teoría programática y asistida por computadora, incluidos los conceptos básicos del aprendizaje algorítmico. Estas son bases sólidas para estudiar IA; sin embargo, solo deben considerarse como componentes. Estos conceptos básicos son necesarios para comprender el campo de la IA, pero no son suficientes por sí solos.

Las compañías de tecnología como Amazon e IBM y muchas otras pueden usar estas innovaciones para garantizar que la población se sienta cómoda con el amplio uso de la IA. Toda la disciplina debe ir más allá del laboratorio de CS. Lo que se necesita son aquellos que trabajan en disciplinas como psicología, sociología, antropología y neurociencias. Para comprender los patrones de comportamiento humano, se requieren distorsiones en los procesos de generación de datos. Sin mi experiencia en ciencias del comportamiento, no hubiera podido desarrollar el software que utilicé para identificar el tráfico, el lavado de dinero y otros comportamientos ilegales.

La gestión responsable de los procesos de aprendizaje automático ya no es solo un componente deseable, sino un componente necesario del progreso. Necesitamos reconocer las trampas del prejuicio humano y los errores para repetir estos prejuicios en las máquinas del mañana, y las redes sociales y humanitarias proporcionan las claves. Solo podemos lograr esto si se crea un nuevo campo de IA que abarque todas estas disciplinas.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *