¿Podría el aprendizaje automático ayudar a incorporar voces marginadas a archivos históricos?


Investigadores del Montreal AI Ethics Institute y Microsoft proponen utilizar el aprendizaje automático para crear archivos enriquecidos que puedan llenar las lagunas en la comprensión, el conocimiento y las creencias culturales. Sostienen que involucrar las voces de otros en los procesos de archivo a través del aprendizaje automático puede tener efectos positivos en las comunidades, especialmente aquellas que los archiveros han marginado históricamente.

La gente rara vez desconfía de los directorios de registros centralizados y accesibles, incluso si estos registros contienen sesgos explícitos o implícitos. Por ejemplo, diez años después del fin de los años del dominio blanco y la segregación racial del apartheid en Sudáfrica, los libros utilizados en las escuelas del país todavía no reflejaban la historia de lo que vivía la gente. Desafortunadamente, los archivos juegan un papel vital en el avance de la sociedad humana. Nos apoyamos en ellos para desarrollar políticas públicas y preservar idiomas, culturas, autoidentidades, creencias y valores.

Los coautores del estudio querían examinar cómo las tecnologías como la IA pueden abordar los desafíos y mejorar la utilidad de las bases de datos y archivos comunitarios. Primero identificaron áreas donde las prácticas de archivo actuales no satisfacen las necesidades de las poblaciones desatendidas, señalando que los pueblos indígenas, mujeres, niños, LGBTQIA2 +, personas mayores, víctimas de genocidio, minorías raciales, minorías culturales, veteranos militares y poblaciones discapacitadas son comunes víctimas de errores con herramientas de archivo e historiadores.

"Las minorías vocales siguen siendo menos detectables en línea y en parte debido a las desviaciones en el proceso de archivo automatizado hacia un subconjunto limitado y sesgado de creadores de contenido que saben cómo reproducir algoritmos en línea y aumentar la visibilidad de su contenido en línea", escribió. Investigador. "Este cambio en la capacidad de búsqueda del contenido tiene un impacto dramático en la identificación de archivos de alta calidad por parte de los sistemas".

Aquí es donde entra en juego la IA cuidadosamente aplicada. Los coautores dicen que el objetivo es maximizar la diversidad de puntos de vista dentro de los archivos, como buscar contenido más allá de los índices que están bien indexados en Internet y hacer que las comunidades de baja visibilidad que se documentan a sí mismas sean más detectables. . Los chatbots de IA podrían interactuar con los buscadores de conocimientos para fortalecer su capacidad de descubrir artefactos menos obvios y relevantes, al mismo tiempo que les brinda la oportunidad de desarrollar mejores habilidades de alfabetización digital y exponerlos a diferentes perspectivas históricas.

Los coautores no abordan el potencial de sesgo dentro de estos sistemas. En la asociación sin fines de lucro sobre el primer informe de investigación de AI en abril pasado, los coautores encontraron que AI, que está actualmente en uso, no es adecuada para automatizar el proceso de fianza previa al juicio, etiquetando a algunas personas como de alto riesgo u otras como de bajo riesgo y para el alta. para declarar la prisión. Otros experimentos desafortunados que predicen cosas como GPA, agallas, desalojos, capacitación vocacional, despidos y dificultades materiales muestran la naturaleza adversa de los algoritmos de IA. Un estudio reciente que intentó utilizar la inteligencia artificial para predecir qué estudiantes universitarios podrían reprobar la clase de física descubrió que la precisión tiende a ser menor en las mujeres.

No obstante, los investigadores ven la IA y su potencial para "proporcionar una imagen más completa" como algo positivo "Para aquellos que quieran construir una mejor comprensión de las culturas.

" Los beneficios de una mayor capacidad de descubrimiento no solo son beneficiosos para las comunidades marginadas ; También tienen un efecto positivo en otros que comprenden mejor estas culturas y, por lo tanto, pueden apreciar realmente nuestro patrimonio cultural común en su totalidad ”, escribieron los coautores. “En términos de integridad, la compilación de contenido de sistemas automatizados mejorará el corpus disponible en los archivos. Descubrimos que los enfoques modernos basados ​​en la IA pueden generar una participación más amplia en la configuración de nuestra herencia cultural común, al tiempo que empoderan a las minorías para que tengan más control sobre el conocimiento y los artefactos que sirven para representar su pasado y sus identidades presentes y futuras. Dar forma. "

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *