AI semanal: la frenología de AI es una tontería racista, por lo que, por supuesto, no funciona


En un artículo titulado "The Illusion of" Face Crime ", publicado esta semana en Arxiv.org, un trío de investigadores ha expuesto quirúrgicamente afirmaciones de investigaciones recientes de que pueden usar IA, para determinar el crimen basado en las caras de las personas. Su objetivo principal es un artículo en el que los investigadores afirman que pueden hacer exactamente eso y pueden producir algunos resultados con una precisión de hasta el 97%.

Pero los autores de IEEE – Kevin Bowyer y Walter Scheirer de la Universidad de Notre Dame y Michael King del Instituto de Tecnología de Florida – argumentan que este tipo de tecnología de reconocimiento facial está "condenada" y que las fuertes afirmaciones son primero Las líneas son un resultado ilusorio de un diseño experimental deficiente.

En su refutación, los autores muestran las matemáticas, por así decirlo, pero no tiene que peinar sus argumentos para saber que las afirmaciones para identificar el crimen de una persona en función de sus rasgos faciales son falsas. Es solo frenología y fisonomía modernas.

La frenología es una vieja idea de que los golpes en el cráneo de una persona indican qué tipo de persona son y qué tipo y nivel de inteligencia pueden lograr. La fisonomía es esencialmente la misma idea, pero es más antigua, y se trata más de inferir quién es una persona en función de su apariencia física que la forma de su cráneo. Ambas son ideas inherentemente profundamente racistas que se utilizan para el "racismo científico" y una justificación clara de atrocidades como la esclavitud.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Y ambas ideas fueron ampliamente y completamente desacreditadas y condenadas, pero no están muertas, solo esperaban la piel de oveja que encontraron en la tecnología de reconocimiento facial.

Los problemas de precisión y sesgo en el reconocimiento facial están bien documentados. El innovador trabajo Gender Shades de Joy Buolamwini, Dr. Timnit Gebru, Dr. Helen Raynham y Deborah Raji mostraron cuán importantes se deterioran los sistemas de reconocimiento facial en mujeres y personas con piel más oscura. Dr. Ruha Benjamin, autora, profesora asociada de Estudios Afroamericanos en la Universidad de Princeton y directora del Just Data Lab, dijo en una conferencia a principios de este año que quienes crean modelos de IA deben tener en cuenta los contextos sociales e históricos.

Su reclamo es repetido y desempaquetado por el científico cognitivo Abeba Birhane en su trabajo "Injusticias algorítmicas: hacia una ética relacional", por la cual ganó el Premio al Mejor Papel en NeurIPS 2019. Birhane escribió en el trabajo que la toma de decisiones algorítmicas y la injusticia algorítmica requieren un replanteamiento fundamental más allá de las soluciones técnicas. “

Esta semana, a medida que continúan las protestas en todo el país, los contextos sociales e históricos de la supremacía blanca y la desigualdad racial se están poniendo de relieve. Y los peligros de la detección de rostros por parte de las agencias policiales son primordiales. En tres artículos, Khari Johnson, autor principal de IA en VentureBeat, explicó cómo IBM se abstuvo de su tecnología de reconocimiento facial, Amazon impuso una moratoria de un año sobre el uso policial de su tecnología de reconocimiento facial, y Microsoft prometió no vender su tecnología de reconocimiento facial a la policía hasta que aprobara una ley nacional que regula su aplicación.

Eso nos lleva de vuelta al artículo de IEEE. Al igual que el trabajo de los investigadores anteriores para descubrir IA rota y sesgada, estos autores realizan la tarea encomiable y desafortunadamente necesaria de desarmar la mala investigación. Además de algunos contextos históricos, explican en detalle por qué y cómo los conjuntos de datos y el diseño de la investigación son incorrectos.

Aunque discuten esto en su conclusión, los autores no están directamente interesados ​​en el problema moral básico de la investigación del área criminal. Al adoptar un enfoque metodológico y de investigación para desacreditar las afirmaciones, dejan espacio para el argumento de que futuros avances tecnológicos o científicos podrían hacer posible esta tontería con respecto a la frenología y la fisonomía. Irónicamente, su enfoque corre el riesgo de legitimar estas ideas.

Esto no es una crítica de Bowyer, Scheirer y King. Luchas (y ganas) una batalla aquí. Siempre habrá batallas porque siempre habrá charlatanes que afirman conocer a una persona por su apariencia externa, y en ese momento tienes que exponerlos con las herramientas y el lenguaje disponibles.

Pero la guerra de larga duración se trata de esta pregunta en sí misma. Es una pregunta defectuosa porque el concepto de frenología proviene de un lugar de dominación blanca. Dicho esto, inicialmente es una pregunta inadmisible.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *