La historia de la IA contada por sus inventores


Bienvenido a Yo estuve ahí cuando, un nuevo proyecto de historia oral del En máquinas en las que confiamos Pódcast. Contiene historias sobre cómo se produjeron los avances en inteligencia artificial y computación, contados por las personas que los presenciaron. En este primer episodio, conocemos a Joseph Atick, quien ayudó a desarrollar el primer sistema de reconocimiento facial comercialmente viable.

Créditos:

Este episodio fue producido por Jennifer Strong, Anthony Green y Emma Cillekens con la ayuda de Lindsay Muscato. Editado por Michael Reilly y Mat Honan. Mezclado por Garret Lang, con diseño de sonido y música de Jacob Gorski.

Transcripción completa:

[TR ID]

Jennifer: Soy Jennifer Strong, presentadora de En máquinas en las que confiamos.

Quiero contarles sobre algo en lo que trabajamos detrás de escena durante un tiempo.

Se llama Yo estuve ahí cuando.

Es un proyecto de historia oral que cuenta las historias de avances en inteligencia artificial y computación … contadas por las personas que los presenciaron.

Joseph Atick: Y cuando entré a la habitación, descubrió mi cara, la sacó del fondo y dijo: «Veo a Joseph» y ese fue el momento en que el pelo de mi espalda … tuve la sensación de que algo estaba sucediendo es. Fuimos testigos.

Jennifer: Empezamos con un hombre que ayudó a crear el primer sistema de reconocimiento facial comercialmente viable … allá por los 90 …

[IMWT ID]

Soy Joseph Atick. Hoy soy presidente ejecutivo de ID for Africa, una organización humanitaria que se enfoca en brindar a las personas en África una identidad digital para que puedan acceder a los servicios y ejercer sus derechos. Pero no siempre he estado en el campo humanitario. Después de completar mi doctorado en matemáticas, mis colegas y yo hicimos algunos avances fundamentales que llevaron al primer reconocimiento facial comercialmente viable. Por eso se me conoce como el padre fundador del reconocimiento facial y la industria biométrica. El algoritmo de cómo un cerebro humano reconoce rostros familiares me vino cuando estábamos investigando, haciendo matemáticas, mientras estaba en el Instituto de Estudios Avanzados en Princeton. Pero estaba lejos de tener idea de cómo hacer algo como esto.

Ha sido un largo período de meses de programación y fallas y programación y fallas. Y una noche, temprano en la mañana, acabábamos de terminar una versión del algoritmo. Enviamos el código fuente para la compilación para obtener el código de ejecución. Y salimos, salí para ir al baño. Y luego, cuando volví a la habitación y el código fuente había sido compilado por la máquina y devuelto. Y por lo general, después de compilarlo, se ejecuta automáticamente y cuando entré en la habitación, vio a un humano entrar en la habitación y descubrió mi rostro, lo extrajo del fondo y dijo: «Veo a Joseph». y ese fue el momento en que el cabello en mi espalda – sentí que algo había sucedido. Fuimos testigos. Y comencé a llamar a las otras personas que todavía estaban en el laboratorio, y todos entraron a la habitación.

Y diría: “Veo a Norman. Vería a Paul, vería a Joseph ”. Y nos turnamos para caminar por la habitación solo para ver cuántos podían verlo en la habitación. Fue un momento de la verdad en el que diría que varios años de trabajo eventualmente condujeron a un gran avance, aunque teóricamente no se requirió ningún avance adicional. El solo hecho de que hayamos descubierto cómo implementarlo y finalmente pudimos ver esta habilidad en acción ha sido muy, muy gratificante y satisfactorio. Habíamos desarrollado un equipo que era más un equipo de desarrollo que un equipo de investigación centrado en poner todas estas habilidades en una plataforma de PC. Y esa fue la hora del nacimiento, realmente la hora del nacimiento del reconocimiento facial comercial, diría que en 1994.

Mi preocupación comenzó muy rápido. Vi un futuro donde no había escondite, con la proliferación de cámaras por todas partes y la comercialización de computadoras y las capacidades de procesamiento cada vez mejores de las computadoras. Así que en 1998 presioné a la industria y dije que teníamos que elaborar principios para un uso responsable. Y me sentí bien por un tiempo porque sentí que lo habíamos hecho bien. Sentí que implementamos un código de uso responsable que sigue cada implementación. Sin embargo, este código no ha resistido la prueba del tiempo. Y eso es porque no previmos la llegada de las redes sociales. Cuando presentamos el código en 1998, básicamente dijimos que el elemento más importante de un sistema de reconocimiento facial era la base de datos etiquetada de personas conocidas. Dijimos que si no estoy en la base de datos, el sistema estará ciego.

Y fue difícil construir la base de datos. Podríamos construir como máximo mil 10,000, 15,000, 20,000 porque cada imagen tenía que ser escaneada e ingresada a mano; en el mundo en el que vivimos hoy, ahora estamos en un régimen en el que dejamos que la bestia salga de la bolsa alimentándola con miles de millones. de caras y ayudándolo etiquetándonos a nosotros mismos. Um, ahora estamos en un mundo donde es difícil controlar el uso del reconocimiento facial y exigir que todos rindan cuentas. Y al mismo tiempo no faltan caras conocidas en Internet, porque simplemente se puede rascar, como ha ocurrido recientemente con algunas empresas. Así que en 2011 comencé a entrar en pánico y escribí un comentario diciendo que era hora de presionar el botón de pánico porque el mundo va en una dirección en la que el reconocimiento facial será omnipresente y las caras estarán disponibles en todas partes en las bases de datos.

Y en ese entonces, la gente decía que yo era un fabricante de pánico, pero ahora se dan cuenta de que eso es exactamente lo que está sucediendo hoy. ¿Y a dónde vamos desde aquí? He estado presionando por leyes. Hice campaña por un marco legal que obligara a usar la cara de alguien sin su consentimiento. Entonces ya no es un problema tecnológico. No podemos contener esta poderosa tecnología por medios técnicos. Tiene que haber un marco legal. No podemos dejar que la tecnología vaya muy por delante de nosotros. Ante nuestros valores, ante lo que consideramos aceptable.

El tema del consentimiento sigue siendo uno de los temas más difíciles y desafiantes cuando se trata de tecnología. La terminación por sí sola no es suficiente. Tengo que dar mi consentimiento. Necesita comprender las consecuencias de lo que significa. Y no solo para decir, bueno, nos apuntamos y eso fue suficiente. Le dijimos a la gente y si no querían, podrían haber ido a cualquier parte.

Y también encuentro que es muy fácil dejarse seducir por características tecnológicas llamativas que podrían darnos una ventaja a corto plazo en nuestras vidas. Y luego nos damos cuenta a lo largo de la línea de que hemos renunciado a algo que era demasiado precioso. Y en ese momento hemos insensibilizado a la población y hemos llegado a un punto en el que no podemos retirarnos. Eso es lo que me preocupa. Me preocupa el hecho de que el reconocimiento facial se realiza a través del trabajo de Facebook, Apple y otros. No digo que todo sea ilegítimo. Mucho es legítimo.

Hemos llegado a un punto en el que el público en general puede volverse indiferente y insensible por verlo en todas partes. Y tal vez en 20 años salgas de tu casa. Ya no tendrás la expectativa de que no seas tú. No es reconocido por decenas de personas con las que se cruza en el camino. Creo que en este punto el público estará muy alarmado porque los medios comenzarán a cubrir casos de personas perseguidas. Las personas han sido atacadas, incluso personas han sido seleccionadas y secuestradas en las calles de acuerdo con sus activos. Creo que tenemos mucha responsabilidad en nuestras manos.

Por eso creo que la cuestión del consentimiento seguirá preocupando a la industria. Y hasta que esta pregunta sea un resultado, es posible que no se resuelva. Creo que tenemos que poner límites a lo que se puede hacer con esta tecnología.

Mi carrera también me ha enseñado que estar demasiado adelantado no es algo bueno porque el reconocimiento facial tal como lo conocemos hoy se inventó en 1994. Pero la mayoría de la gente piensa que fue inventado por Facebook y los algoritmos de aprendizaje automático que ahora están diseminados por todo el mundo. Básicamente, en algún momento tuve que renunciar como CEO público porque estaba limitando el uso de la tecnología que mi empresa quería promover por temor a consecuencias negativas para la humanidad. Por tanto, creo que los científicos deben tener el coraje de proyectarse hacia el futuro y ver las consecuencias de su trabajo. No estoy diciendo que deban dejar de hacer avances. No, debería avanzar a toda máquina, conseguir más avances, pero también deberíamos ser honestos con nosotros mismos y básicamente hacer que el mundo y los responsables políticos sean conscientes de que este avance tiene sus ventajas y desventajas. Por lo tanto, al utilizar esta tecnología, necesitamos algún tipo de orientación y marco para garantizar que se canalice para una aplicación positiva en lugar de negativa.

Jennifer: Yo estuve ahí cuando … es un proyecto de historia oral que muestra las historias de personas que experimentaron o crearon avances en inteligencia artificial y computación.

Tienes una historia que contar? ¿Conoces a alguien que haga eso? Escríbanos un correo electrónico a podcasts@technologyreview.com.

[MIDROLL]

[CREDITS]

Jennifer: Este episodio fue grabado en la ciudad de Nueva York en diciembre de 2020 y producido por mí con la ayuda de Anthony Green y Emma Cillekens. Estamos editados por Michael Reilly y Mat Honan. Nuestro ingeniero de mezclas es Garret Lang … con diseño de sonido y música de Jacob Gorski.

Gracias por escuchar, soy Jennifer Strong.

[TR ID]

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *