Esto acaba de convertirse en una gran semana para la regulación de la IA


Es una semana de prisa para que el gobierno rechace el abuso de la inteligencia artificial.

Hoy, la UE publicó sus tan esperadas reglas de IA, un borrador inicial de las cuales se filtró la semana pasada. Las regulaciones son de gran alcance y restringen la vigilancia masiva y el uso de IA para manipular a las personas.

Una carta de intención de la Comisión Federal de Comercio de EE. UU. Descrita en una breve publicación de blog de la abogada Elisa Jillson el 19 de abril podría tener más fuerza en el futuro cercano. Según la publicación, la FTC planea rastrear a las empresas que usan y venden algoritmos sesgados.

Varias empresas se asustarán ahora mismo, dice Ryan Calo, profesor de la Universidad de Washington que estudia tecnología y derecho. «En realidad, no es solo una publicación de blog», dice. «Esa publicación de blog es un ejemplo muy poderoso de un cambio fundamental».

La UE es conocida por su línea dura contra las grandes tecnologías, pero la FTC ha adoptado un enfoque más suave, al menos en los últimos años. La agencia está diseñada para monitorear las prácticas comerciales desleales y deshonestas. Su mandato es limitado: no cubre agencias gubernamentales, bancos ni organizaciones sin fines de lucro. Sin embargo, puede intervenir cuando las empresas tergiversan las capacidades de un producto que venden. Esto significa que las empresas que afirman que sus sistemas de reconocimiento facial, algoritmos de vigilancia predictiva o herramientas de atención médica no están sesgados pueden estar en la línea de fuego. «Donde tienen poder, tienen un poder tremendo», dice Calo.

Para volverse activo

La FTC no siempre ha estado dispuesta a ejercer ese poder. Después de las críticas en las décadas de 1980 y 1990 por ser demasiado agresivo, se retiró y libró menos peleas, especialmente contra las empresas de tecnología. Eso parece estar cambiando.

En la publicación del blog, la FTC advierte a los proveedores que las afirmaciones sobre la inteligencia artificial deben ser «veraces, no engañosas y respaldadas por pruebas».

“Por ejemplo, digamos que un desarrollador de inteligencia artificial les dice a sus clientes que su producto proporciona decisiones de contratación 100% imparciales, pero el algoritmo se creó utilizando datos que carecen de diversidad racial o de género. El resultado puede ser fraude, discriminación y acción policial por parte de la FTC. «

La acción de la FTC cuenta con el respaldo de ambos partidos en el Senado, donde ayer se preguntó a los comisionados qué más podían hacer y qué tendrían que hacer para conseguirlo. «Hay viento detrás de las velas», dice Calo.

Aunque trazan una línea clara en la arena, las regulaciones de IA de la UE son solo pautas. Al igual que con las reglas GDPR introducidas en 2018, dependerá de los estados miembros individuales de la UE decidir cómo implementarlas. Parte del lenguaje también es vago y está abierto a interpretación. Hacer una provisión contra «técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona» de manera que pueda causar daño psicológico. ¿Eso se aplica a los feeds de noticias de las redes sociales y la publicidad dirigida? «Podemos esperar que muchos cabilderos traten de excluir específicamente la publicidad o los sistemas de referencia», dice Michael Veale, miembro de la facultad de University College London que estudia derecho y tecnología.

Se necesitarán años de desafíos legales en los tribunales para resolver los detalles y las definiciones. «Eso solo sucederá después de un proceso extremadamente largo de investigación, apelación, multa, apelación, contrademanda y remisión al Tribunal de Justicia de las Comunidades Europeas», dice Veale. «En este punto, el ciclo comienza de nuevo». Pero la FTC, a pesar de su ámbito limitado, tiene autonomía para actuar ahora.

Una limitación importante compartida tanto por la FTC como por la Comisión Europea es la incapacidad de frenar el uso de tecnologías de IA dañinas por parte de los gobiernos. Por ejemplo, las normas de la UE incluyen la subcontratación para la vigilancia estatal. Y la FTC solo está autorizada para empresas de servicios. Podría intervenir impidiendo que los proveedores privados vendan software sesgado a los organismos encargados de hacer cumplir la ley. Sin embargo, dado el secreto de tales ventas y la falta de reglas sobre lo que las agencias gubernamentales deben declarar al adquirir tecnología, será difícil de implementar.

Sin embargo, los anuncios de esta semana reflejan un gran cambio global hacia una regulación seria de la IA, una tecnología que se ha desarrollado e implementado previamente con poco control. Los perros guardianes de la ética han estado pidiendo restricciones sobre las prácticas de IA injustas y dañinas durante años.

La UE considera que sus reglas colocan a la IA bajo la protección existente de las libertades humanas. «La inteligencia artificial debe estar al servicio de las personas y, por lo tanto, la inteligencia artificial debe respetar siempre los derechos de las personas». dijo Ursula von der Leyen, Presidente de la Comisión Europea, en un discurso previo al lanzamiento.

La regulación también ayudará a la IA con su problema de imagen. Como también dijo von der Leyen: «Queremos animar a nuestros ciudadanos a que se sientan seguros usándolo».



Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *