Lo que podemos aprender de las regulaciones de IA propuestas por China


los Las Cumbres de Transform Technology comienzan el 13 de octubre con Low-Code / Sin Code: Habilitación de la agilidad empresarial. ¡Únete ahora!


A fines de agosto, el organismo de control de Internet de China, la Administración del Ciberespacio de China (CAC), publicó un borrador de política para regular el uso de sistemas de recomendación algorítmica por parte de los servicios de información de Internet. Las pautas son el esfuerzo más completo que cualquier país ha hecho para regular los sistemas de derivación hasta la fecha y pueden servir como modelo para otras naciones que estén considerando leyes similares. El enfoque de China incluye algunas de las mejores prácticas globales en torno a la regulación de sistemas algorítmicos, tales como: B. Normativa que promueva la transparencia y los controles de privacidad de los usuarios. Desafortunadamente, la propuesta también apunta a extender el control del gobierno chino sobre cómo estos sistemas están diseñados y utilizados para curar contenido. Si se aprueba, el borrador aumentaría el control del gobierno chino sobre los flujos de información en línea y el idioma.

La introducción del proyecto de reglamento se produce en un punto central del ecosistema de políticas tecnológicas en China. En los últimos meses, el gobierno chino ha lanzado una serie de redadas regulatorias en empresas de tecnología destinadas a evitar que las plataformas invadan la privacidad de los usuarios, alentar a los usuarios a gastar dinero y promover comportamientos adictivos, especialmente entre los jóvenes. Las pautas de los sistemas de recomendación son el último componente de esta represión regulatoria y parecen estar dirigidas a grandes empresas de Internet como ByteDance, Alibaba Group, Tencent y Didi que dependen de algoritmos patentados para operar sus servicios. Sin embargo, en su forma actual, la propuesta de reglamento se aplica a los servicios de información de Internet en un sentido más amplio. Si se aprueba, esto podría afectar la forma en que varias empresas operan sus sistemas de recomendación, incluidas las empresas de redes sociales, plataformas de comercio electrónico, sitios de noticias y servicios de viajes compartidos.

La propuesta de la CAC contiene numerosas disposiciones que reflejan principios ampliamente aceptados en el área de la responsabilidad algorítmica, muchas de las cuales fueron promovidas por mi organización, el Open Technology Institute. Por ejemplo, las políticas requerirían que las empresas brinden a los usuarios una mayor transparencia sobre cómo funcionan sus algoritmos de recomendación, incluida información sobre cuándo se utilizan los sistemas de recomendación de una empresa y los «principios, intenciones y mecanismos operativos» básicos del sistema. Las empresas también necesitarían revisar periódicamente sus algoritmos, incluidos los modelos, los datos de entrenamiento y los resultados, como parte de la propuesta. Con respecto a los derechos de uso, las empresas deben permitir a los usuarios determinar si la empresa utiliza sus datos para desarrollar y operar sistemas de recomendación y cómo lo hace. Además, las organizaciones deben brindar a los usuarios la posibilidad de desactivar las recomendaciones algorítmicas o de optar por no recibir recomendaciones basadas en perfiles. Si un usuario chino cree que el algoritmo de recomendación de una plataforma ha tenido un impacto profundo en sus derechos, puede pedirle a una plataforma que le explique su decisión. El usuario también puede solicitar que la empresa realice mejoras en el algoritmo. Sin embargo, no está claro cómo se aplicarán estas disposiciones en la práctica.

En cierto modo, el proyecto de reglamento de China es similar a los proyectos de ley de otras regiones. Por ejemplo, el borrador actual de la Ley de Servicios Digitales de la Comisión Europea y el Reglamento de IA propuesto tienen como objetivo promover la transparencia y la responsabilidad en torno a los sistemas algorítmicos, incluidos los sistemas de recomendación. Algunos expertos argumentan que el Reglamento General de Protección de Datos de la UE (GDPR) también otorga a los usuarios el derecho a una explicación cuando se trata de sistemas algorítmicos. Los legisladores en los Estados Unidos también han presentado numerosos proyectos de ley que abordan los algoritmos de plataforma a través de una serie de medidas, que incluyen aumentar la transparencia, prohibir el uso de algoritmos que violan las libertades civiles y eliminar la responsabilidad de las empresas cuando amplifican algorítmicamente contenido dañino.

Aunque la propuesta de la CAC contiene algunas disposiciones positivas, también contiene componentes que extenderían el control del gobierno chino sobre cómo las plataformas diseñan sus algoritmos, lo cual es extremadamente problemático. El borrador de la directriz establece que las empresas que utilizan algoritmos de recomendación deben adherirse a un código comercial ético que requiere que las empresas se adhieran a los «valores principales» y utilicen sus sistemas de recomendación para «cultivar energía positiva». En los últimos meses, el gobierno chino ha lanzado una guerra cultural contra la cultura «caótica» del club de fans en línea del país, afirmando que el país necesita crear una cultura «saludable», «masculina» y «centrada en las personas». Por lo tanto, el código comercial ético al que deben adherirse las empresas podría utilizarse para influir y potencialmente limitar qué valores y métricas priorizan los sistemas de recomendación de plataformas y ayudar al gobierno a remodelar la cultura en línea a través de su censura.

Los investigadores han descubierto que los sistemas de recomendación se pueden modificar para promover una variedad de valores diferentes y generar experiencias en línea específicas. El proyecto de reglamento de China es el primer intento del gobierno que podría definir y prescribir qué valores son apropiados para optimizar el sistema de recomendaciones. Además, las directrices facultan a las autoridades chinas para revisar los algoritmos de la plataforma y solicitar cambios.

La propuesta de la CAC también ampliaría el control del gobierno chino sobre cómo las plataformas seleccionan y amplían la información en línea. Las plataformas que utilizan algoritmos que pueden influir en la opinión pública o movilizar a los ciudadanos deberían obtener la aprobación del CAC antes de su implementación. Si una plataforma identifica contenido ilegal e «indeseable», debe eliminarlo de inmediato, detener la amplificación algorítmica del contenido e informar el contenido al CAC. Si una plataforma recomienda contenido ilegal o no deseado a los usuarios, puede ser considerada responsable.

Si se adopta la propuesta de la CAC, podría tener graves consecuencias para la libertad de expresión en línea en China. Durante la última década, el gobierno chino ha ampliado radicalmente su control del ecosistema en línea para establecer su propia versión aislada de Internet. Bajo el liderazgo del presidente Xi Jinping, las autoridades chinas han ampliado el uso del famoso «Gran Cortafuegos» para promover la vigilancia, la censura y restringir el acceso a contenidos y sitios web que creen que violan al estado y sus valores. La propuesta de la CAC es, por lo tanto, una parte integral del impulso del gobierno para imponer un mayor control sobre el lenguaje y el pensamiento en línea en el país, esta vez a través de sistemas de recomendación. La propuesta también podría tener implicaciones radicales para el flujo global de información. Muchas naciones de todo el mundo han adoptado modelos de gobernanza de Internet inspirados en China, ya que se equivocan en la dirección de modelos de gobernanza más autoritarios. La propuesta de la CAC podría inspirar modelos preocupantes e irresponsables similares de gobernanza algorítmica en otros países.

La propuesta de regulación para los sistemas de recomendación propuesta por el gobierno chino es el conjunto de reglas más completo para los algoritmos de recomendación hasta la fecha. El borrador contiene algunas disposiciones notables que podrían aumentar la transparencia de los sistemas de recomendación algorítmica y fomentar los controles y la elección de los usuarios. Sin embargo, si el borrador se aprueba en su forma actual, también podría tener un impacto sobredimensionado en la forma en que se modera y cura la información en línea en el país, lo que genera importantes preocupaciones sobre la libertad de expresión.

Spandana Singh es analista de políticas en el Open Technology Institute de New America. También es miembro de la Red de Expertos del Foro Económico Mundial y miembro no residente del Centro Esya en India.

VentureBeat

La misión de VentureBeat es ser un mercado digital para que los responsables de la toma de decisiones tecnológicas obtengan conocimientos sobre tecnologías y transacciones transformadoras. Nuestro sitio web proporciona información importante sobre tecnologías y estrategias de datos para ayudarlo a administrar su organización. Lo invitamos a convertirse en miembro de nuestra comunidad para obtener acceso:

  • información actualizada sobre los temas de su interés
  • nuestros boletines
  • contenido protegido de líderes de opinión y acceso con descuento a nuestros valiosos eventos, como Transformar 2021: Aprende más
  • Funciones de red y más

conviértete en miembro

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *