El objetivo más reciente del rayo regulatorio tecnológico de China: los algoritmos


En esta foto de ilustración tomada el 12 de julio de 2017, se puede ver un código de computadora en una pantalla sobre una bandera china.

Thomas White | Reuters

BEIJING – Las autoridades chinas planean restringir el uso de algoritmos por parte de las empresas en la venta de productos a los consumidores, lo que, según los analistas, probablemente sea contrario a los intereses comerciales y sentará un precedente para otros países.

Las empresas de tecnología más grandes de China, desde el gigante del comercio electrónico Alibaba hasta el propietario de TikTok, ByteDance, han construido sus negocios multimillonarios sobre algoritmos que entregan contenido en el que es más probable que un cliente gaste dinero o tiempo en función de las vistas anteriores.

La autoridad de ciberseguridad, que se está volviendo cada vez más poderosa, publicó el viernes un borrador de reglas de gran alcance para regular el uso de estos llamados algoritmos de recomendación. La propuesta se puede comentar hasta el 26 de septiembre, aún no se ha fijado una fecha de implementación.

Las reglas innovadoras podrían conducir a un choque entre los gigantes tecnológicos de China, que han estado sometidos a una regulación cada vez mayor en los últimos 10 meses, y Beijing, que ha tratado de frenar su poder.

Y las reglas de algoritmos de China están siendo observadas de cerca por otros países y compañías de tecnología de todo el mundo para saber cómo podrían afectar los modelos de negocios y la innovación, dijeron analistas.

«Las empresas tendrán mucho que decir sobre esto porque tiene el potencial de reestructurar los modelos comerciales», dijo a CNBC Kendra Schaefer, socio de la consultora Trivium China, con sede en Beijing.

Las reglas también han planteado preguntas sobre cómo se hará la aplicación y qué tan intrusivos deben ser los reguladores para lograr que las empresas cumplan con estas reglas.

Que dice el diseño

Estos son algunos de los puntos clave del borrador de la regla:

  • Las corporaciones no deben establecer algoritmos que induzcan a los usuarios a volverse adictos o gastar grandes sumas de dinero.
  • Los proveedores de servicios deben informar claramente a los usuarios sobre los servicios de recomendación algorítmica que brindan.
  • Los usuarios deben tener una forma de desactivar los servicios de recomendación algorítmica. Los usuarios también deben tener la opción de seleccionar, revisar o eliminar las etiquetas de usuario que se utilizarán para el algoritmo de recomendación.
  • Si se utilizan algoritmos para comercializar bienes o proporcionar servicios a los consumidores, la empresa que los respalda no puede utilizar el algoritmo para hacer diferenciaciones «irrazonables» en relación con los precios o las condiciones comerciales.
  • Cualquier violación de las reglas podría penalizar a las empresas con multas que oscilan entre los 5.000 y los 30.000 yuanes (entre 773 y 4.637 dólares).

Estas reglas propuestas se producen cuando el gobierno chino endureció su regulación sobre los gigantes tecnológicos nacionales el año pasado, principalmente en nombre de la lucha contra las prácticas monopolísticas y el aumento de la privacidad.

El miércoles entró en vigor una nueva ley de protección de datos. El 1 de noviembre entra en vigor una ley de protección de datos personales.

Así es como podría verse la aplicación

Los algoritmos de recomendación consisten en código que se alimenta con información específica sobre los usuarios para permitir un aprovisionamiento personalizado Resultados. Cuando estás en un sitio web de comercio electrónico, es probable que algunos de los elementos que ves en la página de inicio estén allí debido a tus hábitos de navegación o compras.

Sin embargo, el código del algoritmo no se publicará y podría dificultar su cumplimiento. Como mínimo, podría requerir que los reguladores revisen el código de las empresas detrás de los algoritmos.

«No se puede hacer una regulación algorítmica sin mirar el código», dijo Schaefer de Trivium China.

Se espera que las autoridades lleven a cabo «evaluaciones de seguridad» de algoritmos e inspecciones de los servicios de referencia de acuerdo con el borrador de las reglas. Las empresas deben cooperar y proporcionar el soporte técnico o de datos necesario.

Eso le daría un poder tremendo a los reguladores en China.

Pero también plantea algunos desafíos.

«En primer lugar, necesita las capacidades técnicas.

Esta intromisión podría conducir a un choque entre los gigantes tecnológicos y los reguladores de China.

«Estoy seguro de que las empresas tienen problemas de derechos de privacidad … que [the code] es información protegida «, añadió Schäfer.

Ninguna empresa de tecnología china con la que se contactó CNBC comentó de inmediato sobre el borrador de las reglas, y dos indicaron que es demasiado temprano en el proceso para evaluarlas. El regulador de ciberseguridad no respondió de inmediato a una solicitud de CNBC de comentarios sobre el alcance de la implementación o el impacto en la innovación.

¿Cambios en el modelo de negocio?

Muchos de los gigantes tecnológicos chinos no ganan dinero directamente con sus algoritmos. En cambio, se utilizan para atraer a los consumidores a los productos. Por ejemplo, puede ver videos en una aplicación y obtener contenido similar recomendado. Una empresa podría monetizar esto a través de la publicidad, o incluso engañarlo para que compre cosas.

Las últimas reglas podrían obligar a las empresas a cambiar sus modelos de negocio, pero no está claro hasta qué punto.

«Los jueces aún no han decidido sobre el impacto en las operaciones y las ganancias», dijo Ziyang Fan, director de comercio digital del Foro Económico Mundial.

“Depende de una serie de factores, como el nivel de aplicación y la reacción del mercado: cuántos usuarios elegirían ‘cerrar’. [the] Algoritmo de recomendación si esto conduce a una experiencia de usuario subóptima, p. Ej.

“Cuando vemos una caída significativa en indicadores como DAU [daily active users] y las tasas de retención, entonces el impacto en las ganancias también podría ser significativo «, dijo, y señaló que las empresas de medios sociales pueden ver el impacto con más fuerza, mientras que las compras en línea y los viajes privados son» probablemente menores «.

Donde está el resto del mundo

A medida que crece la interfaz entre la tecnología y la vida cotidiana, los países y regiones de todo el mundo buscan cada vez más formas de regular la tecnología y las empresas que la venden.

Hasta ahora, esto ha dado lugar a diferentes enfoques. En el área de algoritmos, China se está enfocando específicamente en la función de recomendación de la tecnología, mientras que Estados Unidos y la Unión Europea están discutiendo leyes más amplias en torno a la inteligencia artificial.

A principios de este año, la Unión Europea presentó un proyecto de ley denominado Inteligencia Artificial, que tiene como objetivo facilitar el “desarrollo de un mercado único para aplicaciones de IA legítimas, seguras y confiables” y promover la innovación en esta área.

La ley contiene «requisitos específicos destinados a minimizar el riesgo de discriminación algorítmica».

Pero hay una serie de diferencias con las reglas del algoritmo de China.

Fan del WEF dijo que la UE está adoptando un «enfoque basado en el riesgo», mientras que las reglas de China «no distinguen entre niveles de riesgo y se aplican a todo uso de tecnologías de recomendación de algoritmos». Esto puede cubrir una amplia gama de industrias, desde la entrega de comestibles hasta la educación.

Y las reglas de China «apuntan directamente a los algoritmos a nivel de usuario y producto», como la capacidad de los usuarios para desactivar el algoritmo como se establece en las reglas propuestas, agregó Fan.

Leer más sobre China de CNBC Pro

Una vez que la ley de algoritmos de China entre en vigencia, será vigilada de cerca en todo el mundo mientras las autoridades intentan descubrir cómo regular la tecnología en el futuro.

«Ese será un ejemplo mundial», dijo Schäfer. «Las empresas tecnológicas en el extranjero verán cómo las empresas tecnológicas chinas se benefician o no frente a estas limitaciones de los algoritmos. Si cambian sus modelos de negocio, si pueden tener éxito a pesar de la regulación de los procesos algorítmicos, hay muy pocas excusas para … . Gobiernos extranjeros «. no hacer lo mismo «.

«Si fracasan y no son tan rentables y los accionistas están decepcionados, eso también es malo», dijo. «Esto apoya el argumento de que la regulación algorítmica no se puede implementar sin efectos perjudiciales sobre la innovación».

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *