Las empresas de inteligencia artificial han presentado una tecnología de patente en Huawei que podría identificar a los uigures, según un informe


Las cámaras de vigilancia están montadas en un poste en la Plaza de Tiananmen mientras la nieve cae el jueves 14 de febrero de 2019 en Beijing, China.

Qilai Shen | Bloomberg | imágenes falsas

GUANGZHOU, China – Un nuevo informe revela solicitudes de patentes de Huawei y un grupo de empresas de inteligencia artificial con sede en China para sistemas que pueden identificar a personas que forman parte de una minoría musulmana.

Los uigures étnicos, que viven principalmente en el oeste de China, han sido identificados como un grupo oprimido por las Naciones Unidas, los Estados Unidos, el Reino Unido y otros. Según los informes, las autoridades utilizan tecnología de vigilancia generalizada para controlar a la población uigur de la zona. El gobierno chino niega el maltrato a los uigures y dice que estos campamentos son centros de formación profesional.

IPVM, una empresa de investigación con sede en EE. UU. Que analiza la tecnología de videovigilancia, examinó patentes en China relacionadas con sistemas que podrían identificar rostros uigures. IPVM publicó conjuntamente su investigación con la BBC.

Una de las patentes que Huawei y la Academia de Ciencias de China, una agencia estatal de investigación, presentaron conjuntamente en 2018 dice que los algoritmos de la tecnología patentada pueden usarse para identificar las características de un peatón, por ejemplo. Un atributo que se puede reconocer es «raza». Los uigures se conocen como una «raza» que el sistema Huawei puede reconocer.

Esta patente se refiere a un «Método, Aparato, Aparato de Computación y Sistema de Reconocimiento de Atributos de Objetos» de acuerdo con una traducción del archivo por IPVM y verificado por CNBC.

Huawei le dijo a CNBC que estaba tomando «medidas proactivas» para modificar su solicitud de patente.

«Huawei está en contra de todas las formas de discriminación, incluido el uso de la tecnología para llevar a cabo la discriminación étnica. La identificación de la raza de las personas nunca fue parte del proyecto de investigación y desarrollo. Nunca debería haber sido parte de la aplicación, y estamos tomando medidas proactivas pasos para realizar cambios a realizar «. «, dijo un portavoz de la compañía a CNBC por correo electrónico.

«Trabajamos continuamente para garantizar que las tecnologías nuevas y en evolución se desarrollen y apliquen con el mayor cuidado e integridad».

La Academia de Ciencias de China no respondió a una solicitud de comentarios. La embajada de China en Washington dijo a CNBC en diciembre que los políticos estadounidenses estaban creando «desinformación» sobre los uigures para «frenar el desarrollo de China».

Un informe de las Naciones Unidas de 2018 describió la preocupación de que más de un millón de uigures y otras minorías estuvieran retenidas «en los llamados centros anti-extremismo» en la región de Xinjiang. Otros dos millones fueron forzados a «los llamados» campos de reeducación «para el adoctrinamiento político y cultural» en Xinjiang «, según el informe.

Muchos de estos campos se basan en lo que Amnistía Internacional describe como una ley «muy restrictiva y discriminatoria» que, según China, está diseñada para combatir el extremismo.

En junio del año pasado, Naciones Unidas reiteró su preocupación por la «opresión colectiva de la población», destacando en su informe a las minorías religiosas y étnicas en Xinjiang y el Tíbet.

Megvii cita el «malentendido» de la patente

Otra patente destacada por IPVM fue presentada en 2019 por el gigante chino de inteligencia artificial Megvii. Describe un sistema de reconocimiento de imágenes que se puede utilizar para identificar imágenes de personas en una base de datos.

Una de las clasificaciones que puede identificar es la etnia. El sistema de Megvii se puede utilizar para identificar y etiquetar imágenes de uigures, dice la patente.

Un portavoz de Megvii dijo que el lenguaje de su patente estaba «abierto a malentendidos».

«La solicitud de patente se relaciona con la recuperación de retratos y la tecnología de reetiquetado de imágenes que han sido mal etiquetadas en bases de datos existentes. Todas las imágenes y bases de datos subyacentes son proporcionadas y almacenadas por terceros», dijo un portavoz de Megvii a CNBC en WeChat.

La compañía dijo que su tecnología «no es una solución de reconocimiento facial y de ninguna manera tiene la intención de desarrollar soluciones de identificación étnica. Megvii no ha desarrollado, desarrollado ni vendido ninguna solución de identificación racial o étnica».

Sin embargo, la patente se refiere explícitamente a la clasificación de imágenes de personas «Han, Uyghur, Non-Han, Non-Uyghur» según una traducción del documento de CNBC. La gente Han es la mayoría étnica en China.

«Megvii reconoce que en el pasado nos hemos centrado en nuestro desarrollo comercial y no hemos tenido un control adecuado sobre nuestro marketing, ventas y materiales operativos. Estamos tomando medidas para corregir la situación», dijo la empresa.

No es la primera vez que Huawei y Megvii se vinculan a una tecnología que supuestamente puede identificar a los uigures. El mes pasado, IPVM afirmó que las dos empresas habían probado un sistema de reconocimiento facial que podía reconocer a los uigures y enviar alertas a las autoridades.

Huawei dijo en ese momento que la tecnología «era solo una prueba y no ha visto una aplicación real». Megvii dijo en ese momento que sus «soluciones no están diseñadas o adaptadas para apuntar o identificar grupos étnicos».

En 2019, el Departamento de Comercio de EE. UU. Incluyó a Megvii en una lista negra de EE. UU. Conocida como Lista de entidades. Las empresas estadounidenses no pueden exportar a empresas que están en la lista.

El gobierno de Estados Unidos en ese momento alegó que la compañía y otras compañías agregadas a la lista estaban «implicadas en abusos de derechos humanos y abusos en la implementación de la campaña china para la represión, detención masiva arbitraria y vigilancia de alta tecnología de uigures, kazajos y otras minorías musulmanas «en la región china de Xinjiang.

Referencia uigur llamada «lamentable»

SenseTime, otra empresa de inteligencia artificial en China, solicitó una patente en 2019 para un sistema de búsqueda de bases de datos de imágenes, que se describió como un método para recuperar imágenes en una base de datos utilizando ciertos atributos.

La patente describe cómo un usuario podría utilizar la palabra «uigur» como atributo de búsqueda.

SenseTime calificó esta referencia a los uigures de «lamentable» y envió un correo electrónico a CNBC para informarle que había desarrollado un código de ética para la inteligencia artificial desde que presentó la solicitud de patente.

«Esta investigación de inteligencia artificial en particular … implica el reconocimiento facial de todas las etnias sin prejuicios. La referencia a los uigures es lamentable y uno de los ejemplos en la aplicación pretende ilustrar los atributos reconocidos por el algoritmo», dijo un portavoz a CNBC.

«No fue diseñado ni destinado a discriminar lo que viola nuestros valores. Actualizaremos la patente en la próxima oportunidad disponible. Mientras tanto, la aplicación también es anterior al Código de Ética de AI, que desarrollamos más adelante en 2019». «Dijo la empresa.

Se utiliza «Raza, etnia»

Además de las solicitudes de patentes de las empresas de inteligencia artificial, IPVM también reveló patentes de Alibaba y Baidu relacionadas con la etnia.

Una patente registrada por primera vez en 2016 por el gigante chino del comercio electrónico Alibaba relacionada con un «proceso de generación de conjuntos de imágenes, dispositivo y módulo de reconocimiento de imágenes» que incluye «raza, origen étnico» como posibles «aplicaciones», confirmó CNBC.

Los uigures no fueron mencionados en el archivo.

«La discriminación racial o étnica o la elaboración de perfiles en cualquier forma va en contra de nuestras políticas y valores. Nunca pretendimos, y no permitiremos, que nuestra tecnología se dirija a ningún grupo étnico en particular», dijo un portavoz de Alibaba a CNBC, ignorando la referencia a «raza,» etnia «, que la empresa utiliza en la patente.

El gigante chino de búsquedas Baidu solicitó una patente para un sistema de reconocimiento de imágenes en 2018. La etnia es uno de los atributos que puede reconocer el sistema propuesto.

La empresa no destacó a los uigures ni a otros grupos étnicos específicos en su patente. Un portavoz de Baidu le dijo a CNBC que la referencia étnica de la patente era un intento de proporcionar una explicación técnica de su tecnología, y la compañía hizo una distinción entre los sistemas propuestos y existentes.

«Baidu nunca ha desarrollado ni aprobado su tecnología para perfilar un grupo étnico. Nuestra oferta actual de reconocimiento facial es incapaz de reconocer la etnia como un atributo», dijo Baidu en un comunicado a través de WeChat.

«Al presentar una solicitud de patente, las notas del documento están destinadas a ser un ejemplo de una explicación técnica. En este caso, describe cuál es el modelo de reconocimiento de atributos, en lugar de describir la implementación esperada de la invención», dijo Baidu.

«No permitimos ni permitiremos que nuestra tecnología se utilice para identificar o apuntar a grupos étnicos específicos», dijo la compañía.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *