Huawei de China prueba el software de inteligencia artificial que podría identificar a los uigures: informe


El logo de la empresa china Huawei en sus oficinas centrales en Reino Unido el 28 de enero de 2020.

Daniel Leal-Olivas | AFP a través de Getty Images

GUANGZHOU, China – Huawei se asoció con una de las empresas de inteligencia artificial (IA) más grandes de China, Megvii, para probar un sistema de reconocimiento facial que puede identificar a miembros de un grupo minoritario musulmán y enviar alertas a las autoridades, según un nuevo informe.

La minoría étnica uigur es un grupo musulmán oprimido que es frecuentemente atacado por el gobierno chino y vive principalmente en la región occidental de Xinjiang.

Un documento oficial de 2018 de las dos empresas chinas mostró que Huawei había probado el software de Megvii en su infraestructura de nube de video. El documento fue descubierto por IPVM, una empresa de investigación con sede en EE. UU. Centrada en el análisis de videovigilancia. IPVM compartió su descubrimiento con el Washington Post, que se convirtió en la primera organización de medios en informar su contenido el martes.

La prueba se realizó para ver si el hardware de Huawei era compatible con el software de reconocimiento facial de Megvii, según el informe de IPVM. Huawei proporcionó hardware como cámaras, servidores e infraestructura de computación en la nube, mientras que Megvii proporcionó el software.

Como parte del estudio, se probó una función llamada «Alarma uigur». Otra característica del software, según el informe de IPVM, fue la capacidad de determinar la «etnia» como parte de su «análisis de atributos faciales»..

«Alerta uigur»

Una función como la «advertencia uigur» podría utilizarse, según el IPVM, para denunciar a un miembro de la minoría a las autoridades.

«Los sistemas como Megvii están integrados en el sistema de Huawei, por lo que Megvii genera información y alarmas (como Uyghurs) y luego las envía al sistema de Huawei para que los monitores (por ejemplo, la policía) las revisen y actúen John Honovich, presidente de IPVM, dijo a CNBC por correo electrónico mientras explicaba la funcionalidad potencial de la función de alerta Uyghur.

La colaboración de Huawei y Megvii en las alarmas Uigur también demuestra que muchas grandes empresas chinas de videovigilancia / reconocimiento facial están profundamente involucradas en la supresión de Uigur.

John Honovich

Presidente, IPVM

Es otra herramienta en el arsenal de las autoridades chinas que utilizaron la tecnología para reprimir a la minoría musulmana. El New York Times informó el año pasado que el reconocimiento facial se utilizó para rastrear a los uigures y vigilar sus movimientos.

IPVM encontró el documento marcado como «confidencial» por Huawei y Megvii a través de una búsqueda en Google. Se cargó en el sitio web de Huawei, pero desde entonces se eliminó.

«La colaboración de Huawei y Megvii en las alarmas uigures también demuestra que muchas grandes empresas chinas de videovigilancia / reconocimiento facial están profundamente involucradas en la represión uigur. Cualquiera que haga negocios con estas empresas debe ser consciente de esto», concluyó el autor de Honovich. Informe de IPVM.

Huawei, respuesta Megvii

Ni Huawei ni Megvii impugnaron la precisión del documento descubierto por IPVM.

Un portavoz de Huawei señaló a CNBC que la compañía hizo un comentario a IPVM de que el sistema no se había utilizado en un escenario del mundo real.

«Este informe es solo una prueba y no se ha utilizado en la práctica», dijo el comunicado. «Huawei solo ofrece productos de uso general para este tipo de prueba. No ofrecemos algoritmos o aplicaciones personalizados».

«Huawei opera de acuerdo con las leyes y regulaciones de todos los países y regiones en los que operamos», continúa, «y solo ofrece productos y soluciones de TIC (tecnología de la información y la comunicación) que cumplen con los estándares reconocidos de la industria».

Huawei se negó a responder más preguntas sobre el informe.

Megvii dijo a CNBC que «las soluciones no fueron diseñadas ni hechas a la medida de los grupos étnicos».

«Nuestro negocio se centra en el bienestar y la seguridad de las personas en lugar de monitorear datos demográficos específicos», dijo un portavoz de Megvii.

Acusaciones del gobierno de EE. UU.

Honovich de IPVM señaló por correo electrónico que el origen étnico dificulta el reconocimiento facial desde un punto de vista técnico.

«Seguimos siendo escépticos sobre la precisión del reconocimiento étnico, ya sean uigures o no, incluso en condiciones perfectas, que las condiciones del mundo real para las cámaras de vigilancia (ángulos deficientes, mala iluminación, largas distancias, etc.) lo empeoran», dijo.

No es la primera vez que las empresas de tecnología de China se ven implicadas en la vigilancia uigur. El año pasado, EE.UU. incluyó a 28 organizaciones en la denominada Lista de entidades. Las empresas estadounidenses no pueden hacer negocios con empresas de esta lista negra, que incluyen algunos de los campeones chinos de la inteligencia artificial como Megvii, SenseTime, Hikvision e Iflytek.

Washington alegó que «estas unidades estaban implicadas en abusos de derechos humanos y abusos en la implementación de la campaña china de represión, detención masiva arbitraria y vigilancia de alta tecnología contra uigures, kazajos y otros miembros de grupos minoritarios musulmanes» en la región china de Xinjiang.

Utiliza tecnología estadounidense, dice informe

Según IPVM, el documento reveló que el gigante estadounidense de semiconductores Nvidia impulsó el sistema de vigilancia conjunto Megvii y Huawei con su chip GPU Tesla P4.

El informe encontró que no estaba claro si Nvidia sabía para qué se usaban sus chips. Nvidia no respondió a una solicitud de comentarios cuando fue contactada por CNBC.

El mes pasado, el New York Times informó que los chips de Intel y Nvidia se utilizaron para alimentar computadoras que podían procesar y ver imágenes de vigilancia y eran parte de la vigilancia china de los uigures en Xinjiang.

El martes, el senador estadounidense Marco Rubio y el representante estadounidense Jim McGove enviaron cartas a los directores ejecutivos de Intel y Nvidia en respuesta a la historia del NYT. Los legisladores preguntaron a las empresas si sabían cómo se estaba utilizando su tecnología y si habían tomado alguna medida para garantizar que sus chips «no se utilizaran para cometer abusos contra los derechos humanos o para poner en peligro la seguridad nacional de Estados Unidos».

Nvidia e Intel no estuvieron disponibles de inmediato para comentarios cuando se les preguntó sobre estas cartas.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *