Prepárate para tu gemelo malvado


Esperamos presentar Transform 2022 en persona nuevamente el 19 de julio y virtualmente del 20 al 28 de julio. Únase a nosotros para conversaciones perspicaces y emocionantes oportunidades para establecer contactos. ¡Regístrese hoy!


A principios de este año, investigadores de la Universidad de Lancaster y UC Berkeley publicaron un sorprendente estudio académico. Usando una forma sofisticada de IA conocida como GAN (Generative Adversarial Network), crearon rostros humanos artificiales (es decir, falsificaciones fotorrealistas) y mostraron estas falsificaciones a cientos de sujetos humanos junto con una mezcla de rostros reales. Descubrieron que este tipo de tecnología de IA se ha vuelto tan efectiva que los humanos ya no podemos distinguir entre humanos reales y humanos virtuales (o «Veeple», como yo los llamo).

Y esa no fue su realización más aterradora.

Mira, también pidieron a sus sujetos de prueba que calificaran la «confiabilidad» de cada rostro y descubrieron que los consumidores encontraron que los rostros generados por IA eran significativamente más confiables que los rostros reales. Como describí en un artículo académico reciente, este resultado hace que sea muy probable que los anunciantes utilicen personas generadas por IA en lugar de actores y modelos humanos a escala. Porque trabajar con personas virtuales es cada vez más barato, más rápido y, si además son percibidos como más fiables, también más convincentes.

Esta es una dirección preocupante para los anuncios impresos y de video, pero es francamente escalofriante cuando observamos las nuevas formas de publicidad que el metaverso está a punto de desencadenar. A medida que los consumidores pasen más tiempo en mundos virtuales y aumentados, la publicidad digital pasará de imágenes y videos simples a humanos virtuales impulsados ​​por IA que nos involucrarán en conversaciones promocionales.

Armados con una extensa base de datos de información de identificación personal sobre nuestro comportamiento e intereses, estos «agentes conversacionales impulsados ​​​​por IA» serán defensores profundamente efectivos de cualquier mensaje que un tercero les pague para entregar. Y si esa tecnología no está regulada, estos agentes de IA incluso rastrean nuestras emociones en tiempo real, monitorean nuestras expresiones faciales e inflexiones de voz para que puedan ajustar su estrategia conversacional (es decir, su Tono de venta) para maximizar su capacidad de persuasión.

Si bien esto sugiere un metaverso un tanto distópico, estos avatares promocionales impulsados ​​por IA serían usos legítimos de humanos virtuales. Pero, ¿qué pasa con los usos fraudulentos?

Lo que me lleva al tema del robo de identidad.

En una publicación reciente del blog de Microsoft del vicepresidente ejecutivo Charlie Bell, explica que las estafas y los ataques de phishing en Metaverse «podrían provenir de una cara familiar, literalmente, como un avatar que se hace pasar por su colega». Estoy totalmente de acuerdo. De hecho, me preocupa que la capacidad de secuestrar o duplicar avatares pueda desestabilizar nuestro sentido de identidad, dejándonos constantemente inseguros de si las personas con las que estamos hablando son personas que conocemos o falsificaciones de calidad.

La reproducción precisa de la apariencia y el sonido de una persona en el metaverso a menudo se denomina creación de un «gemelo digital». A principios de este año, Jensen Haung, director ejecutivo de NVIDIA, pronunció un discurso de apertura en el que presentó un gemelo digital caricaturesco. Explicó que la fidelidad avanzará rápidamente en los próximos años, al igual que la capacidad de los motores de IA para controlar de forma autónoma tu avatar, permitiéndote estar en varios lugares a la vez. Sí, los gemelos digitales están llegando.

Debido a esto, debemos prepararnos para lo que yo llamo «gemelos malvados»: réplicas virtuales exactas de cómo usted (o las personas que conoce y en las que confía) se ve, suena y se comporta, utilizando propósitos fraudulentos en su contra. Esta forma de robo de identidad tendrá lugar en el metaverso, ya que es una fusión directa de las tecnologías actuales diseñadas para falsificaciones profundas, emulación de voz, gemelos digitales y avatares impulsados ​​por IA.

Y los estafadores pueden volverse bastante detallados. Según Bell, los malos actores podrían atraerlo a un banco virtual falso, completo con un cajero fraudulento que le pide su información. O los estafadores por espionaje industrial podrían invitarlo a una reunión falsa en una sala de conferencias que se parece a la sala de conferencias virtual que siempre usa. A partir de ahí, filtras información confidencial a terceros desconocidos sin darte cuenta.

Personalmente, sospecho que los estafadores no necesitan entrar en tantos detalles. Finalmente, encontrar una cara familiar que se vea, suene y actúe como una persona familiar es una herramienta poderosa en sí misma. Esto significa que las plataformas de metaverso necesitan tecnologías de autenticación igualmente poderosas que validen si estamos interactuando con una persona real (o su gemelo autorizado) y no un gemelo malvado engañosamente usado para engañarnos. Si las plataformas no abordan este problema a tiempo, el metaverso podría colapsar bajo una avalancha de engaño y robo de identidad.

Ya sea que esté emocionado por el Metaverso o no, las grandes plataformas se avecinan. Y debido a que las tecnologías de realidad virtual y realidad aumentada están diseñadas para engañar a los sentidos, estas plataformas borran hábilmente las líneas entre lo real y lo ficticio. Cuando los usan los malos actores, tales habilidades se vuelven rápidamente peligrosas. Es por eso que lo mejor para todos, consumidores y empresas por igual, es impulsar una seguridad estricta. La alternativa será un metaverso de engaño desenfrenado, un episodio del que quizás nunca se recupere.

Louis Rosenberg, PhD, es director ejecutivo de Unanimous AI y pionero en realidad virtual, realidad aumentada e inteligencia artificial.

tomador de decisiones de datos

¡Bienvenido a la comunidad VentureBeat!

DataDecisionMakers es el lugar donde los expertos, incluido el personal técnico, que trabajan con datos pueden compartir ideas e innovaciones relacionadas con los datos.

Si desea leer sobre ideas innovadoras e información actualizada, las mejores prácticas y el futuro de los datos y la tecnología de datos, visítenos en DataDecisionMakers.

¡Incluso podría considerar contribuir con un artículo propio!

Leer más de DataDecisionMakers

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *