Aquí es donde la IA avanzará en 2021


La inteligencia artificial sigue avanzando rápidamente. Incluso en 2020, un año en el que no faltaron noticias convincentes, los avances en IA llamaron la atención general en múltiples ocasiones. En particular, el GPT-3 de OpenAI reveló formas nuevas y sorprendentes en las que la IA pronto puede penetrar en la vida diaria. Tales avances rápidos hacen que predecir el futuro de la IA sea algo difícil, pero algunas áreas parecen estar listas para avances. Aquí hay algunas áreas de la IA sobre las que nos sentimos particularmente optimistas en 2021.

Transformador

Dos de los mayores logros de IA de 2020 compartieron tácitamente la misma estructura de IA subyacente. Tanto OpenAIs GPT-3 como DeepMinds AlphaFold se basan en un modelo de procesamiento de secuencia llamado Transformer. Aunque las estructuras Transformer existen desde 2017, GPT-3 y Alphafold han demostrado la notable capacidad del Transformer para aprender más profundo y más rápido que la generación anterior a partir de modelos de secuencia, y para desempeñarse bien en problemas fuera del procesamiento del lenguaje natural.

A diferencia de las estructuras de modelado de secuencias anteriores, como las redes neuronales repetitivas y los LSTM, los transformadores se desvían del paradigma de la computación secuencial. Procesan toda la secuencia de entrada a la vez utilizando un mecanismo llamado Atención para saber qué partes de la entrada son relevantes en relación con otras partes. Esto permite a los transformadores relacionar fácilmente porciones distantes de la secuencia de entrada, una tarea con la que se sabe que luchan los modelos recurrentes. Además, partes importantes de la formación se pueden llevar a cabo en paralelo, lo que significa que se aprovecha mejor el hardware masivamente paralelo disponible en los últimos años y se reduce significativamente el tiempo de formación. Sin duda, los investigadores buscarán nuevos lugares para aplicar esta estructura prometedora en 2021 y hay buenas razones para esperar resultados positivos. De hecho, OpenAI cambió GPT-3 ya en 2021 para generar imágenes a partir de descripciones de texto. El Transformer parece listo para dominar en 2021.

Graficar redes neuronales

Muchos dominios tienen datos que, por supuesto, son adecuados para estructuras gráficas: redes informáticas, redes sociales, moléculas / proteínas y rutas de transporte son solo algunos ejemplos. Graph Neural Networks (GNN) permite aplicar el aprendizaje profundo a datos estructurados gráficamente, y esperábamos que los GNN se convirtieran en un método de IA cada vez más importante en el futuro. En particular, esperamos que los avances metodológicos en algunas áreas clave conduzcan a una aceptación más amplia de GNN en 2021.

Los gráficos dinámicos son la primera área importante. Si bien la mayoría de las investigaciones de GNN hasta la fecha han asumido un diagrama estático e inmutable, los escenarios anteriores necesariamente implican cambios a lo largo del tiempo: por ejemplo, en las redes sociales, los miembros se unen (nuevos nodos) y las amistades cambian (diferentes bordes). En 2020 hicimos algunos esfuerzos para modelar gráficos de evolución temporal como una serie de instantáneas, pero 2021 expandirá esta dirección de investigación emergente con énfasis en enfoques que modelan un gráfico dinámico como una serie de tiempo continua. Dicho modelado continuo debería permitir a los GNN descubrir y aprender de la estructura temporal en gráficos además de la estructura topológica habitual.

Las mejoras en el paradigma de la mensajería permitirán nuevos avances. Una forma común de implementar redes neuronales de grafos es retransmitir mensajes, un medio de agregar información sobre los nodos «retransmitiendo» información a lo largo de los bordes que conectan a los vecinos. Aunque es intuitivo, la mensajería tiene dificultades para capturar efectos que requieren que la información se transmita a largas distancias en un gráfico. El próximo año esperamos que los avances vayan más allá de este paradigma, por ejemplo, mediante el aprendizaje iterativo sobre qué rutas de difusión de información son más relevantes, o incluso aprendiendo un tipo completamente nuevo de diagrama causal en un conjunto de datos relacionales.

Aplicaciones

Los avances en la aplicación práctica de la IA se han destacado en muchas de las principales historias del año pasado, y 2021 parece estar listo para capitalizar esos avances. Es probable que las aplicaciones que dependen de la comprensión del lenguaje natural, en particular, vean avances a medida que el acceso a la API de GPT-3 esté más disponible. La API permite a los usuarios acceder a las capacidades de GPT-3 sin tener que entrenar su propia IA, un esfuerzo costoso. Con la compra de la licencia GPT-3 por parte de Microsoft, la tecnología también puede aparecer en los productos de Microsoft.

También es probable que otras áreas de aplicación se beneficien significativamente de la tecnología de IA en 2021. La inteligencia artificial y el aprendizaje automático (ML) se han infiltrado en la ciberseguridad, pero 2021 muestra el potencial de tomar la trayectoria un poco más empinada. Como muestra la violación de SolarWinds, las empresas se enfrentan a las amenazas planteadas por los ciberdelincuentes y los actores estatales, así como a las configuraciones de malware y ransomware en constante evolución. En 2021, esperamos un impulso agresivo de IA de análisis de comportamiento avanzado para expandir los sistemas de defensa de la red. La inteligencia artificial y el análisis del comportamiento son fundamentales para identificar nuevas amenazas, incluidas variantes de amenazas anteriores.

También esperamos un aumento en la cantidad de aplicaciones que de forma predeterminada tienen modelos de aprendizaje automático que se ejecutan en dispositivos periféricos en 2021. Se espera que los dispositivos como Google Coral, que tiene una Unidad de Procesamiento Tensorial (TPU) incorporada, continúen expandiéndose con los avances en la potencia de procesamiento y las tecnologías de cuantificación. Edge AI elimina la necesidad de enviar datos a la nube para inferencias, ahorra ancho de banda y reduce el tiempo de ejecución. Ambos son cruciales en áreas como la salud. La computación en el borde también puede abrir nuevas aplicaciones en otras áreas que requieren protección de datos, seguridad y baja latencia, así como en regiones del mundo que no tienen acceso a Internet de alta velocidad.

El resultado final

La tecnología de IA continúa avanzando en áreas prácticas, y los avances en estructuras de transformadores y GNN deberían impulsar avances en áreas que no se adaptan fácilmente a las técnicas y algoritmos de IA existentes. Hemos destacado algunas áreas aquí que parecen listas para progresar este año, pero sin duda habrá sorpresas a medida que avanza el año. Las predicciones son difíciles, especialmente para el futuro, como dice el refrán, pero bien o mal, 2021 parece un año emocionante para el campo de la IA.

Ben Wiener es científico de datos en Vectra AI y tiene un doctorado en física, así como una variedad de habilidades en temas relacionados como modelado informático, optimización, aprendizaje automático y robótica.

Daniel Hannah es un científico de datos e investigador con más de 8 años de experiencia en convertir datos desordenados en información útil. En Vectra AI, trabaja en la interfaz entre la inteligencia artificial y la seguridad de la red. Anteriormente, como miembro de Insight Data Science, utilizó enfoques de aprendizaje automático para detectar anomalías.

Allan Ogwang es un científico de datos en Vectra AI con una sólida formación matemática y experiencia en econometría, modelado estadístico y aprendizaje automático.

Christopher Thissen es un científico de datos en Vectra AI, donde usa el aprendizaje automático para identificar el comportamiento cibernético malicioso. Antes de unirse a Vectra, Chris dirigió varios proyectos de investigación de aprendizaje automático financiados por DARPA en Boston Fusion Corporation.

VentureBeat siempre está buscando publicaciones de invitados interesantes sobre tecnología y estrategia de datos.

VentureBeat

La misión de VentureBeat es ser una plaza de la ciudad digital para que los responsables de la toma de decisiones tecnológicas obtengan conocimientos sobre la tecnología y las transacciones transformadoras. Nuestro sitio web proporciona información importante sobre tecnologías y estrategias de datos para ayudarlo a administrar su negocio. Te invitamos a convertirte en miembro de nuestra comunidad y acceder a:

  • información actual sobre los temas de su interés
  • nuestros boletines
  • contenido privado de líderes de opinión y acceso con descuento a nuestros valiosos eventos como Transform
  • Funciones de red y más

conviértete en miembro

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *