El director de IA del Pentágono habla sobre robots asesinos, reconocimiento facial y China


El director interino del Centro Conjunto de AI (JAIC), Nand Mulchandani, dijo que uno de sus primeros proyectos mortales de IA se encuentra actualmente en una fase de prueba. El Centro Conjunto de IA se fundó en 2018 para actuar como líder del Pentágono en todas las áreas de IA, y se centró inicialmente en formas no letales de IA. Mulchandani compartió algunas peculiaridades, pero llamó al proyecto "Tactical Edge AI", que incluirá un control humano completo, y lo comparó con el "producto estrella" de JAIC para operaciones conjuntas de guerra.

“Es cierto que muchos de los productos en los que estamos trabajando irán a los sistemas de armas. Ninguno de ellos será actualmente un sistema de armas autónomo, todavía seremos gobernados por 3000.09 ", dijo. "La palabra letalidad, y creo que ahí es donde intervienen el robot asesino y el terminador". El caso marginal en el que todos se centran es un caso marginal externo, y no estamos cerca de plataformas, tecnología, capacidades, hardware. Software, perspectiva de algoritmos para acercarse o cerrarse, pero eso es obvio donde todos saltan. “

La directriz del Departamento de Defensa 3000.09 prescribe cómo las ramas militares de los militares pueden automatizar los sistemas de armas.

El Departamento de Defensa responsabilizó a JAIC de las iniciativas de IA del Pentágono el año pasado. Mulchandani se convirtió en director interino de JAIC en mayo después de que el teniente general Jack Shanahan de la Fuerza Aérea se retirara. En una entrevista en mayo, Mulchandani le dijo a VentureBeat que había trabajado para las nuevas empresas de Silicon Valley antes de llegar al Pentágono hace un año.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Mulchandani y JAIC discutieron hoy una amplia gama de temas, incluida una "guerra global por el talento de la IA" en un contexto de una política de inmigración cada vez más restrictiva de Estados Unidos, en una conferencia de prensa hoy, alegando que Estados Unidos sigue siendo un líder en muchas áreas La IA se compara con China. Mulchandani dijo que el liderazgo chino en áreas como el reconocimiento facial es el resultado de los estándares de derechos humanos en el ejército de los EE. UU. Dijo que JAIC no está probando actualmente ninguna forma de reconocimiento facial.

“No es el caso de que el ejército de los Estados Unidos sea tecnológicamente incapaz de desarrollar tales sistemas. Nuestras leyes constitucionales y de protección de datos protegen los derechos de los ciudadanos estadounidenses y sus datos se recopilan y utilizan de esta manera. Así que simplemente no invertimos en la construcción de sistemas de vigilancia y censura tan universales ”, dijo.

Information Warfare es la última de las seis iniciativas de misión JAIC. El uso de técnicas de IA como el procesamiento del lenguaje natural (PNL) para agregar y procesar información, incluida cierta información proporcionada por empresas privadas, desempeñará un papel en el apoyo a los esfuerzos de guerra de información, dijo. La PNL también estará en el corazón de los Sistemas Conjuntos de Comando y Control de Todos los Dominios, una iniciativa para apoyar la comunicación de clasificación del comandante.

En general, Mulchandani habló sobre el "enorme potencial para el uso de la IA en habilidades ofensivas" en áreas como la seguridad cibernética. Mulchandani se negó a ofrecer ciertos ejemplos, pero en general se refirió a ejemplos como el descubrimiento de vulnerabilidades y vulnerabilidades de red. El teniente general Shanahan también había discutido cuestiones de guerra algorítmica.

"Puedes leer las noticias sobre lo que están haciendo nuestros oponentes, y puedes imaginar que hay mucho espacio para crecer en esta área", dijo. Meses en detalle, incluido un contrato de $ 800 millones con Booz Allen Hamilton y Project Salus, un conjunto de algoritmos que JAIC ha desarrollado para NORTHCOM y las unidades de la Guardia Nacional para predecir los desafíos de recursos de la cadena de suministro durante el COVID-19 -Pandemia para cosas como agua o habitaciones de hotel disponibles. JAIC también será responsable de entrenar a las ramas militares en la ética de la IA y de poner en práctica los principios de ética de la IA adoptados en febrero.

JAIC es quizás mejor conocido en el arte como el creador del proyecto Maven, que ha llevado a protestas y acciones colectivas por parte de miles de empleados de Google, lo que finalmente llevó a Google a comprometerse con sus propios principios de ética de IA, ninguno para crear armas autónomas.

Google y otros gigantes de la tecnología continúan pujando por contratos federales. Un análisis de investigación tecnológica publicado el martes mostró fuertes vínculos entre gigantes tecnológicos como Amazon, Google y Microsoft, que tienen miles de contratos lucrativos con el Pentágono y las agencias federales de aplicación de la ley.

En otras noticias relacionadas con la defensa, los comités de la Cámara de Representantes y el Senado aprobaron recientemente enmiendas a la Ley de Autorización de Defensa Nacional (NDAA) de 2021 para incluir algunas pautas del Consejo de Seguridad Nacional para AI y proporcionar fondos para establecer una estrategia nacional de AI.

Nand se unirá a un panel que discutirá la informática de punta y las tendencias de visión por computadora la próxima semana en la conferencia digital Transform de VentureBeat.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *