Junta directiva de OpenAI: de la seguridad de la IA al motín | El ritmo de la IA

Vacaciones, shmacation — Puede que esté cruzando el charco en este momento en PTO, pero ¿cómo podría no abordar el motín en Bounty (exclusivo para mí, Junta) que está sucediendo ahora mismo en OpenAI? ¿Escuchaste las últimas noticias: que más de 500 empleados de OpenAI firmaron una carta diciendo que podían renunciar y unirse a Sam Altman en Microsoft (que fue la última noticia antes de esta última noticia, que se produjo después de las últimas noticias, comentarios anteriores sobre todos esos emojis de corazones)? ¿A menos que la junta sin fines de lucro de OpenAI renuncie y vuelva a nombrar a Altman?

Permítanme volver a hace una semana. El lunes pasado publiqué un artículo sobre cómo los seis miembros de la junta directiva de OpenAI tenían el poder de decidir «cuándo alcanzaremos AGI». Escribí sobre la estructura sin fines de lucro de OpenAI, que varios abogados con los que hablé llamaron «inusual», que ejercía poder sobre el lado con fines de lucro de la empresa, y sobre muchos miembros de la junta directiva con vínculos con el movimiento altruista efectivo.

Resumen de mis informes en el contexto del derrocamiento de Sam Altman

El viernes fue un día lleno de acontecimientos en el que la junta directiva de OpenAI despidió a su director ejecutivo, Sam Altman, lo reemplazó de forma interina con la directora de tecnología Mira Murati, y el presidente Greg Brockman fue destituido de su cargo de presidente de la junta, y luego renunció después de la decisión de Altman. despido. Recapitulé la loca coincidencia de mi historia de la semana anterior con una publicación en mi Substack titulada «Pasé el fin de semana pasado escribiendo sobre la junta sin fines de lucro de OpenAI: ahora en el corazón del derrocamiento de Sam Altman».

En este artículo, señalé que en el contexto de mi artículo original, para mí tenía sentido que la junta directiva sin fines de lucro de OpenAI, cuya misión era centrarse en cuestiones de seguridad de la IA, no en el marketing de productos, estuviera en el centro. del derrocamiento de Altman y Brockman. retiro del consejo de administración. The Information informó que cuando el miembro de la junta, Ilya Sutskever, científico jefe de OpenAI, dijo que «era la junta cumpliendo con su deber para con la misión de la organización sin fines de lucro, que es garantizar que OpenAI construya una AGI que beneficie a toda la humanidad».

Las sillas musicales del CEO de OpenAI provocan un motín de los empleados

Por supuesto, fue entonces cuando se desató el infierno. Después de que la junta directiva de OpenAI recibiera una reacción masiva de inversores, incluido Microsoft, de repente comenzaron las discusiones para… lo has adivinado, traerlo de vuelta. Allí estaba la foto de Altman con una tarjeta de visitante en la sede de la empresa el domingo. Cientos de empleados de OpenAI publicaron emojis de corazones indicando que estaban de su lado.

Luego, más drama: horas más tarde, el director ejecutivo de Microsoft, Satya Nadella, anunció que Altman y Brockman se unirían a la compañía para liderar una nueva unidad de investigación de inteligencia artificial avanzada y parecía listo para dar la bienvenida a todos los empleados de ‘OpenAI listos para abandonar el barco. Pero eso no es todo: en otro movimiento vertiginoso, la misma junta directiva de OpenAI que echó a Altman a la acera de repente destituyó a Murati y nombró director ejecutivo interino a Emmett Shear, ex director ejecutivo de transmisión de videojuegos Twitch del sitio.

Esta parece ser la gota que colmó el vaso: Steven Levy de Wired informó hoy que «algunos miembros del personal de OpenAI se quedaron despiertos toda la noche debatiendo un curso de acción tras el anuncio de que Altman no regresaría a OpenAI. Muchos empleados estaban frustrados por la falta de comunicación sobre el despido de Altman. Docenas de empleados parecieron señalar su voluntad de abandonar el barco y unirse a Altman anoche al publicar «OpenAI no es nada sin su gente». en. En su carta, el equipo de OpenAI amenaza con unirse a Altman en Microsoft. «Microsoft nos aseguró que habría puestos para todos los empleados de OpenAI en esta nueva filial si decidiéramos unirnos», escriben.

La desalineación de la seguridad de la IA conduce a un motín humano

Il semble pour le moins ironique que les actions sans précédent du conseil d’administration à but non lucratif d’OpenAI – qui a pris sa mission de sécurité de l’IA si au sérieux qu’il a même limogé le PDG – saperaient en réalité ses efforts en créant une incertitude à l’échelle de l’industrie et en brisant la confiance avec son employés, ce qui a conduit ces employés à mener leur propre mutinerie et à laisser OpenAI plus faible et probablement moins sûr – du moins à court terme – en consecuencia. Ciertamente, la misión de la junta de crear inteligencia artificial que beneficie a toda la humanidad se ha ralentizado significativamente.

El científico jefe Ilya Sutskever ciertamente parece arrepentirse de sus acciones, con una publicación en esta mañana diciendo: “Lamento profundamente mi participación en las acciones de la junta directiva. Nunca fue mi intención dañar a OpenAI. Me encanta todo lo que hemos construido juntos y haré todo lo que pueda para unir a la empresa.

En última instancia, OpenAI demostró que, por ahora, son los humanos los que cometen errores y se vuelven rebeldes. La IA parece buena, pero los humanos tenemos mucho trabajo por hacer. La gobernanza de la junta directiva puede parecer aburrida en comparación con la creación de AGI, pero en retrospectiva parece que OpenAI –y su misión declarada de crear una AGI segura– habría estado en mejor posición para centrarse en crear una mejor junta directiva. En cambio, parece que hay un motín en nuestras manos.