OpenAI tiene creado un nuevo Comité de Seguridad y Protección menos de dos semanas después de que la empresa Disolvió el equipo encargado de proteger a la humanidad. de las amenazas existenciales de la IA. Esta última versión del grupo responsable de las barreras de seguridad de OpenAI incluirá a dos miembros de la junta directiva y al director ejecutivo Sam Altman, lo que plantea dudas sobre si la medida es poco más que un teatro de autocontrol en medio de una carrera vertiginosa por ganancias y dominio junto a socio Microsoft.

El Comité de Seguridad, formado por la junta directiva de OpenAI, estará dirigido por los miembros de la junta Bret Taylor (presidente), Nicole Seligman, Adam D’Angelo y Sam Altman (CEO). El nuevo equipo sigue Las dimisiones de alto perfil del cofundador Ilya Sutskever y Jan Leike, lo que despertó más de una sorpresa. Su antiguo “Equipo de Superalineación” era recién creado el pasado mes de julio.

Tras su dimisión, Leike escribió en un hilo de X (Twitter) del 17 de mayo que, aunque creía en la misión principal de la empresa, se fue porque las dos partes (producto y seguridad) «llegaron a un punto de ruptura». Leike añadió que estaba «preocupado porque no estamos en una trayectoria» para abordar adecuadamente los problemas relacionados con la seguridad a medida que la IA se vuelve más inteligente. Publicó que el equipo de Superalignment había estado recientemente «navegando contra el viento» dentro de la empresa y que «la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes».

Una opinión cínica sería que una empresa centrada principalmente en “productos brillantes” –mientras trata de defenderse del golpe de relaciones públicas de las salidas de seguridad de alto perfil– podría crear un nuevo equipo de seguridad liderado por las mismas personas que se apresuran hacia esos productos brillantes.

Las salidas por razones de seguridad a principios de este mes no fueron las únicas noticias preocupantes de la compañía recientemente. También lanzó (y tirado rápidamente) un nuevo modelo de voz que sonaba notablemente como la dos veces nominada al Oscar Scarlett Johansson. El Conejo Jojo Luego, el actor reveló que OpenAI Sam Altman había solicitado su consentimiento para usar su voz para entrenar un modelo de IA, pero ella se había negado.

En una declaración a …, el equipo de Johansson dijo que estaba sorprendido de que OpenAI eligiera un locutor que «sonaba tan inquietantemente similar» a ella después de solicitar su autorización. El comunicado agrega que «los amigos más cercanos y los medios de comunicación de Johansson no pudieron notar la diferencia».

OpenAI también retrocedieron en los acuerdos de no menosprecio había exigido a los ejecutivos salientes, cambiando su tono para decir que no las haría cumplir. Antes de eso, la empresa obligaba a los empleados salientes a elegir entre poder hablar en contra de la empresa y conservar el capital adquirido que ganaban.

El Comité de Seguridad planea “evaluar y desarrollar aún más” los procesos y salvaguardas de la empresa durante los próximos 90 días. Después de eso, el grupo compartirá sus recomendaciones con toda la junta. Después de que todo el equipo de liderazgo revise sus conclusiones, «compartirá públicamente una actualización sobre las recomendaciones adoptadas de una manera que sea consistente con la seguridad».

En su publicación de blog anunciando el nuevo Comité de Seguridad y Protección, OpenAI confirmó que la compañía está actualmente entrenando su próximo modelo, que tendrá éxito. GPT-4. «Si bien estamos orgullosos de construir y lanzar modelos que son líderes en la industria tanto en capacidades como en seguridad, damos la bienvenida a un debate sólido en este momento importante», escribió la compañía.