La Junta de Supervisión, el organismo político creado por Meta para sopesar sus decisiones de moderación más impactantes, ha visto cuestionarse su papel dentro del imperio de Mark Zuckerberg debido a los cambios en las prioridades de las políticas de contenido y la disminución de la inversión. La Junta de Supervisión ha tomado medidas para formalizar su contemplado durante mucho tiempo deseo trabajar con otras empresas, pero … ha aprendido que Meta hasta ahora se ha negado a seguir adelante con ese proceso.
Durante el último año, los miembros de la junta se han interesado cada vez más en las políticas de inteligencia artificial y en cómo su experiencia en la configuración de las reglas de contenido de Meta podría traducirse en asesoramiento a empresas en el espacio de la IA generativa. Ese interés se ha intensificado a medida que algunas empresas de inteligencia artificial han señalado en privado que estarían abiertas a trabajar con la junta, según una fuente familiarizada con la organización a la que no se le permitió hablar públicamente. La junta comenzó conversaciones con Meta el otoño pasado sobre la posibilidad, que requeriría que la compañía aprobara cambios en los documentos legales que rigen las operaciones de la junta. Pero los funcionarios de Meta no han indicado si la compañía está dispuesta a realizar esos cambios, que probablemente requerirían la aprobación de los altos ejecutivos.
plataformas, cual primero reportado sobre las negociaciones presupuestarias de Meta con la Junta de Supervisión, señaló que la compañía «ha alentado durante mucho tiempo a la junta a buscar fuentes de financiamiento adicionales». Hasta ahora, ninguna otra empresa ha mostrado públicamente interés en trabajar con el grupo, aunque la junta ha mantenido conversaciones con otras empresas entre bastidores.
El copresidente de la Junta de Supervisión, Paolo Carozza, dijo a … en diciembre que hubo discusiones «realmente preliminares» entre la junta directiva y las compañías de IA, aunque se negó a nombrar cuáles en particular. «Ahora parece un momento bastante diferente, en gran parte debido a la IA generativa, los LLM y los chatbots. [and] «La forma en que una variedad de usuarios minoristas de estas tecnologías se enfrentan a un conjunto completamente nuevo de desafíos y daños está atrayendo mucho escrutinio», dijo en ese momento.
Meta ha accedido fácilmente a modificar los documentos que rigen la junta en el pasado, como cuando el fideicomiso que controla el presupuesto de la Junta de Supervisión financió una nueva organización mediar en disputas sobre moderación de contenidos en Europa. Si bien los ejecutivos de Meta alguna vez promovieron la idea de que su Junta de Supervisión aparentemente independiente trabajara con otras plataformas de redes sociales, la perspectiva de que el grupo trabaje con un competidor en su búsqueda Superinteligencia de IA es aparentemente más complicado.
Durante los últimos cinco años, los miembros de la junta directiva han recibido información de funcionarios de Meta sobre el funcionamiento interno de sus sistemas de moderación y otros detalles no públicos como parte de su trabajo con la empresa. Eso plantea preguntas prácticas sobre cómo la junta salvaguardaría la información patentada de Meta, así como preguntas estratégicas más amplias sobre si Meta querría que su Junta de Supervisión trabajara con algunas de las compañías con las que ahora compite ferozmente, dijo la fuente. No está claro qué tan comprometido está el liderazgo actual de Meta en garantizar un futuro para la junta. El ex presidente de asuntos globales Nick Clegg, quien fue uno de los defensores más vocales del trabajo de la junta, izquierda la empresa el año pasado.
Mientras tanto, otros miembros de la junta han argumentado públicamente que el grupo, formado por expertos en libertad de expresión y derechos humanos de todo el mundo, está bien posicionado para guiar a las empresas de IA que enfrentan un número cada vez mayor de daños en el mundo real. Cuando Anthropic publicó un «Constitución de Claudio» A principios de este año, la junta publicó un análisis extenso de la miembro Suzanne Nossel argumentando que Claude también necesitaba el tipo de «supervisión» que la junta le ha proporcionado a Meta. Presentó un argumento similar para la industria de la IA en general en un artículo de opinión en el guardián mes pasado.
Si bien Nossel negó que estuviera dirigiendo directamente a la Junta de Supervisión a Anthropic, dijo que las empresas de inteligencia artificial enfrentan muchos de los «mismos dilemas» que las plataformas de redes sociales. «Cuando se creó la junta por primera vez, había la noción que podríamos trabajar en toda la industria», dijo a …. «Ahora, a medida que el mundo cambia hacia un paradigma centrado en la IA, estamos muy interesados en lo que nuestra experiencia puede aportar a esa conversación».
Los miembros de la Junta de Supervisión, que naturalmente tienen un interés personal en ampliar su competencia, no son los únicos miembros de la industria que han advertido que las plataformas de IA generativa son esencialmente carrera de velocidad Manual de estrategias de las empresas de redes sociales. Un ex investigador de OpenAI escribió recientemente que «OpenAI está cometiendo los errores que cometió Facebook», citando los movimientos de la compañía de IA hacia la optimización para la participación y sus planes para aplicaciones dentro de la aplicación. publicidad. El investigador citó la Junta de Supervisión de Meta como un ejemplo del tipo de gobernanza independiente que se necesita en la industria de la IA.
La cuestión de trabajar con otras empresas ha adquirido una nueva urgencia a medida que la Junta de Supervisión enfrenta la posibilidad de perder el respaldo de Meta. En un comunicado, un portavoz de Meta señaló informes anteriores de que Meta se había comprometido a financiar la junta hasta 2028 y dijo que «nada ha cambiado». Pero una fuente familiarizada con la junta le dice a … que hasta ahora Meta solo ha entregado la mitad del tramo más pequeño de fondos de 2028 a la junta en medio de discusiones en curso sobre su futuro, incluso si ampliará su ámbito más allá de Meta.
También hay preguntas muy reales sobre cómo encaja la Junta de Supervisión en la estrategia actual de Meta en torno a la moderación de contenido. Zuckerberg anunció el año pasado que Meta era alejándose moderación más proactiva, poner fin a la verificación de datos en Estados Unidos y hacer retroceder discurso de odio normas. El propio Zuckerberg según se informa lideró el impulso para estos cambios luego de una reunión con el entonces presidente electo Donald Trump. No se consultó a la Junta de Supervisión, a la que Meta ha pedido en ocasiones que asesore sobre cambios importantes de política. La compañía dijo recientemente que planea reducir la cantidad de moderadores humanos a favor de Sistemas basados en IA.
«La Junta de Supervisión está actualmente involucrada en discusiones significativas con Meta sobre su futuro y la evolución de su modelo para garantizar que la organización pueda abordar los desafíos emergentes más urgentes en la gobernanza, los estándares y la responsabilidad de la IA», dijo un portavoz de la Junta de Supervisión en un comunicado. «En este momento, no se han tomado decisiones sobre el futuro de la Junta, y el trabajo diario y el mandato de la organización permanecen sin cambios».
Los críticos han dicho durante mucho tiempo que la junta, que ha recibido más de 280 millones de dólares de Meta, se mueve con demasiada lentitud. En poco más de cinco años de funcionamiento, la junta ha publicado más de 200 decisiones sobre cuestiones específicas de moderación, que Meta debe respetar. Esas decisiones (una pequeña fracción de los millones de solicitudes que recibe) pueden llevar meses, aunque la junta puede optar por para moverse más rápido. La junta también ha hecho cientos de recomendaciones de políticas, a las que Meta tiene que responder pero no está obligado a implementar. La compañía aceptó al menos algunos cambios en respuesta al 75 por ciento de las recomendaciones, según la junta.
Para la Junta de Supervisión, trabajar con una empresa además de Meta comenzaría a abordar algunos de los desafíos que enfrenta ahora. Aumentaría la credibilidad del grupo en un momento en que Meta parece estar reevaluando su relación con la junta directiva y abriría la posibilidad de nuevas fuentes de financiación. Pero la situación pone de relieve otra tensión latente desde hace mucho tiempo en lo que respecta al papel de la organización de supervisión «independiente». Meta siempre ha tenido el control de cuánta influencia puede tener realmente el grupo. Y no está claro que la compañía esté lista para permitir que la junta directiva, que ha pasado los últimos cinco años aprendiendo los detalles de los procesos políticos y de moderación de contenido de Meta, asesore a las compañías con las que ahora compite.
Durante su trabajo con Meta, la Junta de Supervisión ha intervenido varias veces sobre sus reglas para la IA. el tablero ha criticado la política de «medios manipulados» de la compañía que rige los deepfakes y otros contenidos, lo que llevó a Meta a adoptar nuevas reglas en torno al etiquetado de IA. En su forma más decisión reciente Al tratar con la IA, la junta instó a Meta a invertir en mejores herramientas de detección de IA y a colaborar más estrechamente con otras plataformas. La empresa aún no ha respondido formalmente a esas recomendaciones.