Junta de Supervisión de Meta ha pedido a la empresa de redes sociales que refuerce su protección para la gente corriente que es objeto de deepfakes sexualizados. La Junta recomienda agregar suplantaciones generadas por IA en la política de explotación sexual de adultos de Meta, argumentando que esas imágenes y videos no son consensuales por defecto. También quiere que Meta permita a los usuarios designar «cuentas conectadas», como amigos y familiares de confianza, que pueden denunciar posibles violaciones, como imágenes íntimas no consensuadas, en su nombre.
Finalmente, la Junta recomienda hacer que la suplantación de identidad sexual generada por IA sea una categoría separada del acoso y la desnudez en los formularios de apelación y presentación de informes de contenido de la empresa. Por el momento, solo los residentes de Texas y Florida tienen acceso a un formulario especializado que enumera imágenes íntimas deepfake como motivo del informe. La Junta quiere que todos los usuarios de Meta tengan acceso a él, porque «el abuso íntimo no consensuado generado por IA, incluidas las suplantaciones sexualizadas, es un problema global».
La Junta de Supervisión de Meta presentó estas recomendaciones después de investigar un incidente en el que la empresa seguía ignorando el informe de un usuario sobre la suplantación sexualizada de un amigo en Instagram. Inició la investigación después de recibir una apelación del usuario que denunció un vídeo generado por IA en Instagram que mostraba a una mujer ajustándose el vestido, con su ropa interior visible en unos pocos fotogramas. Según el informe de la Junta, el reportero dijo que era amigo de la persona suplantada en el video sin contenido. La persona que aparece en el vídeo de AI ya había cerrado su cuenta.
Dos usuarios reportaron originalmente el video a Meta, pero la compañía no eliminó el deepfake. El usuario que apeló ante la Junta presentó primero una apelación a Meta, pero la compañía aún no eliminó el video de Instagram. Después de que la propia Junta planteó el problema a Meta, la empresa simplemente hizo que la publicación fuera solo para adultos, pero concluyó que no merecía ser eliminada según sus estándares comunitarios.
Meta le dijo a la Junta que en el momento en que se informó originalmente la publicación, no había indicios de que el individuo en el deepfake de IA fuera una persona real. Si la propia persona representada hubiera denunciado el vídeo, habría violado su política de explotación sexual de adultos. El autoinforme habría servido como una clara señal de no consentimiento. Otros indicadores creíbles de falta de consentimiento a los ojos de Meta son los informes de las autoridades, los medios de comunicación o socios de confianza. También funcionarán los subtítulos o títulos de páginas que sugieran que las imágenes o los vídeos se comparten de forma «vengativa o sensacionalista».
La Junta dice que las respuestas de Meta a su investigación indican que la única forma viable para que figuras no públicas establezcan que no han dado su consentimiento es autoinforme. Después de todo, no sería fácil para la gente común involucrar a las fuerzas del orden o a los medios de comunicación. Esas vías son en su mayoría accesibles a figuras públicas. Meta está obligado a responder a estas recomendaciones, pero no está obligado a implementarlas. Si decide adoptarlos, la Junta supervisará su implementación. Para el caso particular que inició esta investigación, la Junta anuló la decisión de Meta de dejar el video y exigió a la empresa que elimine la publicación.
«Está claro que la escala, la velocidad y la sofisticación de las herramientas de IA han resultado en una proliferación de contenido sexualizado no consensual generado por IA a nivel mundial. La difusión de videos sexualizados deepfake conduce a daños psicológicos y a la reputación, que impactan de manera desproporcionada a mujeres y niñas, y tiene un efecto paralizador en la participación en la vida social y política», escribió la Junta en su informe de la investigación.
Esta no es la primera vez que la Junta critica a Meta en asuntos relacionados con el contenido y la moderación de la IA. A mediados de 2025, calificó la incapacidad de la empresa para hacer cumplir sus reglas de manera consistente «incoherente e injustificable» En marzo, la Junta instó a Meta a crear una nueva regla para contenido de IA que sea independiente de su política de desinformación. Esa recomendación surgió de una investigación que involucraba un video generado por IA que afirmaba mostrar edificios dañados en la ciudad israelí de Haifa. El vídeo fue publicado por una cuenta que decía ser un medio de noticias, pero en realidad lo publicó un usuario en Filipinas.