La Junta de Supervisión de Meta insta a la empresa a actualizar sus normas sobre deepfakes sexualmente explícitos. La junta hizo las recomendaciones como parte de su decisión en dos casos que involucraban imágenes de figuras públicas generadas por IA.

Los casos se derivan de dos apelaciones de usuarios sobre imágenes generadas por IA de figuras públicasaunque la junta se negó a identificar a las personas. Una publicación, que se originó en Instagram, mostraba a una mujer india desnuda. La publicación fue reportada a Meta, pero el informe se cerró automáticamente después de 48 horas, al igual que una apelación posterior de un usuario. La empresa finalmente eliminó la publicación después de la atención de la Junta de Supervisión, que, no obstante, revocó la decisión original de Meta de dejar la imagen.

La segunda publicación, que se compartió en un grupo de Facebook dedicado al arte con inteligencia artificial, mostraba “una imagen generada por inteligencia artificial de una mujer desnuda con un hombre tocándole el pecho”. Meta eliminó automáticamente la publicación porque se había agregado a un sistema interno que puede identificar imágenes que se habían informado previamente a la empresa. La Junta de Supervisión determinó que Meta tenía razón al eliminar la publicación.

En ambos casos, la Junta de Supervisión dijo que las falsificaciones profundas realizadas con inteligencia artificial violaban las reglas de la empresa que prohíben las imágenes “sexualizadas y despectivas” realizadas con Photoshop. Pero en sus recomendaciones a Meta, la Junta de Supervisión dijo que el lenguaje actual utilizado en estas reglas está desactualizado y puede dificultar que los usuarios denuncien imágenes explícitas creadas con inteligencia artificial.

En cambio, la junta dice que debería actualizar sus políticas para dejar en claro que prohíbe las imágenes explícitas no consensuales que están creadas o manipuladas por IA. “Gran parte de las imágenes sexualizadas no consensuales que se difunden en línea hoy en día se crean con modelos de IA generativos que editan automáticamente imágenes existentes o crean otras completamente nuevas”, escribe la junta. “Meta debería asegurarse de que su prohibición de contenido sexualizado despectivo cubra esta gama más amplia de técnicas de edición, de una manera que sea clara tanto para los usuarios como para los moderadores de la empresa”.

La junta también criticó la práctica de Meta de cerrar automáticamente las apelaciones de los usuarios, lo que, según dijo, podría tener “impactos significativos en los derechos humanos” de los usuarios. Sin embargo, la junta dijo que no tenía “suficiente información” sobre la práctica para hacer una recomendación.

La difusión de imágenes explícitas de IA se ha convertido en un problema cada vez más importante a medida que el «porno deepfake» se ha convertido en una forma más extendida de acoso en línea en los últimos años. La decisión de la junta llega un día después de que el Senado de Estados Unidos Un proyecto de ley que busca acabar con las falsificaciones explícitas. Si se aprueba, la medida permitiría a las víctimas demandar a los creadores de esas imágenes por hasta 250.000 dólares.

Estos casos no son la primera vez que la Junta de Supervisión presiona a Meta para que actualice sus reglas para el contenido generado por IA. En otro caso de alto perfil, la junta investigó un video del presidente Joe Biden. El caso finalmente resultó en Meta sus políticas sobre cómo se etiqueta el contenido generado por IA.