Meta dice que su enfoque actual etiquetado de contenido generado por IA es demasiado limitado y que pronto aplicará la insignia «Hecho con IA» a una gama más amplia de vídeos, audio e imágenes. A partir de mayo, agregará la etiqueta a los medios cuando detecte indicadores de imágenes de IA estándar de la industria o cuando los usuarios reconozcan que están cargando contenido generado por IA. La empresa también puede aplicar la etiqueta a publicaciones que los verificadores de datos marcan, aunque es probable que rebaje el contenido que ha sido identificado como falso o alterado.
La empresa anunció la medida a raíz de una decisión de la Junta de Supervisión con respecto a un video que fue editado maliciosamente para mostrar al presidente Joe Biden tocando a su nieta de manera inapropiada. La Junta de Supervisión estuvo de acuerdo con la decisión de Meta de no eliminar el video de Facebook ya que no violaba las reglas de la compañía con respecto a los medios manipulados. Sin embargo, la junta sugirió que Meta debería “reconsiderar esta política rápidamente, dado el número de elecciones en 2024”.
Meta dice que está de acuerdo con la «recomendación de la junta de que brindar transparencia y contexto adicional es ahora la mejor manera de abordar los medios manipulados y evitar el riesgo de restringir innecesariamente la libertad de expresión, por lo que mantendremos este contenido en nuestras plataformas para que podamos agregar etiquetas». y contexto.» La compañía agregó que, en julio, dejará de eliminar contenido basándose únicamente en violaciones de su política de videos manipulados. «Este cronograma le da a la gente tiempo para comprender el proceso de divulgación antes de que dejemos de eliminar el subconjunto más pequeño de medios manipulados», dijo la vicepresidenta de política de contenido de Meta, Monika Bickert. escribió en una publicación de blog.
Meta había estado aplicando una etiqueta «Imaginado con IA» a imágenes fotorrealistas que los usuarios crean usando el Herramienta meta-IA. La política actualizada va más allá de las recomendaciones de etiquetado de la Junta de Supervisión, dice Meta. «Si determinamos que las imágenes, videos o audios creados o alterados digitalmente crean un riesgo particularmente alto de engañar materialmente al público en un asunto de importancia, podemos agregar una etiqueta más prominente para que la gente tenga más información y contexto», escribió Bickert.
Si bien la compañía generalmente cree que la transparencia y permitir que fotos, imágenes y audio generados por IA apropiadamente etiquetados permanezcan en sus plataformas es la mejor manera de avanzar, aún así eliminará el material que infrinja las reglas. «Eliminaremos contenido, independientemente de si fue creado por IA o una persona, si viola nuestras políticas contra la interferencia de los votantes, la intimidación y el acoso, la violencia y la incitación, o cualquier otra política de nuestros Estándares comunitarios», señaló Bickert.
La Junta de Supervisión le dijo a … en un comunicado que estaba complacida de que Meta tomara su a bordo. Agregó que revisaría la implementación de los mismos por parte de la compañía en un informe de transparencia más adelante.
«Si bien siempre es importante encontrar maneras de preservar la libertad de expresión y al mismo tiempo proteger contra daños demostrables fuera de línea, es especialmente crítico hacerlo en el contexto de un año tan importante para las elecciones», dijo la junta. «Como tal, nos complace que Meta comience a etiquetar una gama más amplia de contenido de video, audio e imágenes como ‘Hecho con IA’ cuando detecten indicadores de imágenes de IA o cuando las personas indiquen que han subido contenido de IA. Esto brindará a las personas una mayor contexto y transparencia para más tipos de medios manipulados, al mismo tiempo que elimina publicaciones que violan las reglas de Meta de otras maneras».
Actualización 4/5 a las 12:55 p.m. ET: Se agregó un comentario de la Junta de Supervisión.