Meta está trabajando en una herramienta para identificar imágenes y vídeos creados con su nuevo modelo de generación de imágenes, Muse Image. La compañía mostró un adelanto del herramienta basada en web que puede comprobar las marcas de agua invisibles utilizadas por el nuevo modelo.

Este sistema de marca de agua, llamado Content Seal, permanece vigente «incluso cuando se recorta, se comprime, se cambia el tamaño o se hace una captura de pantalla», explica Meta en un publicación de blog. «Estamos presentando una vista previa de una herramienta de detección que le permite comprobar si una imagen lleva una marca de agua Content Seal, lo que proporciona una forma inicial de ayudarle a comprender mejor si una imagen se creó con Meta AI».

Content Seal parece ser un enfoque algo nuevo para Meta. La versión que forma parte de Muse Image es propietaria, aunque la compañía ha lanzado anteriormente versiones de código abierto de la tecnología, dijo Meta a …. Los nuevos modelos de Meta no incluyen marcas de agua visibles, como algunas versiones anteriores de Meta AI que agregaron un pequeño logotipo en la esquina inferior derecha.

Por ahora, las capacidades de detección de Meta AI se limitan a imágenes creadas o editadas con Muse Image, aunque la compañía dijo que planea expandir las marcas de agua Content Seal también a videos generados y editados por AI. Meta también está trabajando en un modelo de generación de video separado llamado Muse Video que «llegará pronto».

Probé la nueva función de detección en imágenes que creé hoy con Meta AI y la herramienta basada en web pudo detectar una marca de agua para imágenes editadas y creaciones totalmente realizadas con IA (como la que se muestra arriba). También encontró la marca de agua en capturas de pantalla de mis imágenes. «Un resultado positivo significa que la imagen fue generada o editada usando la aplicación Meta AI o meta.ai«, explica la compañía en una pregunta frecuente. «Un resultado negativo significa que es poco probable que la imagen haya sido procesada usando la aplicación Meta AI o meta.ai».

Curiosamente, las nuevas capacidades de detección de Meta AI no parecen ser parte de la aplicación Meta AI todavía. Cuando le pregunté al asistente basado en la aplicación de Meta sobre una imagen que la herramienta web había identificado como creada por IA, respondió que no tenía la capacidad de verificarla. «No puedo decirte definitivamente si esta imagen específica fue hecha con Meta Al con solo mirarla», decía. «Meta Al no pone marcas de agua automáticamente en las imágenes y no tengo una herramienta que pueda detectar qué modelo de Al creó una imagen existente».

Meta ya ha enfrentado algunas críticas por cómo etiqueta e identifica el material generado por IA en sus aplicaciones. La Junta de Supervisión le dijo a la compañía a principios de este año que estaba «preocupado» porque Meta estaba «implementando de manera inconsistente» marcas de agua digitales en contenido de IA creado por sus propias herramientas.

Sin embargo, la nueva característica todavía parece tener otras limitaciones. Content Seal no es compatible con SynthID o C2PA Content Credentials, dos métodos de marca de agua establecidos utilizados por otras empresas. En mis pruebas, la función basada en web no pudo identificar imágenes creadas o editadas con versiones anteriores de los modelos de IA de Meta. Cuando agregué imágenes creadas en chats más antiguos con Meta AI, no pudo decirme si la imagen se creó con su IA. La función también parece, por alguna razón, estar sujeta a los límites de velocidad de Meta. Después de subir algunos ejemplos, me alertaron de que había alcanzado mi «límite diario de comprobaciones de identificación».