TikTok está intensificando sus esfuerzos para etiquetar automáticamente el contenido generado por IA en su aplicación, incluso cuando se creó con herramientas de terceros. La empresa planes anunciados para admitir credenciales de contenido, una especie de eso indica el uso de IA generativa.

Las reglas de TikTok ya exigen creadores Contenido «realista» generado por IA. Pero esa política puede ser difícil de aplicar para la empresa, especialmente cuando los creadores utilizan herramientas de inteligencia artificial de otras empresas. Pero porque se utilizan cada vez más en la industria de la inteligencia artificial, las nuevas etiquetas automatizadas de TikTok deberían poder abordar algunas de esas brechas.

A menudo descritas como una “etiqueta nutricional para contenido digital”, las credenciales de contenido adjuntan “metadatos a prueba de manipulaciones” que pueden rastrear los orígenes de una imagen y las herramientas de inteligencia artificial que se utilizaron para editarla en el camino. Los usuarios pueden ver ese historial si encuentran un contenido creado por IA en una plataforma que admita la tecnología.

TikTok dice que será la primera plataforma de vídeo que admita credenciales de contenido, aunque pasará algún tiempo antes de que estas etiquetas se conviertan en algo común, ya que muchas empresas apenas están comenzando a admitir esta tecnología. (Google, Microsoft, OpenAI y Adobe se han comprometido a admitir credenciales de contenido. Meta ha dicho que está utilizando el estándar para potenciar etiquetas en su plataforma también.)

Sin embargo, vale la pena señalar que las credenciales de contenido y otros sistemas que dependen de metadatos no son infalibles. Notas de OpenAI sobre un que la tecnología «no es una solución milagrosa» y que los metadatos «pueden eliminarse fácilmente, ya sea accidental o intencionalmente». Las etiquetas tampoco son tan efectivas si la gente no se molesta en leerlas. TikTok dice que también tiene un plan para abordar eso. La compañía se ha asociado con la organización de verificación de datos MediaWise y la organización de derechos humanos Witness en una serie de campañas de alfabetización mediática destinadas a educar a los usuarios de TikTok sobre las etiquetas y el contenido generado por IA «potencialmente engañoso».