Una investigación reciente realizada por una organización de defensa en línea llamada Tech Transparency Project (TTP) encontró que Apple App Store y Google Play Store . Se trata de aplicaciones de inteligencia artificial que crean imágenes sexualizadas y no consentidas, lo que supone una clara violación de las políticas de tienda de ambas empresas.

En total, la investigación encontró 55 de este tipo de aplicaciones en Google Play Store y 47 en Apple App Store. Ambas plataformas también ofrecen acceso a Grok de xAI, que es probablemente el más famoso. en el mundo.

«Se supone que Apple y Google están examinando las aplicaciones en sus tiendas, pero han estado ofreciendo docenas de aplicaciones que pueden usarse para mostrar a personas con poca o ninguna ropa, lo que las hace propicias para el abuso», dijo Michelle Kuppersmith, directora ejecutiva de la organización sin fines de lucro que administra TTP.

Las aplicaciones identificadas en el informe se han descargado colectivamente más de 700 millones de veces y generaron más de 117 millones de dólares en ingresos. Google y Apple obtienen una parte de este dinero.

Muchas de las aplicaciones mencionadas en la investigación están clasificadas como adecuadas para adolescentes y niños. DreamFace, por ejemplo, está clasificado como adecuado para mayores de 13 años en Google Play Store y para mayores de nueve años en Apple App Store.

Ambas empresas han respondido a la investigación. Apple dice que ha eliminado 24 aplicaciones de su tienda. . Sin embargo, eso no llega a las 47 aplicaciones descubiertas por los investigadores de TTP. Un portavoz de Google dijo que la compañía suspendió varias aplicaciones a las que se hace referencia en el informe por violar las políticas de la tienda, pero se negó a decir cuántas aplicaciones eliminó.

Este informe llega después de que se descubriera que Grok de Elon Musk generaba imágenes sexualizadas de ambos. . En total, el chatbot de IA generó alrededor de tres millones de imágenes sexualizadas y 22.000 que involucraban a niños. .

Los representantes de la empresa no han respondido realmente a estas acusaciones, excepto para enviar un que decía «Mentiras de los medios heredados». Almizcle también ha afirmado que él «no tiene conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero».

Cuenta de seguridad de X «Cualquier persona que use o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal». Grok ha demostrado ser más comunicativo que los humanos reales en la empresa, y el chatbot se disculpó por crear imágenes sexualizadas de menores.