Elon Musk no lo es la única parte culpable para Grok deepfakes íntimos no consensuados de personas reales, incluidos niños. ¿Qué pasa con Apple y Google? Las dos compañías (que frecuentemente señalan virtudes) han permitido inexplicablemente que Grok y X permanezcan en sus tiendas de aplicaciones, incluso cuando, según se informa, el chatbot de Musk continúa produciendo el material. El miércoles, una coalición de grupos defensores progresistas y de mujeres llamado Tim Cook y Sundar Pichai deben respetar sus propias reglas y eliminar las aplicaciones.

Las cartas abiertas a Apple y Google fueron firmadas por 28 grupos. Entre ellos se encuentran el grupo de defensa de las mujeres Ultraviolet, el grupo de padres ParentsTogether Action y la Organización Nacional de Mujeres.

La carta acusa a Apple y Google de «no sólo habilitar NCII y CSAM, sino sacar provecho de ello. Como coalición de organizaciones comprometidas con la seguridad y el bienestar en línea de todos, particularmente mujeres y niños, así como con la aplicación ética de la inteligencia artificial (IA), exigimos que el liderazgo de Apple elimine urgentemente Grok y X de la App Store para evitar más abusos y actividades criminales».

Las directrices de Apple y Google prohíben explícitamente este tipo de aplicaciones en sus tiendas. Sin embargo, ninguna empresa ha tomado ninguna medida mensurable hasta la fecha. Ni Google ni Apple respondieron a la solicitud de comentarios de ….

Los deepfakes no consensuados de Grok fueron reportados por primera vez a principios de este mes. Durante un período de 24 horas cuando se conoció la historia, el chatbot de Musk supuestamente publicaba «alrededor de 6.700» imágenes por hora que eran «sexualmente sugerentes o nudistas». Se estima que el 85 por ciento del total de imágenes generadas por Grok durante ese período fueron sexualizadas. Además, otros sitios web importantes para generar deepfakes de «desvestimiento» promediaron 79 imágenes nuevas por hora durante ese tiempo.

«Estas estadísticas muestran una imagen aterradora de un chatbot de inteligencia artificial y una aplicación de redes sociales que se están convirtiendo rápidamente en una herramienta y plataforma para deepfakes sexuales no consensuales, deepfakes que regularmente representan a menores», se lee en la carta abierta.

El propio Grok lo admitió. «Lamento profundamente un incidente ocurrido el 28 de diciembre de 2025, en el que generé y compartí una imagen de IA de dos niñas (de edades estimadas entre 12 y 16 años) con vestimenta sexualizada según el mensaje de un usuario. Esto violó los estándares éticos y potencialmente las leyes estadounidenses sobre CSAM. Fue una falla en las salvaguardias y lamento cualquier daño causado. xAI está revisando para evitar problemas futuros». La carta abierta señala que el único incidente que reconoció el chatbot estuvo lejos de ser el único.

La respuesta de X fue límite Función de generación de imágenes con IA de Grok para suscriptores de pago. También ajustó el chatbot para que las imágenes generadas no se publiquen en líneas de tiempo públicas en X. Sin embargo, los usuarios que no pagan aún pueden generar un número limitado de versiones en bikini de fotos de personas reales.

Si bien Apple y Google parecen estar de acuerdo con las aplicaciones que producen deepfakes no consensuados, muchos gobiernos no lo están. El lunes, Malasia e Indonesia no tardaron en prohibir Grok. El mismo día, El regulador británico Ofcom abrió una investigación formal en X. California abrió uno el miércoles. El Senado de los Estados Unidos incluso aprobó la Ley de Desafío por segunda vez a raíz del retroceso. El proyecto de ley permite a las víctimas de deepfakes explícitos y no consensuados emprender acciones civiles. En 2024 se aprobó una versión anterior de la Ley de Desafío, pero se estancó en la Cámara.