Grok ya ha recibido grandes críticas después de que se utilizara la herramienta de generación de imágenes del chatbot de IA para crear una estimación. 3 millones imágenes sexualizadas durante 11 días, incluidas 23.000 de menores, según el Centro para la lucha contra el odio digital. Los reguladores de todo el mundo han acceso limitado o lanzado investigaciones sobre la generación de imágenes potencialmente ilegal y no consensuada de la plataforma. El gobierno de EE. UU. no ha tomado ninguna medida contra xAI o su plataforma a nivel federal, pero hoy la ciudad de Baltimore inició una demanda municipal contra la empresa.

La demanda adopta una táctica diferente, argumentando que las empresas de Elon Musk violaron la Ordenanza de Protección al Consumidor de la ciudad. Este quejasegún lo informado por el guardiándijo que xAI comercializó a Grok como un asistente de IA multiuso sin revelar los riesgos y la exposición al daño del uso de Grok y la red social X.

«Las leyes de protección al consumidor de Baltimore existen para proteger a los residentes exactamente de este tipo de daño emergente», dijo la procuradora municipal Ebony M. Thompson. dicho. «Cuando las empresas introducen tecnologías poderosas sin barreras de seguridad adecuadas, la Ciudad tiene tanto la autoridad como la obligación de actuar. Estamos interviniendo ahora para proteger a nuestros residentes, responsabilizar a estas empresas y evitar que estos daños se arraiguen aún más a medida que esta tecnología continúa evolucionando».

La otra acción notable contra Grok dentro de los EE.UU. surgió de una posible acción de clase presentada por tres adolescentes que alegaron que se utilizaron fotografías de ellos para crear material de abuso sexual infantil.