xAI ha promovido durante mucho tiempo a Grok como un tipo de chatbot más atrevido con menos barreras de seguridad que otras empresas de inteligencia artificial. Hemos visto que eso se desarrolla en algunos desastroso maneras durante el último año, pero ahora estamos obteniendo una idea de por qué la compañía se ha inclinado tanto hacia esa estrategia a pesar de algunos verdaderos desastres de relaciones públicas.

Resulta que las actividades NSFW representan «más de la mitad» del tráfico de Grok, según un nuevo informe en La información que cita a dos ex empleados de la empresa propiedad de SpaceX. Eso incluye el uso de Grok para generar pornografía real, así como «chats de juegos de rol para adultos» y «enormes volúmenes de solicitudes de contenido erótico».

Al parecer, los usuarios de Grok incluso han descubierto que es más barato canalizar dichas solicitudes a través de los modelos de la compañía destinados a escribir código porque son más baratos de usar. El informe dice que un análisis interno encontró que una «proporción significativa de solicitudes» a su modelo de codificación eran para «imágenes pornográficas o de desnudos». Todo eso sugeriría que SpaceX puede atribuir una cantidad decente de ingresos xAI al contenido pornográfico y para adultos. Aunque el papel del material NSFW en los resultados de la empresa de alguna manera se omitió en el informe de la empresa Trámites de salida a bolsaSpaceX dijo a los inversores potenciales que las características más «irreverentes» de Grok eran un riesgo potencial. Dijo que tenía reservados 530 millones de dólares para hacer frente a posibles costos legales.

El informe también expone algunas de las formas en que esto ha complicado las cosas dentro de la empresa de IA. Por un lado, los ingenieros de xAI tuvieron que descubrir cómo permitir que Grok tuviera conversaciones sexys con los usuarios y al mismo tiempo bloquear cualquier mensaje que pudiera desviarse hacia material de abuso sexual infantil. (Aparentemente no hubo «soluciones rápidas» para el dilema).

Algunos empleados tampoco estaban muy entusiasmados con haber sido asignados a trabajar en «Ani», el NSFW de Grok. avatar inspirado en el anime compañero. Otros supuestamente se sintieron «avergonzados y perturbados» por el escándalo que siguió después de que Grok creara un montón de imágenes sexualizadas de personas reales. incluyendo niños. Posteriormente, X limitó la capacidad de crear ediciones picantes a partir de imágenes de personas reales usando Grok directamente en la plataforma, pero los suscriptores pagos de xAI aún pueden generar dicho material. pruebas tener encontró.

Hay otros desafíos potenciales que podrían surgir del enfoque de Grok en material con clasificación R. xAI ha buscado agresivamente contratos gubernamentales y ha firmado acuerdos con varias agencias y el militarinstituciones de las que normalmente se esperaría que tuvieran una tolerancia muy baja hacia cualquier cosa remotamente NSFW. Pero si bien los coqueteos anteriores y muy públicos de Grok con deepfakes no consensuales y CSAM han provocado numerosos demandas y investigacionesno está claro si esos incidentes han tenido algún impacto en su relación con el gobierno federal.