La compañía publicó un informe sobre campañas de influencia vinculadas a China que utilizaron ChatGPT.
Abierto AI tiene publicado un informe sobre los usuarios de ChatGPT, que según dice probablemente residían en China, que utilizaron el chatbot para planificar una campaña diseñada para influir en las opiniones de los estadounidenses sobre los centros de datos de IA. Dividió a los usuarios en dos grupos, al primero de los cuales había designado el grupo «Data Center Bandwagon». Las cuentas categorizadas en el grupo supuestamente pidieron a ChatGPT que generara temas de conversación e imágenes en inglés, como tiras cómicas, que se centran en cómo los centros de datos de inteligencia artificial aumentan la demanda de electricidad y cómo eso genera facturas más altas para los consumidores.
La compañía dice que estos usuarios se hicieron pasar por estadounidenses de diversos orígenes en las redes sociales, donde publicaron el texto y las imágenes que obtuvieron de ChatGPT. OpenAI cree que son parte de un equipo de redes sociales de una empresa privada china que trabaja para clientes del gobierno local. Al parecer, incluso subieron un archivo al chatbot describiendo sus objetivos y estrategias sobre cómo influir en la opinión pública y cómo establecer cuentas falsas en las redes sociales sin ser detectados.
Este grupo también apuntó a chinos radicados en otros países, llegando incluso a pedirle a ChatGPT que generara insultos destinados a acosar a disidentes y comentaristas políticos chinos. Mientras se hacían pasar por inmigrantes y profesionales chinos radicados en Estados Unidos, incitaron a personalidades públicas en línea a hablar más sobre los fracasos de las políticas estadounidenses.
Vale la pena señalar que, si bien los usuarios probablemente usaron cuentas no auténticas para publicar en las redes sociales, la compañía dice que publicaron enlaces a «noticias legítimas sobre las subastas de capacidad del operador de la red eléctrica y la demanda de energía del centro de datos». El aumento de los costos de la electricidad en pueblos y ciudades cercanos a los centros de datos de IA es una preocupación muy real y es uno de los primeros efectos del auge de la IA que la gente sintió de primera mano. Según un Bloomberg Según el informe, la electricidad cuesta ahora hasta un 267 por ciento más por mes en comparación con hace cinco años en áreas cercanas a los centros de datos, debido a sus demandas de energía. superar suministrar.
Mientras tanto, el segundo grupo de cuentas que descubrió OpenAI generó comentarios e imágenes que criticaban los aranceles y las políticas tecnológicas de Estados Unidos. Se centraron específicamente en generar contenido crítico con Estados Unidos y enfatizaron que el país ha estado apuñalando por la espalda a sus aliados. Este grupo pidió a ChatGPT que mantuviera al presidente chino Xi Jinping fuera de las imágenes que generaban y le dijo al chatbot que escribiera comentarios en inglés, italiano, japonés y chino tradicional para dirigirse al público taiwanés.
OpenAI admite que las campañas no lograron lograr una participación auténtica y que no han cambiado exactamente la opinión pública. Basándose en el propio informe de OpenAI, se centraron en cuestiones reales que ya son controvertidas y discutidas ampliamente en línea en primer lugar. La compañía explica que la razón por la que estas campañas son importantes es porque los «operadores intentaron insertarse encubiertamente en un debate estadounidense en curso sobre el futuro de las capacidades de IA del país mientras ocultaban quiénes eran y qué los motivaba». En cuanto a por qué las campañas eligieron utilizar un chatbot de IA estadounidense en lugar de, digamos, DeepSeek, ni siquiera OpenAI lo supo. «No estamos en condiciones de determinar qué impulsó esta elección», se lee en el informe.