Los funcionarios estadounidenses y sus aliados han identificado y derribó un sistema de inteligencia artificial ruso granja de bots compuesta por casi 1.000 cuentas, que difunden desinformación y sentimientos prorrusos en X. El Departamento de Justicia ha reveló El esquema que fue posible gracias al software fue creado por un departamento de medios digitales dentro de R.O.un medio de comunicación ruso controlado por el Estado. Su desarrollo fue aparentemente liderado por RT redactor jefe adjunto en 2022 y fue aprobado y financiado por un oficial del Servicio Federal de Seguridad de Rusia, el principal sucesor del KGB.
En un aviso de ciberseguridad emitido por el FBI, oficiales de inteligencia de los Países Bajos y autoridades de ciberseguridad de Canadá, específicamente mencionado Una herramienta llamada «Meliorator», que puede crear «personajes de redes sociales de apariencia auténtica en masa», generar mensajes de texto e imágenes y reflejar desinformación de otros personajes de bots. Las autoridades han confiscado dos dominios que la operación utilizó para crear direcciones de correo electrónico que eran necesarias para registrarse en cuentas en X, anteriormente conocida como Twitter, que sirvió como hogar de los bots.
Sin embargo, el Departamento de Justicia todavía está en proceso de encontrar las 968 cuentas utilizadas por los actores rusos para difundir información falsa. X ha compartido información con las autoridades sobre todas las cuentas identificadas hasta el momento y ya las ha suspendido. El Washington Post Según ha señalado, los bots han logrado burlar las medidas de seguridad de X, ya que pueden copiar y pegar OTP de sus cuentas de correo electrónico para iniciar sesión. El uso de nombres de dominio con sede en Estados Unidos por parte de las operaciones viola la Ley de Poderes Económicos de Emergencia Internacional, según ha indicado el Departamento de Justicia. Mientras tanto, pagar por ellos viola las leyes federales de blanqueo de dinero en Estados Unidos.
Muchos de los perfiles creados por la herramienta se hicieron pasar por estadounidenses utilizando nombres que sonaban a estadounidenses y estableciendo su ubicación en X en varios lugares de Estados Unidos. Los ejemplos presentados por el Departamento de Justicia utilizaron fotos de rostros sobre fondos grises como fotos de perfil, lo que es un buen indicador de que fueron creados utilizando IA. Una cuenta con el nombre Ricardo Abbott, que afirmaba ser de Minneapolis, publicó un video del presidente ruso Vladimir Putin justificando las acciones de Rusia en Ucrania. Otra cuenta con el nombre Sue Williamson publicó un video de Putin diciendo que la guerra en Ucrania no se trata de un conflicto territorial y es una cuestión de «principios en los que se basará el Nuevo Orden Mundial». Estas publicaciones fueron luego marcadas como «me gusta» y republicadas por otros bots en la red.
Vale la pena señalar que, si bien esta granja de bots en particular se limitó a X, las personas detrás de ella tenían planes de expandirse a otras plataformas, según el análisis de las autoridades del software Meliorator. Los actores extranjeros que difunden desinformación política han estado utilizando las redes sociales para difundir noticias falsas durante años. Pero ahora han agregado IA a su arsenal. En mayo, OpenAI reportado que desmanteló cinco operaciones de influencia encubiertas originadas en Rusia, China, Israel e Irán que utilizaban sus modelos para influir en los resultados políticos.
«Rusia pretendía utilizar esta granja de bots para difundir desinformación extranjera generada por IA, ampliando su trabajo con la ayuda de la IA para debilitar a nuestros socios en Ucrania e influir en las narrativas geopolíticas favorables al gobierno ruso», dijo el director del FBI, Christopher Wray, en un comunicado. «El FBI está comprometido a trabajar con nuestros socios y desplegar operaciones conjuntas y secuenciadas para interrumpir estratégicamente a nuestros adversarios más peligrosos y su uso de tecnología de vanguardia para fines nefastos».
Como para R.O.dijo el medio de comunicación Bloomberg:»La agricultura es un pasatiempo favorito de millones de rusos».