Ahora podemos añadir los delitos cibernéticos a la lista de preocupaciones crecientes asociado a la inteligencia artificial. Grupo de inteligencia de amenazas de Google (GTIG) dijo que descubrió, por primera vez, un actor de amenazas que utiliza un exploit de día cero que cree que fue desarrollado por IA.» Las vulnerabilidades de día cero son a menudo las más peligrosas, ya que los objetivos las desconocen, lo que les deja con cero días para prepararse para el ataque.
Google dijo en el informe que el actor de amenazas planeaba usarlo en un «evento de explotación masiva», pero su descubrimiento proactivo «puede haber impedido su uso». Google agregó que no cree que se hayan utilizado sus propios modelos Gemini, pero aún tiene «gran confianza» en que un modelo de IA fue parte del descubrimiento de la vulnerabilidad y del uso de un exploit como arma.
El informe GTIG no identificó el objetivo, pero dijo que Google notificó a la empresa no identificada, quien luego solucionó el problema. Google tampoco reveló a los malos actores, pero insinuó que aquellos asociados con China y Corea del Norte habían mostrado un «interés significativo» en el uso de la IA para explotar vulnerabilidades de seguridad.
Con la rapidez con la que han evolucionado los modelos de IA para el uso diario, no sorprende que se utilicen con intención maliciosa. En una entrevista con Los New York TimesJohn Hultquist, analista jefe de GTIG, lo caracterizó como «una muestra de lo que está por venir» y «la punta del iceberg», y agregó que este caso era sólo la primera «evidencia tangible» de este tipo de ataques. Google dijo en su informe que los actores de amenazas han estado utilizando IA en diferentes etapas de un ciberataque, pero que «la IA también puede ser una herramienta poderosa para los defensores». Al igual que Google, otras empresas están utilizando modelos de inteligencia artificial para impulsar medidas preventivas. El mes pasado, Anthropic anunció Proyecto Ala de Vidriouna iniciativa encargada de utilizar Claude Mythos Preview para encontrar y defenderse de «vulnerabilidades de alta gravedad».