Aquí está sobre esta era «dorada» de la IA. Un hacker ha aprovechado el chatbot Claude de Anthropic para llevar a cabo ataques contra agencias del gobierno mexicano. . Esto resultó en el robo de 150 GB de datos oficiales del gobierno, incluidos registros de contribuyentes, credenciales de empleados y más.

El hacker utilizó a Claude para encontrar vulnerabilidades en las redes gubernamentales y escribir scripts para explotarlas. También encargó al chatbot encontrar formas de automatizar el robo de datos, según indica la empresa de ciberseguridad. Seguridad de gambito. Esto comenzó en diciembre y continuó durante aproximadamente un mes.

Parece que el hacker pudo esencialmente hacer jailbreak a Claude con indicaciones, y finalmente pasó por alto las barreras de seguridad del chatbot. Claude originalmente rechazó las nefastas demandas hasta que finalmente cedió.

«En total, produjo miles de informes detallados que incluían planes listos para ejecutar, diciéndole al operador humano exactamente qué objetivos internos atacar a continuación y qué credenciales usar», dijo Curtis Simpson, director de estrategia de Gambit Security.

Anthropic investigó las reclamaciones, interrumpió la actividad y prohibió todas las cuentas involucradas, según un representante de la empresa. El portavoz también afirmó que su último modelo, Claude Opus 4.6, incluye herramientas para acabar con este tipo de uso indebido.

También se ha informado que este hacker utilizó ChatGPT para complementar los ataques, utilizando el chatbot de OpenAI para recopilar información sobre cómo moverse a través de redes informáticas, determinar qué credenciales eran necesarias para acceder a los sistemas y cómo evitar la detección. OpenAI dice que ha identificado intentos del pirata informático de violar sus políticas de uso y que las herramientas se negaron a cumplir.

El hacker sigue sin ser identificado. Los ataques no se han atribuido a un grupo específico, pero Gambit Security sugirió que podrían estar vinculados a un gobierno extranjero. Tampoco está claro qué quiere hacer el hacker con todos esos datos.

La agencia digital nacional de México no ha comentado sobre la violación, pero sí señaló que la ciberseguridad es una prioridad. El gobierno del estado de Jalisco niega haber sido violado y afirma que sólo las redes federales se vieron afectadas. Sin embargo, el instituto electoral nacional de México también negó cualquier violación o acceso no autorizado en los últimos meses. Vale la pena señalar que Gambit encontró al menos 20 vulnerabilidades de seguridad durante su investigación que el país probablemente no esté interesado en resaltar.

Esta no es la primera vez que se utiliza a Claude para un ciberataque importante. El año pasado, piratas informáticos en China manipularon la herramienta para intentar varios de los cuales tuvieron éxito. antrópico que se comprometió a nunca entrenar un sistema de IA a menos que pudiera garantizar de antemano que las medidas de seguridad eran adecuadas. Entonces, ¿quién sabe qué? nuevo infierno que traerá el futuro a medida que las herramientas de la empresa se vuelven más avanzadas.