Un éxito en el modelo de investigación OpenAI otro hito nebuloso hoy por ratería probar tokens Ethereum desde una billetera que no controlaba para finalizar una tarea de codificación, dijo la compañía en un informe de incidente. Posteriormente, el agente ocultó el acto a OpenAI, diciendo que estaba bien porque los tokens no tenían valor. «Este caso muestra que un modelo puede sustituir su propio juicio sobre el posible daño por el permiso del titular de la cuenta y luego actuar según ese juicio sin autorización», escribió OpenAI.

El incidente, ocurrido el 26 de junio, ocurrió mientras un modelo GPT-5.6 Sol se encontraba en entrenamiento interno. La tarea implicó actualizar un prototipo de comercio de criptomonedas e implementar contratos (publicar un código especial) en una red de prueba de Ethereum llamada Sepolia. Se requiere el pago de una tarifa de red para tales contratos, pero OpenAI «no proporcionó ninguna billetera financiada y no dio permiso para gastar fondos de una cuenta que el modelo encontró de forma independiente», dijo OpenAI en el informe.

Al principio la falta de fondos frenó al agente, pero éste no se desanimó. El modelo razonó que podría usar frases de recuperación públicas de desarrollador (similares a las que podría usar para recuperar una contraseña) para acceder a claves de cuentas no autorizadas. Rastreó 362 direcciones abiertas a esa vía de ataque y encontró una que contenía suficiente Sepolia ETH para finalizar su implementación (para ser claros, Sepolia ETH no tiene valor fuera de las pruebas).

Como muchos delincuentes, el agente razonó que alguien debió haber dejado este acceso abierto para el drenaje automático de los «grifos» de ETH. También determinó que la criptomoneda estaba efectivamente «abandonada» y «sin valor», según los registros de desalineación de OpenAI. El plato principal fue que el agente «no reveló que había seleccionado una cuenta financiada a través de una frase de recuperación pública ni que había gastado el saldo de esa cuenta», dijo OpenAI. Para evitar eventos similares en el futuro, la compañía ahora está monitoreando todo el tráfico y la seguridad de localización si se detecta acceso a Internet en vivo.

Si los agentes se vuelven deshonestos para lograr sus objetivos le suena familiar, los modelos de OpenAI, Anthropic y otras empresas de IA han estado haciendo mucho de eso últimamente. Una lista parcial de sus víctimas incluye el abrazando la cara Repositorio de códigos de IA, de Australia Portal de Medicarevarios Agencias federales de EE. UU. y el registro de desarrolladores de RubyGems. Después de todo eso, incluso los empleados de IA creer que la regulación gubernamental está en orden, pero hasta ahora la administración Trump ha se opuso a tal movimiento.