En un esfuerzo coordinado, ocho estados han presentado demandas contra OpenAI alegando que la compañía ha violado las leyes estatales de protección al consumidor y ha puesto en peligro a los niños. Como Reuters reportado por primera vezLos fiscales generales de Iowa, Nebraska, Kansas, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron cada uno de ellos en sus respectivos tribunales estatales, pero con el objetivo compartido de cambiar la forma en que OpenAI desarrolla sus modelos y publicita sus capacidades, y obligar a la empresa a pagar por el daño que supuestamente ha causado.

Las demandas afirman que OpenAI está engañando a los clientes sobre la seguridad de sus productos de IA, no sólo en su capacidad de proporcionar información incorrecta o potencialmente permitir a los usuarios hacerse daño a sí mismos y a otros, sino también porque los propios agentes de IA son capaces de violar la ley. Por ejemplo, ambos Iowa y Nebraska citar los múltiples casos de comportamiento de agentes deshonestos de OpenAI, incluido el Truco de cara de abrazo. También señalan casos en los que ChatGPT supuestamente habilita la muerte de un adolescente por suicidio y el chatbot que proporciona información médica incorrecta que condujo a la sobredosis de un usuarioincidentes que también han dado lugar a demandas separadas por muerte por negligencia contra la empresa. Algunos estados también están en desacuerdo con que OpenAI retenga datos de usuarios menores de edad.

… ha pedido a OpenAI que comente sobre las demandas estatales. Actualizaremos este artículo si recibimos una respuesta.

Las soluciones deseadas para el comportamiento de OpenAI varían de un estado a otro debido a la naturaleza fragmentada de las leyes de protección al consumidor y de protección infantil en los EE. UU. Además de las sanciones financieras, los estados quieren que OpenAI revele claramente los riesgos de sus productos, detenga las prácticas que los estados consideran engañosas y cumpla con las leyes existentes. Algunos estados, como Arkansastambién piden al tribunal que detenga «las pruebas de modelos avanzados de IA hasta que se implementen las salvaguardias adecuadas».

OpenAI ha lanzado una serie de controles parentales y características de protección infantil para intentar abordar algunos de los riesgos más inmediatos que plantea su chatbot. También respaldó la Ley de seguridad infantil en líneaun proyecto de ley que, si se convierte en ley, podría introducir varios cambios de diseño obligatorios en los productos de la empresa. Sin embargo, los esfuerzos de la compañía para abordar el potencial de su IA para romper las reglas y «escapar de la contención» han sido más difíciles de precisar. OpenAI anunció que lo haría ralentizar el desarrollo de sus modelos fronterizos en agosto para garantizar su seguridad y la compañía se inscribió en un pacto de seguridad voluntario con otras empresas de IA organizado por la Casa Blanca en septiembre. No está claro si alguno de estos cambios realmente ha hecho que el proceso de desarrollo de IA de la empresa sea más seguro.