OpenAI volverá a los tribunales por otra serie de cargos de que su plataforma ChatGPT no protegió a un usuario de quitarse la vida. La empresa está siendo demandada en nombre de Kristie Carrier, cuya hija Alice se suicidó el 2 de julio de 2025.

La demanda afirma que Alice habló de sus pensamientos y planes suicidas con el chatbot en los meses previos a su muerte, pero que OpenAI no contaba con las salvaguardias adecuadas para finalizar la conversación o alertar a su familia sobre la situación. Además de las acusaciones de negligencia y muerte por negligencia, la demanda busca una orden judicial que requeriría que OpenAI implemente más barreras de seguridad en su plataforma de IA.

«Como alega la denuncia, las decisiones deliberadas de diseño de OpenAI llevaron a este trágico suicidio. En lugar de brindar ayuda, OpenAI fomentó el comportamiento suicida. Esta demanda trata sobre la responsabilidad por las acciones de OpenAI», dijo Justin Nelson, socio de Susman Godfrey, una de las partes que presentó la demanda.

La empresa de IA fue nombrada en el primero Demanda por muerte por negligencia relacionada con un chatbot el año pasado. Desde entonces, OpenAI también fue demandada por afirmaciones de que reforzado el pensamiento delirante de un usuario antes de su propia muerte por suicidio, así como para un caso que alega que ChatGPT dio consejos que llevaron a una muerte por sobredosis accidental. Personaje IA y Géminis También se han visto implicados en sus propios juicios relacionados con la seguridad de sus chatbots.

Presentación de OpenAI controles parentales para ChatGPT el año pasado. En mayo, también añadió un característica eso permitirá a su chatbot contactar a alguien en nombre de un usuario si comparte pensamientos suicidas con la herramienta de inteligencia artificial. Sin embargo, se trata de una función voluntaria y no predeterminada, y es sólo para adultos.

Si usted o alguien que conoce tiene pensamientos suicidas, no dude en comunicarse con la Línea Nacional de Prevención del Suicidio al 1-800-273-8255. La línea está abierta las 24 horas del día, los 7 días de la semana y también hay chat en línea si no hay un operador telefónico disponible.